hacking ia

O futuro do hacking de IA

3 minutos de leitura

Saiba o que diz o especialista em cibersegurança, Bruce Schneier, sobre o hacking de IA.



Por Redação em 16/05/2023

“Quando a inteligência artificial começa a pensar como um hacker – em velocidade e escala desumanas – os resultados podem ser catastróficos”. O trecho do livro de Bruce Schneier que apresenta o tema: A Hacker’s Mind: How the Powerful Bend Society’s Rules, and How to Bend Them Back (na tradução, A Mente de um Hacker: como os poderosos dobram as regras da sociedade e como dobrá-las de volta).

Muito tem se dito sobre as questões éticas que envolvem o desenvolvimento e a prática de inteligências artificiais. Seus limites, enquanto máquina, também são questionados se pensarmos que ainda precisam de comandos para iniciarem qualquer atividade. Muito em função disso, na maioria das vezes, a IA age dentro de espectro delimitado. 

“Pelo menos por enquanto”, é o que afirma o especialista em cibersegurança, que  traz à tona a discussão sobre o novo momento da segurança digital. Em tempos de inteligência artificial em pleno desenvolvimento e prática, é preciso compreender as questões éticas e legais envolvidas na atividade. 

Mas… isso pode mudar! 

Alguns agravantes que impactam no futuro do hacking

Hoje os computadores aceleraram o hacking em quatro dimensões: velocidade, escala, escopo e sofisticação. Com o uso da inteligência artificial isso será ainda mais perceptível. 

Velocidade

O que o processo humano do hacking levava meses ou anos, agora se reduz a dias e horas. Logo estaremos falando em segundos. As vulnerabilidades e brechas dos sistemas serão identificadas rapidamente pela inteligência artificial. 

Escala

Quando a IA começar a descobrir hacks, eles explorarão em uma escala para a qual não estamos preparados. Então, será possível que as IAs “esmaguem” os sistemas financeiros, por exemplo, porque elas dominarão esse espaço. Os impactos disso na sociedade podem ser muito maiores do que se imagina, uma vez que a IA será utilizada por bancos e investidores, e não pelo cidadão comum.  

Escopo

Alguns sistemas sociais lidam com hacks, que por sua vez, foram desenvolvidos por hackers humanos. Quando a inteligência artificial hackear, com rapidez e eficiência, será uma disparada de fatos que provocarão, acima de tudo, desigualdade.  

Sofisticação

Os hacks assistidos por IA terão a capacidade de fazer análises sofisticadas da mesma forma que os melhores estrategistas e especialistas reconhecem. Por exemplo, em uma eleição, eles poderão identificar tudo o que precisa ser feito (e até manipulado), para conseguir o resultado esperado. 

De acordo com Schneier, isso pode se tornar um problema real para a sociedade.  

“Na velocidade, escala, escopo e sofisticação do computador, o hacking se tornará um problema que nós, como sociedade, não poderemos mais administrar”.

A ambiguidade no hacking de IA

hacking ia

Imagine o universo criado e comandado por inteligência artificial. Em um primeiro momento, ele precisa de informações para manter o funcionamento. Os ambientes de IA são simulados e recebem regras especificas para que operem. 

E é justamente nesse ponto onde entram os questionamentos de Bruce Schneier. Segundo ele, a IA ainda não tem a capacidade de “pensar e agir” como humanos, dependendo exclusivamente de comandos para que chegue o mais próximo possível disso. Para as máquinas, são apenas códigos e normas a seguir. 

A ambiguidade dos sistemas sociais complexos oferece (ainda) uma defesa de segurança de curto prazo contra o hacking de IA. Os sistemas ainda possuem brechas que podem resultar facilmente em ataques cibernéticos. A discussão é: quanto tempo a inteligência artificial precisará para dominar qualquer sistema? 

A busca por reconhecimento, dinheiro e até mesmo o desafio, foram fatores que sempre motivaram ataques hackers. Hoje, para entender as ameaças digitais, é preciso um passo a mais. 

“Embora a IA possa ser o problema de amanhã, estamos vendo seus precursores hoje. Precisamos começar a pensar em soluções exequíveis, compreensíveis e éticas, porque se podemos esperar alguma coisa com a IA, é que precisaremos dessas soluções mais cedo do que poderíamos esperar”, aponta o especialista.

O sistema financeiro

De acordo com Schneier, o sistema financeiro deve ser o primeiro a ser atacado, uma vez que as regras são projetadas para funcionarem por algoritmos.

Uma IA do universo financeiro pode ser projetada para buscar o “lucro máximo legal”, por exemplo. Para isso, será atualizada com informações financeiras de todo o mundo e em tempo real. E então terá acesso a todas as leis e regulamentações, além de notícias e outros fatos relevantes sobre o setor. 

Para Bruce Schneier, isso não está muito longe de acontecer. “O resultado será todo tipo de hacks novos e completamente inesperados. E provavelmente haverá alguns hacks que simplesmente estão além da compreensão humana, o que significa que nunca perceberemos que estão acontecendo”, explicou.

Sua linha de raciocínio contempla ainda a possibilidade do surgimento de hacks colaborativos entre IA e humanos, num cenário onde hacking de IA identifica a vulnerabilidade do sistema para que os profissionais passem a explorá-la visando o lucro.



Matérias relacionadas

drex liquidez Inovação

Drex: mais liquidez com uso de ativos

Clarissa de Souza, a responsável pela arquitetura que suportará a nova moeda digital, explica a sua funcionalidade e segurança

inclusao mulheres Inovação

Inclusão das mulheres na liderança também chega ao setor financeiro

Para Marisa Reghini, características femininas como colaboração e visão holística têm muito a contribuir para a evolução do setor como um todo

tendencias digitais Inovação

Sete tendências digitais para a década, segundo Sandy Carter

Executiva da Unstoppable Domains é especialista em web 3.0 e apontou caminhos na recente SXSW

bancos preparacao quantica Inovação

Bancos, indústrias e pesquisadores trabalham na preparação quântica

Tecnologia ainda depende de respostas da ciência básica, mas empresas já buscam antecipar as oportunidades e desafios com computação e comunicação baseadas nas propriedades de partículas elementares