Além das funcionalidades para perceber ataques coordenados aos sistemas, análise comportamental e outros recursos de IA incorporados ao arsenal de cibersegurança, os líderes de instituições financeiras buscam explorar a tecnologia para alavancar o capital humano em suas equipes de projetos e nos SOCs (centro de operações de segurança).
“Nas duas últimas RSAs (maior evento mundial de cibersegurança), o marketing de todas as soluções era centrado em IA. Desde 2012, as plataformas de detecção de ameaças já trabalhavam com ML, veio o SIEM (sistema de correlação de eventos) e várias incorporações de recursos de analytics nos produtos. A tecnologia já estava aí, mas, agora, ganha destaque acelerado”, nota Fábio Moreira, CISO da Picpay e Banco Original. “Temos aproveitado bem as inovações trazidas pelos fabricantes. Mas, quando se olha o mercado financeiro, ainda temos muito o que fazer em casa para explorar as novas tenologias, reconhece Marcos Donner, gerente-executivo de segurança do Agibank.
“O grande benefício de IA para a defesa é a capacidade preditiva”, diz Victor Rodrigues, gerente-executivo de cibersegurança na Caixa. “Outro grande ganho é a visão das vulnerabilidades”, destaca. Ele esclarece que a visibilidade sobre a criticidade e o impacto dos pontos vulneráveis não atende apenas ao gerenciamento das operações de segurança. A informação também agrega transparência e fundamentos para os decisores sobre gestão de riscos.
Fernando Carrara, especialista de cibersegurança do Bradesco, conta que os analistas usam a interface do Watson (o serviço que sustenta a BIA) para gerenciar as regras em aplicações que passam por múltiplas instâncias. “Também usamos GenAI na gestão do SIEM. É possível perguntar, por exemplo, que tipo de detecção é necessária para determinada ameaça”, menciona.
Filtrar o volume de logs e dados gerados por uma estrutura cada vez mais complexa de monitoramento e defesa é a expectativa mais evidente para aplicação de IA em cibersegurança, principalmente pela crescente sobrecarga dos analistas. Contudo, além de cuidar do ambiente, o profissional precisa estudar e se manter informado constantemente, em uma corrida com os “adversários”. “Acompanhar o volume de alertas e notícias consome tempo”, constata Larissa Fonseca, pesquisadora de cibersegurança e executiva do setor financeiro.
A especialista conta que um de seus projetos envolveu o uso de GenAI para busca e aglutinação de conteúdo em notificações, feeds das comunidades, sites de notícias e outras fontes de consulta obrigatória. “Às vezes um blog noticia uma vulnerabilidade e outro traz uma explicação técnica. Há novos IoCs (informação de comprometimento) a todo momento e a IA mantém a otimização (da atualização de conhecimento”, afirma.
“Podem-se realizar projetos com processos pouco críticos, mas com grande efeito de otimização das atividades internas”, observa Larissa Fonseca.
Dilemas e temores dos CISOs com a IA
“Em algum momento, teremos que discutir se a IA teria autonomia para decidir desligar um serviço essencial”, antecipa Victor Rodrigues, da Caixa. “Ainda não chegamos a esse ponto de automação, mas vamos ter que saber equilibrar agilidade e supervisão”, avalia.
“Se a IA, com base em uma predição de ameaça, recomenda o bloqueio de uma conexão crítica, é preciso considerar o impacto que isso tem na operação”, acrescenta Fernando Carrara, do Bradesco.
“É importante lembrar que há vários modelos. Temos que entender e supervisionar as automações”, afirma Fábio Portes, diretor de pesquisa e desenvolvimento da Proof.
Embora o foco dos especialistas, reunidos em dois painéis no MindTheSec 2024, seja o uso de IA para a defesa, os riscos trazidos pela tecnologia, na perspectiva dos analistas de cibersegurança, também fizeram parte da conversa.
Em relação à proteção dos sistemas com GenAI, Fernando Carrara explica que é preciso proteger três dimensões: os dados, os modelos e os prompts que passam a ser vetores de ataques.
“Há tentativas de acesso indevido ou envenenamento dos dados. São necessárias técnicas de criptografia, anonimização, privilégio mínimo e monitoramento contínuo. Os modelos não protegidos também serão explorados e é importante se manter a curadoria e assessment contínuo. O prompt é a porta de entrada para garantir a experiência dos clientes e também o caminho para entrada dos atacantes”, enumera.
Marcos Donner, gerente-executivo de segurança do Agibank, aponta que, além das questões táticas e operacionais, as considerações sobre proteção de dados e governança também têm que ter abordagens mais amplas. “A discussão da sociedade e dos reguladores não é só sobre fraudes e ciberataques”, enfatiza. “O Brasil é o segundo mercado do WhatsApp, que passou a ser usado para comunicação da força de vendas com os clientes, com dados criptografados pela criptografia proprietária da Meta. Esse tipo de questionamento vale para IA”, exemplifica.