Da esquerda para a direita: Victor Rodrigues, Marcos Donner, Fábio Moreira e Maurício Pegoraro

IA simplifica sobrecarga de dados no gerenciamento de segurança

3 minutos de leitura

CISOs do setor financeiro desenvolvem diversos casos de uso de IA, mas reconhecem que estão no início da identificação das oportunidades e novos riscos com a tecnologia



Por Vanderlei Campos em 25/09/2024

Além das funcionalidades para perceber ataques coordenados aos sistemas, análise comportamental e outros recursos de IA incorporados ao arsenal de cibersegurança, os líderes de instituições financeiras buscam explorar a tecnologia para alavancar o capital humano em suas equipes de projetos e nos SOCs (centro de operações de segurança).

“Nas duas últimas RSAs (maior evento mundial de cibersegurança), o marketing de todas as soluções era centrado em IA. Desde 2012, as plataformas de detecção de ameaças já trabalhavam com ML, veio o SIEM (sistema de correlação de eventos) e várias incorporações de recursos de analytics nos produtos. A tecnologia já estava aí, mas, agora, ganha destaque acelerado”, nota Fábio Moreira, CISO da Picpay e Banco Original. “Temos aproveitado bem as inovações trazidas pelos fabricantes. Mas, quando se olha o mercado financeiro, ainda temos muito o que fazer em casa para explorar as novas tenologias, reconhece Marcos Donner, gerente-executivo de segurança do Agibank.

“O grande benefício de IA para a defesa é a capacidade preditiva”, diz Victor Rodrigues, gerente-executivo de cibersegurança na Caixa. “Outro grande ganho é a visão das vulnerabilidades”, destaca. Ele esclarece que a visibilidade sobre a criticidade e o impacto dos pontos vulneráveis não atende apenas ao gerenciamento das operações de segurança. A informação também agrega transparência e fundamentos para os decisores sobre gestão de riscos.

Fernando Carrara, especialista de cibersegurança do Bradesco, conta que os analistas usam a interface do Watson (o serviço que sustenta a BIA) para gerenciar as regras em aplicações que passam por múltiplas instâncias. “Também usamos GenAI na gestão do SIEM. É possível perguntar, por exemplo, que tipo de detecção é necessária para determinada ameaça”, menciona.

Filtrar o volume de logs e dados gerados por uma estrutura cada vez mais complexa de monitoramento e defesa é a expectativa mais evidente para aplicação de IA em cibersegurança, principalmente pela crescente sobrecarga dos analistas. Contudo, além de cuidar do ambiente, o profissional precisa estudar e se manter informado constantemente, em uma corrida com os “adversários”. “Acompanhar o volume de alertas e notícias consome tempo”, constata Larissa Fonseca, pesquisadora de cibersegurança e executiva do setor financeiro.

A especialista conta que um de seus projetos envolveu o uso de GenAI para busca e aglutinação de conteúdo em notificações, feeds das comunidades, sites de notícias e outras fontes de consulta obrigatória. “Às vezes um blog noticia uma vulnerabilidade e outro traz uma explicação técnica. Há novos IoCs (informação de comprometimento) a todo momento e a IA mantém a otimização (da atualização de conhecimento”, afirma.

“Podem-se realizar projetos com processos pouco críticos, mas com grande efeito de otimização das atividades internas”, observa Larissa Fonseca.

Dilemas e temores dos CISOs com a IA

“Em algum momento, teremos que discutir se a IA teria autonomia para decidir desligar um serviço essencial”, antecipa Victor Rodrigues, da Caixa. “Ainda não chegamos a esse ponto de automação, mas vamos ter que saber equilibrar agilidade e supervisão”, avalia.

“Se a IA, com base em uma predição de ameaça, recomenda o bloqueio de uma conexão crítica, é preciso considerar o impacto que isso tem na operação”, acrescenta Fernando Carrara, do Bradesco.

“É importante lembrar que há vários modelos. Temos que entender e supervisionar as automações”, afirma Fábio Portes, diretor de pesquisa e desenvolvimento da Proof.

Embora o foco dos especialistas, reunidos em dois painéis no MindTheSec 2024, seja o uso de IA para a defesa, os riscos trazidos pela tecnologia, na perspectiva dos analistas de cibersegurança, também fizeram parte da conversa.

Da esquerda para a direita: Fernando Carrara, Fabrício Nogueira, Larissa Fonseca e Fábio Portes

Em relação à proteção dos sistemas com GenAI, Fernando Carrara explica que é preciso proteger três dimensões: os dados, os modelos e os prompts que passam a ser vetores de ataques.

“Há tentativas de acesso indevido ou envenenamento dos dados. São necessárias técnicas de criptografia, anonimização, privilégio mínimo e monitoramento contínuo. Os modelos não protegidos também serão explorados e é importante se manter a curadoria e assessment contínuo. O prompt é a porta de entrada para garantir a experiência dos clientes e também o caminho para entrada dos atacantes”, enumera.

Marcos Donner, gerente-executivo de segurança do Agibank, aponta que, além das questões táticas e operacionais, as considerações sobre proteção de dados e governança também têm que ter abordagens mais amplas. “A discussão da sociedade e dos reguladores não é só sobre fraudes e ciberataques”, enfatiza. “O Brasil é o segundo mercado do WhatsApp, que passou a ser usado para comunicação da força de vendas com os clientes, com dados criptografados pela criptografia proprietária da Meta. Esse tipo de questionamento vale para IA”, exemplifica.


E-book gratuito: saiba como implementar uma cultura de cibersegurança na sua empresa

Saiba mais


Matérias relacionadas

Estratégia

Cibercrime investe em construção de marcas para se tornarem unicórnios

Identidade visual, comunicação institucional, códigos de conduta e desinformação sistemática fazem parte da estratégia de propaganda de grupos criminosos

riscos ia Estratégia

Prever riscos evita que IA traga mais problemas do que soluções

Governança de dados e compreensão dos mecanismos de aprendizado e análise são fundamentais para uma estratégia responsável

reforma tributaria Estratégia

Telecom perde com Reforma Tributária, segundo especialistas 

Texto atual pode elevar carga do setor, o que deve onerar os brasileiros com menor renda e comprometer a inclusão digital

crimes ciberneticos Estratégia

ONU define ação global contra crimes cibernéticos

Tratado internacional sobre medidas de proteção contra crimes cibernéticos foi aprovado em agosto, fortalecendo o combate ao problema