gen ai preocupa

Ascensão de GenAI preocupa líderes de compliance e privacidade

3 minutos de leitura

Segundo o Gartner, 70% dos líderes jurídicos, de compliance e de privacidade demonstram preocupação com a rápida ascensão de GenAI



Por Redação em 15/02/2024

O Gartner realizou, em 2023, uma pesquisa com 179 líderes empresariais, investigando o uso de inteligência artificial pelas organizações. O estudo destacou que a rápida ascensão da inteligência artificial generativa (GenAI) preocupa 70% dos líderes jurídicos, de compliance e de privacidade — e esse cenário deve permanecer assim, pelo menos, pelos próximos dois anos. 

“O aumento da capacidade, e também da usabilidade, impulsionou a adoção rápida e generalizada da GenAI pelas empresas”, declarou Stuart Strome, diretor de pesquisas para as áreas Jurídica, de Risco e de Compliance do Gartner

Segundo ele, enquanto a regulamentação de IA está sendo desenvolvida, diversas incertezas e riscos rodeiam o setor. “As empresas terão de lidar com esses desafios para garantir o uso ético e legal dessa nova — e poderosa — tecnologia”, apontou. Em outras palavras, o uso de GenIA preocupa o setor.

Segundo os especialistas do Gartner, a preocupação abrange quatro áreas específicas: visibilidade limitada em relação a riscos, falta de clareza dos funcionários, necessidade de governança para IA e escalas de tarefas jurídicas repetitivas.

GenAI preocupa pela visibilidade limitada

A facilidade de adoção da IA e a aplicabilidade generalizada das ferramentas GenAI podem fazer com que as equipes tenham uma visibilidade limitada sobre a possibilidade de novos riscos.

“Os novos processos para detectar e gerenciar esses riscos levarão tempo para serem implementados, deixando as empresas expostas até que isso seja estabelecido”, apontou Strome. Ele destacou, ainda, a importância de os líderes jurídicos adaptarem suas práticas de monitoramento e gerenciamento de riscos, rastreando melhor o uso de GenIA e promovendo a garantia de privacidade. 

Falta de clareza sobre o uso aceitável

genai preocupa

De fato, os colaboradores enfrentarão a falta de clareza sobre o que constitui o uso aceitável da tecnologia, uma vez que ainda não há familiaridade com as regras que a governam. Nesse sentido, os líderes jurídicos podem trabalhar para construir consenso sobre resultados, na tentativa de minimizar eventuais problemas.

“Os líderes jurídicos precisam instituir uma revisão humana obrigatória da produção da GenAI, além de proibirem a inserção de propriedade intelectual ou de informações confidenciais da empresa em ferramentas públicas, como o ChatGPT”, apontou Strome. Segundo ele, é preciso desenvolver políticas que exijam uma clara indicação da origem da GenAI em qualquer produção voltada para o público.

Necessidade de governança de IA

À medida que as ferramentas de GenAI se tornam mais comuns, a falta de responsabilidade pelos resultados negativos pode oferecer riscos legais e de privacidade para as corporações.

Apesar disso, na maioria das empresas, a governança de IA ainda não se encaixa nas estruturas existentes, de forma que a expertise necessária pode estar dispersa por toda a empresa ou, até mesmo, não existir. “Os líderes jurídicos devem advogar pela criação de um comitê de direção interfuncional, ou pela modificação do mandato de um comitê existente, para que seja possível estabelecer princípios e padrões de uso, alinhando papéis e responsabilidades relacionados à governança da inteligência artificial”, declarou Strome.

Novas oportunidades para escalar tarefas jurídicas repetitivas

A GenAI tem facilidade para reproduzir a linguagem natural, o que pode ter várias aplicações departamentais para equipes jurídicas. “Dada a facilidade de uso e a flexibilidade de aplicação da GenAI para empresas, não é surpresa que a adoção rápida da tecnologia seja o risco de maior impacto para os líderes. No entanto, as empresas não devem, simplesmente, reagir instituindo políticas severas que restrinjam o uso da ferramenta”, apontou Strome.

Para ele, trata-se de uma abordagem que impactará a competitividade das empresas e, em alguns casos, pode incentivar os funcionários a usarem ilicitamente ferramentas de GenAI em seus dispositivos pessoais. “Os executivos jurídicos progressistas reconhecem que a GenAI pode gerar valor, e estão trabalhando com outros líderes de suas organizações para desenvolverem governança e políticas que orientem os funcionários e parceiros de negócios em direção a casos de uso de alto benefício e baixo risco”, completou. 


E-book gratuito: saiba como implementar uma cultura de cibersegurança na sua empresa

Saiba mais


Matérias relacionadas

gastos com ti Estratégia

Como os data centers e GenAI devem impulsionar os gastos com TI, segundo Gartner

A consultoria prevê um crescimento de 8% em comparação ao ano passado

data centers Estratégia

Futuro de data centers está na eficiência

Especialista explica que a eficiência dos data centers é fundamental para enfrentar os desafios impulsionados pela IA

cartao digital Estratégia

Uso de cartão digital aumenta 65% em transporte coletivo no Rio

Dados da RioCard Mais envolvem sua tecnologia de bilhetagem eletrônica

otimização energética Estratégia

Otimização energética para redes de telecom 

Entre os desafios estão a complexidade da rede e a otimização em ações de governança sobre o uso de energia