alucinacoes da ia

Especialistas discutem a importância dos dados contra as alucinações da IA

2 minutos de leitura

Depois da euforia, mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA



Por Redação em 04/10/2023

Não existe Inteligência Artificial Generativa (GenAI) sem uma boa base de dados. Essa é a principal conclusão do mercado depois do boom gerado pelo ChatGPT, e foi o que comentaram especialistas que participaram do primeiro dia do Futurecom 2023, em São Paulo.

Depois da euforia, o mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA, que podem comprometer o uso da tecnologia. Para tanto, é fundamental uma boa gestão dos dados e a capacitação das pessoas que vão gerir sua curadoria.

Essa qualidade da gestão foi defendida por Cláudia Nolla Kirszberg, da IBM, que ainda ressaltou a importância das pessoas estarem preparadas para olhar o processo e ver onde ele pode ser melhorado. Essa construção é enfrentada pelo mercado nacional e vem sendo tratada em cursos específicos para as “novas profissões”, como explica Daniel Domingos, sócio diretor da Cogna Educação.

Sem alucinações, IA do futuro está sendo construída

alucinacoes da ia

Mas é quando interfere positivamente nos processos, que a IA generativa se destaca. No Futurecom 2023, vários exemplos foram apresentados, como o seu uso para agilizar processos jurídicos dentro de bancos, além da resolução de problemas no atendimento de empresas de telefonia ou mesmo na solução de desperdícios na linha de produção de uma indústria. “Precisamos começar a entender como dar acesso aos dados e como conduzir essa jornada, pois as perguntas podem trazer respostas mais difíceis. Temos de ter o nosso framework dentro da nossa governança”, comentou Rodrigo Assad, diretor de Inovação e Produtos B2B na beOn.

Durante algumas palestras, que procuraram focar em IA gerativa aplicadas aos negócios e às profissões, ficou clara a preocupação em discutir dentro de casa os processos e o tratamento dos dados. Bradesco, Claro, IBM e Exame, entre outras empresas, citaram a criação de comitês multidisciplinares para entender os níveis de acesso aos dados próprios e aos que serão coletados. 

Em resumo, foi concluído que toda organização vai ter de trabalhar com dados, mas será preciso garantir precisão a eles, eliminando ainda os vieses. “Em função disso, é fundamental pensar em um equilíbrio entre a proteção dos dados e o uso da IA”, defendeu a CTO da Exame, Izabela Anholett. Segundo ela, pouco se fala da importância dos dados para IA generativa, mas é preciso usá-los com parcimônia para fazer as correlações certas e não gerar nenhuma alucinação no modelo da empresa. 

“Estamos muito no começo, na ponta do iceberg. É difícil falar qual vai ser o futuro, pois ainda estamos construindo, vivendo esse momento de descobrir, entender como podemos usar e liderar esse movimento da IA generativa com responsabilidade”, concluiu Izabela.



Matérias relacionadas

ciberataques em 2025 Inovação

Ciberataques em 2025: IA e infraestruturas críticas no alvo

A capacidade da IA de gerar conteúdo realista e automatizar tarefas complexas a torna uma ferramenta poderosa para cibercriminosos

lei sobre IA Inovação

Proposta de lei sobre IA pode prejudicar inovação no Brasil

Segundo a ABES, novo texto sobre IA traz avanços, mas restringe treinamento de modelos

Woven City Toyota Inovação

Woven City: a “cidade futurística” da Toyota que vai testar tecnologias de ponta

Território experimental, no Japão, terá primeiros moradores em 2025 e vai funcionar como um laboratório para tecnologias como direção autônoma, IA e robótica

IA generativa Assad Inovação

“IA generativa pode impulsionar as empresas”, diz diretor de inovação do beOn

Rodrigo Assad, do beOn, destaca o potencial da inteligência artificial para ajudar as empresas a crescerem e se desenvolverem