alucinacoes da ia

Especialistas discutem a importância dos dados contra as alucinações da IA

2 minutos de leitura

Depois da euforia, mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA



Por Redação em 04/10/2023

Não existe Inteligência Artificial Generativa (GenAI) sem uma boa base de dados. Essa é a principal conclusão do mercado depois do boom gerado pelo ChatGPT, e foi o que comentaram especialistas que participaram do primeiro dia do Futurecom 2023, em São Paulo.

Depois da euforia, o mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA, que podem comprometer o uso da tecnologia. Para tanto, é fundamental uma boa gestão dos dados e a capacitação das pessoas que vão gerir sua curadoria.

Essa qualidade da gestão foi defendida por Cláudia Nolla Kirszberg, da IBM, que ainda ressaltou a importância das pessoas estarem preparadas para olhar o processo e ver onde ele pode ser melhorado. Essa construção é enfrentada pelo mercado nacional e vem sendo tratada em cursos específicos para as “novas profissões”, como explica Daniel Domingos, sócio diretor da Cogna Educação.

Sem alucinações, IA do futuro está sendo construída

alucinacoes da ia

Mas é quando interfere positivamente nos processos, que a IA generativa se destaca. No Futurecom 2023, vários exemplos foram apresentados, como o seu uso para agilizar processos jurídicos dentro de bancos, além da resolução de problemas no atendimento de empresas de telefonia ou mesmo na solução de desperdícios na linha de produção de uma indústria. “Precisamos começar a entender como dar acesso aos dados e como conduzir essa jornada, pois as perguntas podem trazer respostas mais difíceis. Temos de ter o nosso framework dentro da nossa governança”, comentou Rodrigo Assad, diretor de Inovação e Produtos B2B na beOn.

Durante algumas palestras, que procuraram focar em IA gerativa aplicadas aos negócios e às profissões, ficou clara a preocupação em discutir dentro de casa os processos e o tratamento dos dados. Bradesco, Claro, IBM e Exame, entre outras empresas, citaram a criação de comitês multidisciplinares para entender os níveis de acesso aos dados próprios e aos que serão coletados. 

Em resumo, foi concluído que toda organização vai ter de trabalhar com dados, mas será preciso garantir precisão a eles, eliminando ainda os vieses. “Em função disso, é fundamental pensar em um equilíbrio entre a proteção dos dados e o uso da IA”, defendeu a CTO da Exame, Izabela Anholett. Segundo ela, pouco se fala da importância dos dados para IA generativa, mas é preciso usá-los com parcimônia para fazer as correlações certas e não gerar nenhuma alucinação no modelo da empresa. 

“Estamos muito no começo, na ponta do iceberg. É difícil falar qual vai ser o futuro, pois ainda estamos construindo, vivendo esse momento de descobrir, entender como podemos usar e liderar esse movimento da IA generativa com responsabilidade”, concluiu Izabela.



Matérias relacionadas

grandes e pequenos Inovação

O encontro dos grandes com os pequenos

No Web Summit Rio 2024, startups e grandes empresas unem forças para potencializar a inovação

ia first nubank Inovação

IA first: Nubank parte para o próximo nível bancário

Assim como o mobile first, que direcionou a empresa nos seus primeiros passos, a IA first passou a ser um conceito para recriar a forma de produção de softwares e ofertas de serviços aos clientes

web summit startups Inovação

No Web Summit Rio 2024, falando a língua universal das startups

Muitas dessas empresas estão na vanguarda de pesquisa e desenvolvimento de soluções para os desafios mundiais

infraestrutura de nuvem com ia Inovação

No próximo nível, como será a implementação da infraestrutura de nuvem com IA?

Durante o Web Summit Rio 2024, no estande do beOn, hub de inovação da Claro e da Embratel, especialistas estão recebendo convidados para discussões pontuais