pausa na ia

Musk, Harari e outros nomes da inovação e tecnologia pedem pausa na IA

2 minutos de leitura

"Carta de trégua na IA" é assinada por mais de mil líderes da tecnologia e especialistas em inteligência artificial



Por Redação em 06/04/2023

Em um movimento contra o crescimento desenfreado de iniciativas usando inteligência artificial (IA), Elon Musk e mais de mil líderes da tecnologia e especialistas em inteligência artificial assinaram uma carta sugerindo uma pausa na IA. A carta traz um apelo pela pausa de pelo menos seis meses nas pesquisas sobre sistemas avançados de inteligência artificial (IA) e é assinada por nomes de relevância mundial como o historiador Yuval Noah Harari e instituições como Oxford, Cambridge, Stanford e Columbia, além de empresas como Google, Microsoft e Amazon.

A publicação, no final de março, chamou a atenção de todo o mundo. Entre outras coisas, ela aponta que o avanço desenfreado da tecnologia representa, na prática, grandes riscos para a humanidade. Uma suposta “corrida fora de controle” pelo avanço de sistemas, também é citada.

Pausa na IA

Entre os apontamentos da petição que pede a pausa na IA, está um novo prazo para que sejam estabelecidos sistemas de vigilância e técnicas que ajudem a diferenciar o real e o artificial.

De acordo com Diogo Cortiz, Cognitive Scientist and Futurist e Professor da PUC-SP, ao que tudo indica, o argumento não vai contra a inovação. No entanto, os impactos da IA são gigantescos, principalmente no que diz respeito aos novos caminhos da humanidade. Por isso é tão importante que isso não fique preso a um número reduzido de empresas.

Confira alguns pontos importantes da carta

O jornalista e editor de tecnologia, Luiz Gustavo Pacete, destacou alguns pontos sobre a carta aberta que pede a pausa na IA. 

  • Planejamento e gerenciamento
  • Competição com humanos
  • OpenAI e a necessidade de uma revisão independente
  • Por que pausar e como proceder?
  • Governança e transparência

Sobre o planejamento e gerenciamento, a IA avançada pode sim representar uma mudança na história da vida na Terra, por isso deve ser planejada e gerenciada com cuidados e recursos proporcionais. O que não vem acontecendo hoje. 

Em relação à competição com humanos, sim, ela vem acontecendo e provocando perguntas como: “vamos nos deixar enganar por uma avalanche de propaganda enganosa gerenciada por IA?” “Devemos arriscar perder o controle de nossa civilização?”, questiona a carta. 

OpenAI e a necessidade de uma revisão independente

A defesa é que, em algum momento, será importante uma revisão independente da inteligência artificial e, por isso, a pausa solicitada deve ser pública e verificável, além de incluir todos os principais atores. “Se a tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, registra.

Sobre por quê e como pausar, basicamente os laboratórios desenvolvedores de inteligência artificial devem usar a pausa na IA para desenvolver e implementar em conjunto de protocolos de segurança. Também é preciso governança e transparência.



Matérias relacionadas

ia sem controle Inovação

Ganhadores do Nobel temem ameaça de IA sem controle

Para cientistas, a tecnologia pode levar a limites indesejáveis, colocando em questão a capacidade humana de controle

uso de ia generativa Inovação

Brasil supera grandes economias no uso de IA generativa

Estudo aponta que 57% dos brasileiros já utilizaram IA generativa, superando EUA, Alemanha, França e outros países

impacto ambiental da ia Inovação

Impacto ambiental da IA é pauta mundial

Em função da diversidade de fontes energéticas, Brasil pode oferecer alternativas sustentáveis para o setor

digitalizacao da saude Inovação

Estudo aponta avanços na digitalização da saúde

A pesquisa revelou que 92% dos estabelecimentos de saúde no Brasil possuem sistemas eletrônicos para registrar informações