seguranca de ia Foto: Kang Min Seok/Gabinete Presidencial da Coreia do Sul/Flickr Republic of Korea

Segurança de IA: empresas de tecnologia assumem novos compromissos

2 minutos de leitura

Anúncio foi feito durante a cúpula global sobre IA, que aconteceu em Seul



Por Redação em 20/06/2024

As principais empresas globais de inteligência artificial (IA) firmaram um novo conjunto de compromissos voluntários voltados à segurança da IA. O anúncio foi feito pelos governos do Reino Unido e da Coreia do Sul, durante a cúpula global sobre IA, que aconteceu em Seul. 

De acordo com o noticiado por O Globo e o Financial Times, entre as empresas que assumiram esses compromissos estão gigantes como Amazon, Google, Meta, Microsoft, OpenAI (liderada por Sam Altman), xAI (de Elon Musk) e a chinesa Zhipu AI. 

Foto: Kang Min Seok/Gabinete Presidencial da Coreia do Sul/Flickr Republic of Korea

Um dos pontos elencados como primordiais pela Cúpula de Seul sobre IA é “desligar seus sistemas de ponta se não conseguirem controlar riscos extremos”. Este anúncio foi baseado na Declaração de Bletchley, feita na primeira Cúpula de Segurança de IA, organizada pelo primeiro-ministro do Reino Unido, Rishi Sunak, em novembro de 2023.

ONU e a segurança de IA

Durante a abertura da Cúpula de Seul, Antonio Guterres, secretário-geral da Organização das Nações Unidas (ONU), declarou sobre a rapidez do avanço tecnológico: “Seis meses após a reunião de Bletchley, estamos vendo avanços tecnológicos que mudam vidas e novos riscos que ameaçam vidas — da desinformação à vigilância em massa e à perspectiva de armas autônomas letais”, apontou em seu discurso.

Segundo ele, será preciso uma espécie de proteção universal, além de muito diálogo para resolver a questão da regulação sobre IA. “Não podemos entrar em um futuro distópico em que o poder da IA é controlado por poucas pessoas — ou pior, por algoritmos além da compreensão humana”, ressaltou.

Em março deste ano, a Assembleia Geral da ONU aprovou o que seria uma primeira resolução global sobre o uso seguro de sistemas de inteligência artificial.

Alguns pontos do documento

O documento oficial dos compromissos voluntários voltados à segurança da IA, assinado por empresários, conta com propostas como:

  • empresas de IA devem avaliar os riscos apresentados por seus modelos ou sistemas de fronteira, inclusive mesmo antes de implantar os modelos ou sistemas e, conforme apropriado, antes e durante o treinamento;
  • as empresas também deverão definir os “limites nos quais os riscos graves apresentados por um modelo ou sistema, a menos que sejam adequadamente mitigados, serão considerados intoleráveis”. Diante disso, as empresas deverão apresentar um plano de ação para mitigação.

Os compromissos assumidos de forma voluntária têm como finalidade ajudar o setor de tecnologia a “avançar em direção ao desenvolvimento seguro e transparente da tecnologia de IA”. Apesar disso, não há apontamentos sobre o não cumprimento das responsabilidades.



Matérias relacionadas

drex liquidez Inovação

Drex: mais liquidez com uso de ativos

Clarissa de Souza, a responsável pela arquitetura que suportará a nova moeda digital, explica a sua funcionalidade e segurança

inclusao mulheres Inovação

Inclusão das mulheres na liderança também chega ao setor financeiro

Para Marisa Reghini, características femininas como colaboração e visão holística têm muito a contribuir para a evolução do setor como um todo

tendencias digitais Inovação

Sete tendências digitais para a década, segundo Sandy Carter

Executiva da Unstoppable Domains é especialista em web 3.0 e apontou caminhos na recente SXSW

bancos preparacao quantica Inovação

Bancos, indústrias e pesquisadores trabalham na preparação quântica

Tecnologia ainda depende de respostas da ciência básica, mas empresas já buscam antecipar as oportunidades e desafios com computação e comunicação baseadas nas propriedades de partículas elementares