inteligencia artificial vies

Nova York institui lei para regulamentar inteligência artificial

2 minutos de leitura

Objetivo é evitar que os algoritmos contenham algum tipo de viés que possa colocar dados sensíveis em evidência



Por Redação em 04/02/2022

Os algoritmos são a base dos sistemas de inteligência artificial, mas, muitas vezes, eles podem conter algum tipo de viés, como raça ou gênero, o que pode fomentar discriminação. Para evitar isso, o Conselho da Cidade de Nova York deu um primeiro passo no final de 2021, instituindo uma lei que exige auditorias de algoritmos usados ​​pelos empregadores em situações de contratação ou promoção de colaboradores. 

A lei, primeira do tipo no país, estabelece que empregadores devem contratar profissionais para avaliar se o algoritmo apresenta viés com base em sexo, raça ou etnia. Além disso, também passa a ser obrigatório informar o uso de inteligência artificial nos processos seletivos aos candidatos a emprego que moram em Nova York.

Porém, Julia Stoyanovich, professora associada da Universidade de Nova York, que participou das discussões para criar os Sistemas de Decisão Automatizada, considera que a exigência de auditoria é falha porque se aplica apenas à discriminação com base em gênero ou raça. “Algumas dessas ferramentas são realmente sem sentido”, disse ela. “As pessoas precisam ter conhecimento de como funcionam os algoritmos, pois todos nós vamos nos candidatar a empregos em algum momento.”

IA precisa do olhar humano

ia

Além da lei de Nova York, já existem outras iniciativas que visam regulamentar e preservar a imparcialidade dos algoritmos. Em Washington, por exemplo, os membros do Congresso estão elaborando um projeto de lei que exigiria que as empresas avaliassem os sistemas automatizados de tomada de decisão usados ​​em áreas como saúde, habitação, emprego ou educação e relatassem as descobertas à Federal Trade Commission

Uma Declaração de Direitos da IA, proposta em novembro de 2021 pela Casa Branca, pede a divulgação de quando a inteligência artificial toma decisões que afetam os direitos civis de uma pessoa e diz que os sistemas devem ser “cuidadosamente auditados” quanto à precisão e viés, entre outras coisas.

Na União Europeia, os legisladores estão analisando a proposição de uma lei para regular o uso de dados sensíveis pelos algoritmos e a criação de um registro público de sistemas de alto risco. China, Canadá, Alemanha e Reino Unido também já adotaram medidas para regular a IA nos últimos anos.

Apesar da importância de tais iniciativas, vale lembrar que os algoritmos precisam de um olhar humano por trás da inteligência artificial. “Não se trata apenas de criar um algoritmo, é preciso contar com profissionais capacitados, que saibam analisar os dados, para evitar que algum tipo de viés interfira nos resultados. É necessário ter um olhar humano que adeque as informações, faça a limpeza dos dados e faça com que elas se integrem e interajam com os sistemas da empresa”, explicou o  vice-presidente de inovação da Cia Técnica Consulting, Cezar Taurion, em entrevista exclusiva ao Próximo Nível



Matérias relacionadas

gestao de vulnerabilidades Estratégia

Gestão de vulnerabilidades: entenda o que é e como colocar o conceito em prática

A segurança é um ponto cada vez mais crítico para as organizações, que precisam adotar medidas específicas para identificar e fazer a gestão de vulnerabilidades

ciberseguranca Estratégia

Big Data Analytics e Inteligência Artificial são pilares da cibersegurança

Para a Gartner, a análise de dados e soluções automatizadas são determinantes para a proteção de dados e estratégias de segurança digital

ciberseguranca pmes Estratégia

Falta de cibersegurança causa efeitos notórios nas PMEs, mostram pesquisas

Mais de 27% das pequenas e médias empresas (PMEs) não colocam a cibersegurança como prioridade no orçamento

migracao para cloud Estratégia

5 erros na migração para cloud

Planejamento e equipe capacitada estão entre os principais cuidados para as organizações que desejam fazer a migração para cloud