inteligencia artificial vies

Nova York institui lei para regulamentar inteligência artificial

2 minutos de leitura

Objetivo é evitar que os algoritmos contenham algum tipo de viés que possa colocar dados sensíveis em evidência



Por Redação em 04/02/2022

Os algoritmos são a base dos sistemas de inteligência artificial, mas, muitas vezes, eles podem conter algum tipo de viés, como raça ou gênero, o que pode fomentar discriminação. Para evitar isso, o Conselho da Cidade de Nova York deu um primeiro passo no final de 2021, instituindo uma lei que exige auditorias de algoritmos usados ​​pelos empregadores em situações de contratação ou promoção de colaboradores. 

A lei, primeira do tipo no país, estabelece que empregadores devem contratar profissionais para avaliar se o algoritmo apresenta viés com base em sexo, raça ou etnia. Além disso, também passa a ser obrigatório informar o uso de inteligência artificial nos processos seletivos aos candidatos a emprego que moram em Nova York.

Porém, Julia Stoyanovich, professora associada da Universidade de Nova York, que participou das discussões para criar os Sistemas de Decisão Automatizada, considera que a exigência de auditoria é falha porque se aplica apenas à discriminação com base em gênero ou raça. “Algumas dessas ferramentas são realmente sem sentido”, disse ela. “As pessoas precisam ter conhecimento de como funcionam os algoritmos, pois todos nós vamos nos candidatar a empregos em algum momento.”

IA precisa do olhar humano

ia

Além da lei de Nova York, já existem outras iniciativas que visam regulamentar e preservar a imparcialidade dos algoritmos. Em Washington, por exemplo, os membros do Congresso estão elaborando um projeto de lei que exigiria que as empresas avaliassem os sistemas automatizados de tomada de decisão usados ​​em áreas como saúde, habitação, emprego ou educação e relatassem as descobertas à Federal Trade Commission

Uma Declaração de Direitos da IA, proposta em novembro de 2021 pela Casa Branca, pede a divulgação de quando a inteligência artificial toma decisões que afetam os direitos civis de uma pessoa e diz que os sistemas devem ser “cuidadosamente auditados” quanto à precisão e viés, entre outras coisas.

Na União Europeia, os legisladores estão analisando a proposição de uma lei para regular o uso de dados sensíveis pelos algoritmos e a criação de um registro público de sistemas de alto risco. China, Canadá, Alemanha e Reino Unido também já adotaram medidas para regular a IA nos últimos anos.

Apesar da importância de tais iniciativas, vale lembrar que os algoritmos precisam de um olhar humano por trás da inteligência artificial. “Não se trata apenas de criar um algoritmo, é preciso contar com profissionais capacitados, que saibam analisar os dados, para evitar que algum tipo de viés interfira nos resultados. É necessário ter um olhar humano que adeque as informações, faça a limpeza dos dados e faça com que elas se integrem e interajam com os sistemas da empresa”, explicou o  vice-presidente de inovação da Cia Técnica Consulting, Cezar Taurion, em entrevista exclusiva ao Próximo Nível


E-book gratuito: saiba como implementar uma cultura de cibersegurança na sua empresa

Saiba mais


Matérias relacionadas

ciberataques na nuvem Estratégia

Ciberataques na nuvem se tornam mais frequentes e perigosos

Relatório da CrowdStrike revela que esse tipo de ataque cresceu em 75% dos casos em 2023

tic Estratégia

Demandas por cloud e segurança crescem com a expansão do ecossistema de TIC

Consolidação da IA e IoT exige cada vez mais investimentos em tecnologias habilitadoras e em segurança

daniel feche Estratégia

“Experiência do cliente é mais foco do que nunca no varejo”

Daniel Feche, head de Varejo para Soluções Digitais da Embratel, destaca que a tecnologia é essencial para garantir a melhor experiência de consumo

roberta buzar Estratégia

Olhar feminista vem de casa e ganha força a cada geração

Roberta Buzar, da Embratel, conta como a mãe, a chefe e outras mulheres a empoderaram, e mostra que essa corrente se mantém