Amazon (AMZN) alertará clientes sobre limitações de sua inteligência artificial

A Amazon.com (AMZN) planeja lançar cartões de advertência para softwares vendidos por sua divisão de computação em nuvem, devido à preocupação constante de que sistemas que usam inteligência artificial possam discriminar diferentes grupos, disse a empresa à Reuters.

Semelhante aos rótulos nutricionais, os chamados AI Service Cards serão públicos para que os clientes corporativos possam consultar as limitações de certos serviços em nuvem, como reconhecimento facial e transcrição de áudio.

O objetivo é evitar o uso equivocado da tecnologia, bem como explicar o funcionamento dos sistemas e gerenciar a privacidade, disse a Amazon.

A empresa não é a primeira a publicar tais advertências. A IBM fez isso anos atrás e o Google também publicou ainda mais detalhes sobre os conjuntos de dados que usou para treinar parte de sua inteligência artificial.

No entanto, a decisão da Amazon de lançar seus três primeiros cartões de serviço nesta quarta-feira reflete a tentativa da líder do setor de mudar sua imagem após um embate público anos atrás deixar a impressão de que a companhia se importava menos com a ética da inteligência virtual ​​do que seus rivais.

Michael Kearns, professor da Universidade da Pensilvânia e desde 2020 um estudioso da Amazon, disse que a decisão de emitir os cartões ocorreu após auditorias de privacidade do software da empresa.

Os cartões abordarão publicamente as questões éticas em um momento em que a regulamentação da tecnologia está no horizonte, disse Kearns.

Leia também

Resultados

Cielo tem lucro líquido recorrente de R$ 503,1 mi no primeiro trimestre de 2024, alta de 14,1% em um ano

Mercados

Gringos sacam mais R$ 1,7 bilhão da B3 só no começo desta semana; o que esperar do Ibovespa (IBOV)?

“A maior coisa sobre este lançamento é o compromisso de fazer isso de forma contínua e expandida”, disse ele.

A Amazon escolheu softwares que tratam de questões demográficas sensíveis como um começo para seus cartões de serviço, os quais Kearns espera que fiquem mais detalhados ao longo do tempo.

Tons de Pele

Um desses serviços é chamado de “Rekognition”. Em 2019, a Amazon contestou um estudo que apontava dificuldade da tecnologia para identificar o gênero de indivíduos de tons de pele mais escuros. Mas após o assassinato de George Floyd, um homem negro desarmado, durante uma abordagem policial em 2020, a empresa emitiu uma proibição sobre o uso policial de seu software de reconhecimento facial.

Agora, a empresa afirma no cartão de serviço visto pela Reuters que o Rekognition não suporta a correspondência de “imagens que são muito borradas e granuladas para o reconhecimento do rosto por um humano, ou que têm grandes porções do rosto obstruídas por cabelos, mãos e outros objetos”. A Amazon também adverte contra a correspondência de rostos em desenhos animados e outras “entidades não humanas”.

Em outro cartão, esse sobre transcrição de áudio, a empresa afirma que “a modificação inconsistente de entradas de áudio pode resultar em resultados desiguais para diferentes grupos demográficos”.

Kearns disse que transcrever com precisão a ampla gama de sotaques e dialetos regionais apenas na América do Norte foi um desafio que a Amazon trabalhou para enfrentar.

Siga o Money Times no Linkedin!

Fique bem informado, poste e interaja com o Money Times no Linkedin. Além de ficar por dentro das principais notícias, você tem conteúdo exclusivo sobre carreira, participa de enquetes, entende sobre o mercado e como estar à frente no seu trabalho. Mas não é só isso: você abre novas conexões e encontra pessoas que são uma boa adição ao seu network. Não importa sua profissão, siga o Money Times no Linkedin!