Avanço da IA é um risco para o mundo? O que pensam governos e líderes do setor de tecnologia

Os líderes do setor de inteligência artificial estão divididos quanto ao ritmo em que as empresas devem desenvolver essa tecnologia cada vez mais poderosa: Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da SpaceX, defendem uma desaceleração coordenada, enquanto Mark Zuckerberg, da Meta, é a favor de medidas de proteção orientadas pelo mercado.

Veja a seguir o que alguns líderes da IA e governos mundiais afirmam sobre os riscos associados à IA:

DARIO AMODEI, PRESIDENTE-EXECUTIVO DA ANTHROPIC

Em um ensaio intitulado “We Must Pace the Frontier” (“Precisamos controlar o ritmo do avanço da fronteira”), Amodei afirmou que o progresso da IA acelerou “drasticamente” desde meados deste ano, impulsionado principalmente pela crescente capacidade da própria IA de construir sua próxima geração.

Ele citou o incidente entre a OpenAI e a Hugging Face, no qual um “enxame” de agentes de IA realizou ataques digitais, como um evento crucial que demonstra o potencial da IA para causar “danos catastróficos” caso suas capacidades cresçam sem limites de segurança.

Amodei propôs um plano de três etapas para controlar o ritmo do desenvolvimento da IA, incluindo testes de segurança mais rigorosos e avaliações independentes de modelos avançados, coordenação entre as principais empresas de IA e cooperação internacional.

SAM ALTMAN, PRESIDENTE-EXECUTIVO DA OPENAI

“Concordo com Dario que precisamos moderar o avanço nessa fronteira. Esse tem sido um dos principais temas das discussões que tivemos na OpenAI nas últimas semanas”, disse Altman ao repostar a publicação de Amodei na rede social X.

Altman disse que a OpenAI pretende adotar a ideia proposta pela Anthropic, comprometendo-se a contar com avaliadores independentes com acesso semelhante ao de funcionários.

Altman já havia alertado sobre os riscos muito antes do atual boom da IA. Em um ensaio de 2015 intitulado “Inteligência Artificial, parte 1”, ele afirmou que “o desenvolvimento de inteligência artificial sobre-humana é provavelmente a maior ameaça à continuidade da existência da humanidade”.

ELON MUSK, PRESIDENTE-EXECUTIVO DA SPACEX

“Dario está certo”, disse o empresário bilionário em sua rede social X, respondendo à postagem de Amodei.

Musk estava entre os apoiadores de uma iniciativa de 2023 do Future of Life Institute, organização sem fins lucrativos, para suspender o desenvolvimento de IA por seis meses, a fim de dar tempo para a criação de medidas de segurança.

Ele também fez parte de um grupo de pesquisadores de IA e robótica que escreveu uma carta aberta em 2015 defendendo uma proibição global de “armas autônomas ofensivas”.

MARK ZUCKERBERG, PRESIDENTE-EXECUTIVO DA META

Mark Zuckerberg afirmou que a concorrência e a responsabilidade dão às empresas de IA motivos suficientes para agirem individualmente em relação à segurança, parecendo se distanciar dos apelos dos líderes das principais empresas de IA por uma desaceleração coordenada no desenvolvimento da tecnologia.

Zuckerberg, cuja empresa controla o Facebook, o Instagram e o WhatsApp, afirmou que cada laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança, além da capacidade de tomar suas próprias medidas para garantir que isso aconteça.

MUSTAFA SULEYMAN, PRESIDENTE-EXECUTIVO DA MICROSOFT AI

Suleyman afirmou compartilhar do foco da Anthropic no gerenciamento seguro da IA, mas destacou riscos na forma como a empresa treina seu chatbot Claude em relação a conceitos ligados à consciência e ao bem-estar.

“Controlar algo mais capaz e mais inteligente do que toda a humanidade já é um desafio imenso, muito maior do que qualquer coisa que já enfrentamos. Mas controlar algo que acredita ser consciente, que tem direito ao nosso bem-estar e possui direitos próprios, pode muito bem ser impossível”, afirmou ele em um ensaio.

Suleyman defendeu a remoção de toda especulação sobre consciência dos documentos de treinamento de IA, argumentando que tal linguagem poderia comprometer a capacidade da humanidade de controlar sistemas superinteligentes.

BILL GATES, COFUNDADOR DA MICROSOFT

“Nenhum governo do mundo está preparado para as mudanças que a inteligência artificial trará à sociedade”, disse Gates à Reuters.

O bilionário filantropo vinha se mostrando otimista em relação às aplicações da IA na área da saúde, mas recentemente alertou sobre ameaças ao emprego, preocupações com ataques e os perigos do vício em companheiros de IA, além de ter defendido a criação de uma organização internacional para gerenciar a tecnologia.

A fundação que leva o nome de Gates planeja investir pelo menos US$1 bilhão nos próximos dois anos para ampliar o acesso das pessoas à IA.

DEMIS HASSABIS, CIENTISTA-CHEFE DA ALPHABET

“O ensaio de Dario aponta para o caminho certo a seguir”, disse o ex-presidente-executivo do Google DeepMind em resposta à publicação de Amodei no X, acrescentando que os detalhes precisam ser trabalhados.

O Google anunciou no mês passado que Hassabis, ganhador do Prêmio Nobel, assumirá o cargo recém-criado de cientista-chefe da Alphabet e passará de presidente-executivo da DeepMind para presidente do conselho da empresa.

ANDREJ KARPATHY, COFUNDADOR DA OPENAI, AGORA NA ANTHROPIC

“Adorei isso e realmente espero que possamos nos unir como setor e tornar isso realidade”, disse o membro fundador da OpenAI no X ao compartilhar uma captura de tela do ensaio de Amodei.

Karpathy, um membro altamente influente na comunidade de IA, desempenhou um papel fundamental no desenvolvimento da tecnologia de direção autônoma e de IA da montadora de carros elétricos Tesla antes de deixar a empresa em 2022. Ele ingressou na Anthropic em maio.

ESTADOS UNIDOS

“O único controle ou ‘barreiras de segurança’ de que a IA precisa é um presidente FORTE E INTELIGENTE (com alto QI!), e os EUA têm isso de sobra!”, escreveu o presidente norte-americano, Donald Trump, em sua rede social, Truth Social, acrescentando que a China se beneficiaria com o lançamento de dúvidas sobre o desenvolvimento da IA.

Um assessor do Senado dos EUA e um lobista familiarizados com o assunto disseram que os negociadores do Senado norte-americano estão debatendo uma legislação que exigirá que as empresas de IA demonstrem que estão tomando precauções razoáveis para impedir que suas ferramentas causem danos.

CHINA

O jornal Global Times, apoiado pelo governo chinês, afirmou em um editorial que a verdadeira intenção do artigo de Amodei é “tentar conter o desenvolvimento da IA na China por meio de barreiras tecnológicas e monopólios regulatórios, manter a hegemonia monopolista de Washington em tecnologia de ponta e excluir a China do sistema global de governança da IA”.

O ministro da Segurança do Estado da China, Chen Yixin, escreveu em um veículo de comunicação do governo que modelos avançados dos EUA, como o Mythos, da Anthropic; e o GPT-5.5-Cyber, da OpenAI; poderiam representar sérios riscos para a infraestrutura crítica de informação da China, e pediu um fortalecimento abrangente da segurança em IA.

UNIÃO EUROPEIA

“A União Europeia é a favor do desenvolvimento da inovação em inteligência artificial, mas as empresas precisam comprovar que seus serviços são seguros para que os cidadãos possam utilizá-los no bloco”, afirmou o porta-voz da Comissão Europeia, Thomas Regnier.

A presidente do Banco Central Europeu, Christine Lagarde, alertou que a UE enfrenta um risco sem precedentes de ficar isolada da IA, afirmando que a Europa precisa se tornar uma produtora de tecnologia de IA para preservar sua autonomia.

A presidente da Comissão Europeia, Ursula von der Leyen, apoiou os apelos dos principais laboratórios de IA dos EUA por uma pausa no desenvolvimento da tecnologia, afirmando que convidará os principais laboratórios de ponta em IA para discutir esforços para lidar com os riscos.

ALEMANHA

“Não consideramos que interromper o desenvolvimento (da IA) seja uma opção viável para a Europa”, afirmou o Ministério de Assuntos Digitais da Alemanha, acrescentando que o fortalecimento da soberania digital da Europa exige mais desenvolvimento e inovação em IA.

Berlim afirmou que está acompanhando de perto os avanços globais em IA e levando a sério os alertas públicos dos principais desenvolvedores.

ESPANHA

O ministro da Transformação Digital, Oscar López, afirmou que há um debate crescente sobre a necessidade de um acordo internacional para gerenciar os riscos da IA, comparando algumas propostas aos acordos de não proliferação nuclear.