O avanço da IA em xeque: o que diz a carta contra a superinteligência artificial

(Imagem: Canva Pro)

Siga o MT no Youtube

Um grupo inusitado — formado por personalidades públicas, cientistas e líderes globais — se uniu para pedir uma pausa na corrida pelo desenvolvimento da chamada “superinteligência” artificial, sistemas capazes de ultrapassar a capacidade humana em praticamente todas as tarefas cognitivas.

• CONFIRA: Está em dúvida sobre onde aplicar o seu dinheiro? O Money Times mostra os ativos favoritos das principais instituições financeiras do país; acesse gratuitamente

Entre os nomes por trás do manifesto estão o príncipe Harry e sua esposa, Meghan Markle, o ex-estrategista de Donald Trump, Steve Bannon, além de artistas, líderes religiosos e pioneiros da inteligência artificial (IA).

O documento é direcionado a big techs como Google, OpenAI e Meta, que disputam a dianteira na criação de modelos cada vez mais potentes de IA, segundo a agência Associated Press.

O que é a superinteligência artificial

A chamada superinteligência, também conhecida como inteligência artificial geral (AGI), descreve um estágio hipotético em que máquinas poderiam superar os seres humanos em raciocínio, criatividade e tomada de decisão.

Diferente das IAs atuais — limitadas a tarefas específicas, como dirigir veículos, recomendar músicas ou gerar textos —, a superinteligência seria autônoma e autorreflexiva, capaz de aprender, adaptar-se e reprogramar-se sem intervenção humana.

O que diz a carta

O texto pede que o desenvolvimento de tecnologias desse tipo seja suspenso até que exista consenso científico e político sobre como criar sistemas seguros e controláveis.

Leia também

Mercados

Ibovespa fecha em alta com Petrobras (PETR4) e retoma os 145 mil pontos; dólar cai

Economia

Paulo Guedes: “O Brasil precisa baixar o tom, reduzir brigas políticas e executar”

Resultados

Banco do Brasil (BBAS3) ainda pior? JPMorgan vê outro ‘detrator’ para balanço; veja o que fazer com papel

“Pedimos a proibição do desenvolvimento de superinteligência, que não será suspensa antes que haja amplo consenso científico de que ela será feita de forma segura e controlável, e forte apoio público”, afirma o documento.

Embora reconheça os benefícios da IA — como ganhos em produtividade e avanços em saúde —, o manifesto alerta que as principais empresas do setor têm como meta construir sistemas capazes de superar significativamente todos os humanos em praticamente todas as tarefas cognitivas.

De acordo com o texto, esse avanço pode gerar recessões, ampliar desigualdades, ameaçar liberdades civis e até colocar em risco a sobrevivência da espécie humana.

Quem assinou a carta contra a superinteligência artificial

Mais de 800 pessoas assinaram o manifesto, incluindo alguns dos maiores nomes da ciência e da tecnologia:

• Geoffrey Hinton e Yoshua Bengio, vencedores do Prêmio Turing e considerados “padrinhos” da IA;

• Steve Wozniak, cofundador da Apple;

• Richard Branson, fundador do Virgin Group;

  CONTINUA DEPOIS DA PUBLICIDADE
  CONTINUA DEPOIS DA PUBLICIDADE

• Daron Acemoglu, economista e vencedor do Nobel de 2024;

• Mary Robinson, ex-presidente da Irlanda;

• Andrew Yao e Ya-Qin Zhang, cientistas chineses;

• Susan Rice, ex-conselheira de segurança nacional de Barack Obama;

• Mike Mullen, ex-presidente do Estado-Maior Conjunto dos EUA.

Também figuram na lista Harry e Meghan Markle, Steve Bannon, Glenn Beck, Stephen Fry, Joseph Gordon-Levitt e o músico will.i.am.

Em nota pessoal à imprensa britânica, o príncipe Harry afirmou que “o futuro da IA deve servir à humanidade, não substituí-la”, e que “o verdadeiro teste do progresso será a sabedoria com que conduzimos esse avanço”.

O alerta dos cientistas

O presidente do Future of Life Institute, Max Tegmark, disse ao Financial Times que o maior perigo da corrida pela superinteligência é a ausência de controle humano.

“Há muitas coisas superestimadas, e é preciso cautela como investidor, mas isso não muda o fato de que a IA avançou muito mais rápido nos últimos quatro anos do que a maioria das pessoas previa”, afirmou Tegmark.

Uma pesquisa divulgada junto com a carta indica que apenas 5% dos norte-americanos apoiam o atual ritmo de desenvolvimento da IA sem regulação, enquanto 75% defendem a criação de regras mais rígidas.

Um déjà vu da era Musk

Em 2023, o mesmo instituto publicou uma carta semelhante, assinada por Elon Musk e outros executivos, pedindo uma pausa de seis meses no treinamento de modelos avançados de IA.

Nenhuma grande empresa atendeu ao pedido — e o próprio Musk criou, logo depois, sua startup de IA, a xAI.

Desta vez, Tegmark reconhece que dificilmente as gigantes do setor assinarão o novo manifesto, mas espera que a iniciativa pressione governos a criar limites claros.

“Os desenvolvedores estão presos em uma corrida tão intensa que sentem uma pressão irresistível para seguir em frente e não serem ultrapassados pelos outros”, disse o pesquisador.

Um debate que ultrapassa a tecnologia

A carta destaca que as ferramentas de IA podem transformar áreas como medicina, ciência e energia, mas pede um debate global sobre o papel da humanidade em um futuro dominado por sistemas autônomos.

“Não se trata de uma proibição ou mesmo de uma moratória no sentido usual”, escreveu o cientista Stuart Russell, da Universidade da Califórnia, em Berkeley. “É apenas um pedido para que sejam exigidas medidas de segurança adequadas para uma tecnologia que, segundo seus próprios criadores, pode causar a extinção humana. É pedir demais?”