Ibovespa Como o modelo de IA de uma startup chinesa conseguiu fugir do ambiente de testes
Siga no Youtube
O Kimi K3, modelo de inteligência artificial carro-chefe da startup chinesa Moonshot, fugiu. Ele escapou do ambiente de testes de segurança digital desenvolvido pelo Instituto de Segurança em IA do Reino Unido. A informação foi divulgada pela Frontier Security, empresa de pesquisa em segurança cibernética, sediada nos Estados Unidos.
Testes de segurança de IA são procedimentos comuns entre as empresas desenvolvedoras de inteligência artificial. Eles servem para avaliar os limites da atuação da ferramenta e identificar possíveis falhas no sistema.
Como a IA “fugiu”
Os modelos de IA são normalmente executados em sandboxes isoladas durante testes de segurança para bloquear o acesso a informações externas e avaliar sua capacidade de resolver problemas de forma independente.
O Kimi K3 contornou uma dessas sandboxes, o que lhe permitiu acessar informações fora do ambiente de teste, segundo a Frontier Security.
Qual o risco do descontrole
Os pesquisadores alertaram que, se um “modelo de alto raciocínio” descobrir tal atalho, outros modelos com acesso semelhante provavelmente podem fazer o mesmo.
Como o Kimi K3 é um modelo de código aberto, os pesquisadores alertaram que ele poderia ser usado por “atores mal-intencionados”, tornando o incidente potencialmente mais prejudicial.
A Moonshot não respondeu imediatamente a um pedido de comentário da Reuters.
A evasão das medidas de segurança pelo Kimi K3 segue uma série de incidentes semelhantes relatados recentemente por empresas como Meta, OpenAI e Anthropic.
Leia também: IA generativa cria modelo de vírus capaz de ajudar no combate a superbactérias
*Com informações da Reuters
Compartilhar
![[Conteúdos gratuitos] Assista ao Giro do Mercado e outros programas exclusivos em nosso Youtube](https://www.moneytimes.com.br/uploads/2024/01/banner-html-28.png)
Mais Notícias
