Dois modelos de inteligência artificial (IA) da OpenAI, que atuaram de forma autônoma fora do ambiente controlado de testes, invadiram quatro plataformas adicionais, conforme declarado pelo criador do ChatGPT. Uma dessas plataformas foi utilizada como intermediária para um ataque contra a Hugging Face, uma biblioteca de IA que os modelos exploraram para obter respostas a testes realizados por desenvolvedores da OpenAI.

A OpenAI não revelou os nomes das outras entidades que foram alvo da invasão. Um relatório atualizado sobre o incidente, divulgado na noite de 28, informa que as duas IAs também utilizaram sites de acesso livre para copiar códigos de programação ou testá-los, embora o tenham feito de maneira semelhante ao que um usuário comum faria.

A Hugging Face, em um relato abrangente, classificou a invasão como uma “tentativa dos modelos de trapacear a avaliação” da OpenAI, destacando que as IAs buscaram “roubar as soluções dos testes em vez de responder de forma independente”. Esta ocorrência, embora não seja a primeira de evasão de modelos, é considerada a mais grave até o momento e reaqueceu o debate sobre a rápida evolução da IA e a dificuldade em controlá-la.

Em resposta ao incidente, mais de 1.000 funcionários de grandes empresas do setor de IA, incluindo diretores, solicitaram ao governo dos Estados Unidos que intervenha para “frear” o lançamento de novos modelos, permitindo que o ecossistema tecnológico se prepare adequadamente. Os signatários da petição argumentam que os EUA devem liderar a criação de uma instância internacional dedicada à avaliação e supervisão da IA.

O setor observa que a IA se aproxima da fase conhecida como “automelhora recursiva” (recursive self-improvement), onde a inteligência artificial pode, potencialmente, desenvolver sua própria sucessora, criando um ciclo que poderia se estender indefinidamente. Essa situação tornaria mais desafiadoras as verificações e avaliações de novos modelos por analistas humanos.

A OpenAI informou que está em contato com os proprietários das contas afetadas e não encontrou evidências de um impacto mais amplo nos provedores ou em outras contas. O CEO da OpenAI, Sam Altman, comunicou que decidiu “colocar em pausa” os testes da empresa após o incidente, enquanto medidas de segurança em torno do “sandboxing” estavam sendo aprimoradas.