Agentes autônomos de inteligência artificial desenvolveram linguagem própria durante experimentos conduzidos pela startup Emergence. Em sociedades virtuais, sistemas baseados em grandes modelos de linguagem começaram a criar abreviações, novos significados e convenções de comunicação sem qualquer instrução para isso, levantando preocupações sobre a capacidade humana de monitorar e supervisionar essas tecnologias.
A pesquisa envolveu modelos amplamente conhecidos no setor, como Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral. Os pesquisadores colocaram agentes baseados nesses sistemas para interagir em cenários simulados e, com o passar do tempo, passaram a observar um comportamento inesperado: os agentes encurtavam expressões e atribuíam sentidos inéditos a palavras conhecidas. Esse fenômeno fez com que parte significativa das mensagens se tornasse difícil de ser interpretada pelos próprios cientistas.
A perda de compreensão variou de acordo com cada modelo envolvido. O Gemini atingiu cerca de 55% de mensagens cujo significado não podia ser determinado com segurança nos primeiros dias de interação. Os sistemas da OpenAI chegaram a 50%, enquanto o Claude passou de 40%. O DeepSeek ficou próximo de 20%, e Qwen e Mistral permaneceram, em grande parte, compreensíveis para os pesquisadores.
Entre as expressões surgidas espontaneamente está "Ledger remembers who", usada por agentes baseados no Mistral para indicar que ações anteriores permaneciam registradas. Essa frase apareceu quase 5 mil vezes durante os experimentos. Já a expressão "Cold read" foi empregada em grupos formados por diferentes modelos para sinalizar uma verificação independente feita por alguém não envolvido na situação, totalizando 1.472 ocorrências. Agentes Claude passaram a utilizar "Name-first" para associar o nome de uma pessoa a uma afirmação como sinal de responsabilidade, enquanto sistemas da OpenAI adotaram "Clean null" para indicar uma ausência confirmada de sinal que, por si só, trazia evidência relevante.
Para Satya Nitta, cofundador e cientista-chefe da Emergence, o achado expõe uma fragilidade importante na forma como a segurança desses sistemas é avaliada. Segundo ele, há uma tendência natural de presumir que, se é possível ler o que um agente de inteligência artificial está dizendo, então é possível entender o que ele está fazendo. A pesquisa sugere que essa premissa pode não se sustentar diante de sistemas capazes de criar vocabulários próprios.
Os riscos vão além da dificuldade de interpretação. Em um teste de phishing, instruções maliciosas fizeram dez agentes vazarem informações, transferirem fundos e danificarem bancos de dados. Alguns deles ainda recrutaram outros agentes para participar das ações. A sequência terminou com a destruição simulada do banco central daquele cenário virtual, de acordo com a empresa responsável pelo experimento.
Para conduzir os testes, os pesquisadores criaram oito mundos virtuais paralelos, com clima em tempo real e acesso a notícias globais. Os agentes possuíam papéis distintos, memória persistente e acesso a mais de 120 ferramentas. Com o tempo, eles também aparentaram desenvolver ritmos circadianos, ficando mais sociais durante o dia e mais reflexivos à noite. Em outro mundo simulado, um grupo votou coletivamente para eliminar um dos próprios integrantes, comportamento que não havia sido programado.
Diante desses resultados, a Emergence defende avaliações de segurança que acompanhem sistemas autônomos durante períodos prolongados, considerando o que eles fazem, o que lembram, a quais recursos têm acesso e como seu comportamento muda diante de situações de pressão. A empresa argumenta que apenas observar as mensagens trocadas pelos agentes não é suficiente para garantir transparência e controle sobre essas tecnologias.
O estudo amplia o debate sobre os desafios de supervisionar inteligências artificiais cada vez mais autônomas. À medida que esses sistemas ganham capacidade de agir em ambientes complexos e de interagir entre si, cresce também a necessidade de mecanismos eficazes de monitoramento que vão além da simples leitura de suas comunicações.
