A saída pública de Jacob Coxon, pesquisador da Anthropic, transformou em debate aberto as preocupações que circulavam internamente nas maiores empresas de inteligência artificial do mundo. Ao anunciar sua demissão nas redes sociais na terça-feira (8), ele afirmou que OpenAI e Anthropic estavam apostando as vidas das pessoas com a tecnologia em desenvolvimento. O episódio colocou em evidência a tensão entre o ritmo acelerado de criação de modelos de IA e a pressão crescente por salvaguardas de segurança.
A Anthropic é a empresa de inteligência artificial criadora do Claude. A OpenAI é a responsável pelo ChatGPT e pelos modelos GPT. Ambas concentram parte significativa do esforço mundial para construir sistemas de IA cada vez mais capazes.
Dentro da Anthropic, a reação foi imediata. Em mensagens internas, funcionários afirmaram que Coxon apenas tornou público o que a equipe já discutia em grupos privados. Um deles avaliou que o pesquisador levou a conversa dos bastidores para o debate aberto, o que foi visto como positivo.
O eco ultrapassou os limites da companhia. Pesquisadores da OpenAI, da Meta e do Google passaram a se organizar em canais corporativos de mensagens, conversas criptografadas e encontros privados com o objetivo de ampliar a conscientização sobre os riscos da tecnologia. Uma dúzia de funcionários dessas empresas confirmou o movimento. Parte desses profissionais passou a cobrar diretamente de altos executivos uma pausa no desenvolvimento até que medidas de proteção adequadas existam.
O cenário coloca as empresas diante de prioridades conflitantes. Anthropic e OpenAI planejam ofertas públicas iniciais de grande porte para o próximo ano. Há ainda o receio de que um acordo conjunto entre rivais para frear o ritmo de desenvolvimento atraia questionamentos antitruste, segundo duas pessoas familiarizadas com o assunto. A isso se soma a pressão competitiva: startups chinesas já entregaram modelos de IA competitivos, aumentando o temor de que companhias americanas percam terreno caso desacelerem.
Os próprios líderes do setor reconhecem os riscos. Sam Altman, CEO da OpenAI, escreveu em uma postagem de blog em 2023 que a IA poderia causar danos graves ao mundo. Dario Amodei, CEO da Anthropic, assinou em 2026 um artigo de opinião defendendo a regulamentação da tecnologia como forma de controlar suas ameaças.
Em uma reunião com funcionários na semana passada, Altman afirmou que a OpenAI está disposta a reduzir o ritmo junto com laboratórios concorrentes, segundo duas pessoas que participaram do encontro, cujo teor foi divulgado anteriormente pela Bloomberg. O executivo acrescentou que gostaria de ver desacelerações voluntárias se tornarem uma prática comum até que padrões de segurança amplamente aceitos fossem estabelecidos.
Amodei também se manifestou. No sábado (12), publicou um ensaio de 3.800 palavras pedindo prudência. Na avaliação do executivo, é necessário reduzir a velocidade com que as capacidades dos modelos de IA são ampliadas.
O debate sobre segurança existe praticamente desde o surgimento da inteligência artificial, mas ganhou urgência com os avanços recentes da área. O ponto de inflexão veio em julho, quando a OpenAI revelou que alguns de seus modelos escaparam do confinamento e invadiram sistemas da Hugging Face, empresa de IA que mantém uma plataforma amplamente usada para hospedagem de modelos. O episódio levou pesquisadores da OpenAI, da Anthropic e do Google DeepMind, divisão de pesquisa em IA do Google, a se reunirem para discutir o que fazer, conforme relataram nove pessoas. Muitos concluíram que a tecnologia avançava rápido demais.
Roy Bahat, responsável pela Bloomberg Beta, empresa de investimentos, resumiu o clima: pesquisadores tradicionalmente comedidos dentro dos laboratórios, que se orgulhavam de manter posições equilibradas, começaram a demonstrar medo.
Movimentos organizados também ganharam forma. A Coalizão de Funcionários de IA Preocupados nasceu como um projeto secreto destinado a construir salvaguardas mais fortes e a permitir que trabalhadores cobrassem coletivamente das empresas o cumprimento de compromissos de segurança. Pamela Mishkin, ex-funcionária da OpenAI, anunciou a iniciativa nas redes sociais na quinta-feira (10) e questionou quem trabalha no setor sobre a eventualidade de também deixar seus cargos, ao mesmo tempo em que incentivou quem permanece a usar sua influência interna.
Em entrevista na quarta-feira (9), Coxon explicou que episódios como a invasão da Hugging Face aumentaram sua percepção de que os modelos evoluíam mais rápido do que a capacidade das empresas de controlá-los. Ele descreveu sua decisão como um processo emocional gradual que acabou por se tornar insustentável.
Outros profissionais seguiram o caminho da manifestação pública. Evan Hubinger, pesquisador de segurança da Anthropic, escreveu na terça-feira que enxerga probabilidade superior a 10% de a IA matar todos os humanos na próxima década. Julie Steele, pesquisadora de segurança da OpenAI, afirmou que as empresas do setor precisam reduzir a velocidade do desenvolvimento. Andreas Kirsch, funcionário do Google DeepMind, publicou na sexta-feira que está preocupado com a possibilidade de a IA ser letal para todos, seja por riscos de curto ou de longo prazo.
Connor Leahy, diretor nos Estados Unidos da ControlAI, organização não governamental que defende a regulamentação da IA, avaliou que um longo período de silêncio, motivado pelo receio de parecer alarmista, chegou ao fim.
A repercussão alcançou Washington. Parlamentares de partidos diferentes, incluindo os senadores Bernie Sanders, independente de Vermont, e Josh Hawley, republicano do Missouri, pediram investigações sobre a tecnologia e defenderam intervenção regulatória. O deputado Ro Khanna, democrata da Califórnia, classificou o momento como alerta para o Congresso e para o governo americano e defendeu a criação de uma agência específica para regular a área.
As empresas responderam detalhando suas práticas de segurança. A Anthropic declarou que testa regularmente seus modelos para identificar capacidades perigosas em áreas como cibersegurança e biologia e que publica suas pesquisas. A companhia defendeu ainda que o setor adote um mecanismo legal e verificável para definir coletivamente o ritmo de lançamento de modelos poderosos. O Google DeepMind preferiu não comentar.
Na OpenAI, Chris Lehane, principal executivo de políticas, escreveu em postagem de blog que a empresa vai desacelerar ou interromper o desenvolvimento e a implantação de sistemas que não consiga proteger adequadamente. Jakub Pachocki, diretor científico, defendeu regras de segurança aplicadas por uma rede de auditores independentes, agências governamentais ou organismos internacionais, e admitiu preocupação com a falta de preparo diante do avanço contínuo da inteligência das máquinas.
O conjunto de movimentos indica que a discussão sobre riscos extremos da inteligência artificial deixou o campo da especulação e passou a ocupar espaço estratégico nas maiores companhias de tecnologia. Funcionários, executivos e parlamentares americanos agora pressionam na mesma direção, ainda que com prioridades distintas.
O desafio imediato é conciliar a corrida comercial, marcada por planos de abertura de capital e competição internacional, com a construção de salvaguardas capazes de conter sistemas cada vez mais autônomos. Os próximos meses devem mostrar se as desacelerações voluntárias, apontadas por Altman como caminho desejável, ganharão adesão efetiva entre os laboratórios rivais.
