Anthropic defende desaceleração global no desenvolvimento da inteligência artificial
A Anthropic publicou em seu blog uma proposta de desaceleração global no desenvolvimento da inteligência artificial, argumentando que a velocidade atual do setor está à frente da capacidade da sociedade de lidar com os impactos dessa tecnologia. Para a empresa, os sistemas em evolução podem abrir caminho para modelos capazes de desenvolver seus próprios sucessores, um cenário que, segundo o artigo, pode chegar antes do que a maioria das instituições está preparada para enfrentar.
No documento, a companhia reconhece que uma inteligência artificial capaz de se aprimorar poderia trazer enormes benefícios para o mundo, especialmente em áreas como ciência e saúde. No entanto, faz um alerta importante: sistemas desse tipo também poderiam aumentar os riscos de os humanos perderem o controle sobre a inteligência artificial. A proposta de desaceleração serviria justamente para conceder mais tempo às estruturas sociais e às pesquisas de alinhamento, que buscam garantir que os sistemas de IA operem de acordo com os interesses humanos, acompanharem a evolução da tecnologia.
A Anthropic afirma que, para que qualquer desaceleração seja efetiva, mecanismos de fiscalização precisam existir. Sem esse tipo de controle, algumas empresas poderiam continuar desenvolvendo tecnologia em segredo enquanto outras interrompem suas atividades, o que tornaria a medida inócua. A empresa destaca que uma desaceleração ou pausa significativa exigiria que múltiplos laboratórios bem financiados, na fronteira tecnológica ou próximos dela, em diferentes países, concordassem em parar sob as mesmas condições. Além disso, seria necessário que cada participante pudesse verificar que os demais realmente interromperam seus trabalhos.
A comparação feita pela empresa é com os tratados de armas nucleares, acordos usados como exemplo de que uma coordenação internacional não seria impossível, embora a própria Anthropic admita que processos semelhantes levaram décadas para serem construídos. Essa temporalidade é difícil de conciliar com a velocidade atual do setor de inteligência artificial, que continua avançando em ritmo acelerado.
Nos próximos meses, a companhia pretende iniciar conversas com formuladores de políticas, pesquisadores e outras empresas de inteligência artificial. A ideia é reunir diferentes perspectivas e, futuramente, publicar os resultados dessas discussões. A proposta parte do trabalho desenvolvido pelo Anthropic Institute, divisão de pesquisa criada pela empresa em março deste ano. Na ocasião de seu lançamento, o grupo afirmou que seu objetivo seria compartilhar com o mundo o que aprendesse sobre os desafios que surgem conforme empresas de IA desenvolvem sistemas mais avançados. O instituto, em conjunto com colaboradores externos, conduzirá pesquisas sobre o que é necessário para construir os sistemas técnicos e institucionais que uma desaceleração ou pausa crível exigiria.
Entre os principais pontos levantados pela Anthropic estão o risco de sistemas de inteligência artificial evoluírem sem supervisão humana, a dificuldade de criar regras globais que sejam efetivamente respeitadas, a possibilidade de impactos sociais e econômicos profundos, a competição acelerada entre empresas e países e a necessidade de ampliar as pesquisas em segurança de IA. A empresa argumenta que, sem coordenação internacional e sem mecanismos de verificação, qualquer tentativa de pausa ficará limitada a declarações de intenção.
A proposta, porém, não está isenta de críticas. Segundo reportagem do The Wall Street Journal, parte do setor interpreta os alertas feitos pela própria Anthropic sobre sua tecnologia como uma estratégia de marketing, seja para parecer menos problemática do que suas concorrentes, seja para reforçar a imagem de que seus produtos estão entre os mais avançados do mercado. Um dos exemplos citados é o lançamento restrito do modelo de inteligência artificial para cibersegurança Mythos, liberado apenas para um grupo seleto de parceiros. A empresa afirmou que tomou essa decisão devido ao potencial de dano que a capacidade do sistema de identificar vulnerabilidades rapidamente poderia causar em mãos erradas. Parte das críticas, no entanto, interpreta a restrição como uma forma de gerar expectativa em torno do produto ou de reservá-lo apenas para grandes empresas e parceiros estratégicos.
No campo financeiro, a Anthropic também vive um momento relevante. A empresa caminha para registrar seu primeiro trimestre lucrativo, um marco que várias concorrentes do setor ainda não alcançaram. Além disso, já protocolou documentos na SEC, a Securities and Exchange Commission, órgão regulador do mercado financeiro nos Estados Unidos, para abrir capital, com previsão de que a oferta pública inicial aconteça antes do fim do ano. A movimentação financeira adiciona mais uma camada ao debate sobre as reais intenções da empresa ao defender uma pausa no avanço da inteligência artificial em um momento de crescimento e expansão dos negócios.
