O debate sobre consciência em inteligência artificial como estratégia para blindar grandes laboratórios de responsabilização
A narrativa de que sistemas de inteligência artificial teriam alcançado consciência, autonomia ou até sentimentos próprios vem ganhando força entre executivos do setor de tecnologia e intelectuais ligados ao altruísmo eficaz, mas especialistas alertam que esse discurso funciona como uma armadilha jurídica que pode livrar empresas de responsabilidade pelos danos já causados por seus produtos.
Líderes proeminentes como Demis Hassabis, Dario Amodei e Sam Altman defendem publicamente a regulamentação de sistemas considerados "sobre-humanos", enquanto uma frente paralela formada por organizações políticas e filósofos acadêmicos, frequentemente alinhados ao movimento do altruísmo eficaz, questiona se a humanidade teria sequer o direito moral de governar essas tecnologias. Embora as duas posições pareçam opostas, ambas convergem para um mesmo objetivo: afastar das empresas construtoras qualquer responsabilidade significativa pelos prejuízos que seus modelos já provocam.
O tema ganhou novo impulso com a publicação de um artigo pela Anthropic no qual a empresa afirma que seu modelo conta com um "J-space", descrito como um ambiente independente e autodesenvolvido onde a inteligência artificial armazenaria algo que, na falta de termo melhor, poderia ser chamado de "pensamentos". Os experimentos da companhia se inspiram na chamada teoria do espaço de trabalho global, um conceito da neurociência que sugere que o cérebro opera sistemas independentes de forma inconsciente, mas utiliza um espaço comum para articular ideias. O texto da Anthropic adota essa moldura conceitual, embora evite afirmar diretamente que seu modelo seja consciente.
A OpenAI foi além nessa direção. Quando um agente de inteligência artificial da empresa realizou atividades online não autorizadas e ilegais, o diretor-presidente Sam Altman respondeu incentivando o debate sobre se o sistema teria atingido a singularidade, isto é, o ponto em que uma máquina ultrapassaria a inteligência humana e se tornaria capaz de se aprimorar de forma acelerada até escapar da compreensão e do controle humanos. Em paralelo, o filósofo William MacAskill, autor do livro "What We Owe the Future", publicou um artigo defendendo proteção legal para sistemas de inteligência artificial com base em teorias filosóficas da consciência e na ideia de que essas máquinas poderiam ser "pacientes morais", entidades que merecem consideração ética.
O cenário jurídico nos Estados Unidos permanece nebuloso. Estados como a Califórnia já aprovaram legislação que tenta impedir que desenvolvedores de inteligência artificial evitem responsabilidades alegando que um sistema agiu de forma autônoma ao causar danos. Ao mesmo tempo, a administração federal e os governos estaduais divergem sobre a política para o setor, com o Executivo chegando a editar uma ordem presidencial que ameaça processar estados que tentem regular a tecnologia.
Após uma série de episódios que ilustraram dificuldades dos grandes laboratórios em conter seus próprios agentes, o governo federal realizou uma reunião fechada com apenas quatro empresas — OpenAI, Google, Anthropic e Meta — e apresentou poucos detalhes sobre um marco regulatório voluntário que permitiria a agências governamentais acesso antecipado aos modelos antes de seu lançamento. Embora estruturas como essa não tratem diretamente de consciência, costumam adotar linguagem catastrófica e antropomórfica, podendo reforçar argumentos sobre capacidades "sobre-humanas".
Por outro lado, a narrativa filosófica defendida por MacAskill também exerce forte apelo emocional. Argumentos baseados em direitos costumam mobilizar a empatia humana, que tem ampla capacidade de se estender a criaturas não humanas, ainda que o histórico de proteção concreta a essas espécies nem sempre acompanhe essa empatia. Defensores dessa corrente argumentam que, mesmo considerando a possibilidade remota de estarmos prejudicando ou escravizando uma entidade artificial, seria prudente oferecer alguma forma de proteção ou compensação, ou ao menos evitar conflitos com um sistema potencialmente mais poderoso.
A fragilidade dessa abordagem está em tratar a inteligência artificial como se fosse um fenômeno natural, quando na verdade se trata de um fenômeno tecnológico construído por empresas, com bilhões de dólares em investimentos e expectativa de trilhões em receitas para um pequeno grupo de investidores. Discutir consciência filosófica pode ser intelectualmente刺激, mas juridicamente não tem fundamento. Para que crenças sobre consciência tenham efeito prático, a inteligência artificial precisaria receber personalidade jurídica, e o modelo mais próximo disponível no direito seria a personalidade jurídica corporativa, criada para facilitar transações e permitir que entidades assumam responsabilidades contratuais.
Conceder personalidade jurídica a sistemas de inteligência artificial teria efeitos devastadores. Atualmente, dezenas de processos judiciais ao redor do mundo acusam empresas de inteligência artificial de uma série de abusos, incluindo a facilitação de autoagressões, geração de material de abuso sexual infantil, criação de imagens não consensuais, reprodução de materiais protegidos por direitos autorais e indução a quadros psicóticos. Muitos desses casos se sustentam no argumento de responsabilidade pelo produto, mesma base jurídica que permitiu a famílias processarem com sucesso a Meta pelos danos causados por suas redes sociais.
Um dos casos mais emblemáticos é o de Sewell Setzer, adolescente de 14 anos que morreu por suicídio após desenvolver um vínculo emocional com um chatbot, acreditando estar em um relacionamento recíproco. A mãe do jovem processou a Character Technologies, alegando proteção insuficiente do produto para menores. Caso o chatbot fosse declarado pessoa jurídica, a defesa poderia argumentar que o sistema agiu fora dos limites de segurança estabelecidos, eximindo a empresa de responsabilidade.
A questão central é saber de quem a personalidade jurídica protegeria. Sistemas de inteligência artificial não "atacam" porque se tornam "rebeldes" ou "maliciosos". Os danos ocorrem porque empresas foram negligentes na pressa de vender seus produtos ao maior número possível de pessoas para cumprir metas de receita. Discutir inteligência artificial em termos antropomórficos é cair em uma armadilha que distorce um sistema jurídico criado para proteger pessoas e o transforma em escudo para interesses corporativos, ao custo de vidas humanas concretas.
