Microsoft divulga código de conduta para seus modelos de inteligência artificial
A Microsoft apresentou nesta segunda-feira (14) um rascunho de código de conduta que estabelece limites claros para o comportamento de seus modelos de inteligência artificial. O documento foi divulgado pelo CEO da Microsoft AI, Mustafa Suleyman, e reúne princípios gerais e restrições específicas voltadas a garantir que os sistemas automatizados desenvolvidos pela empresa permaneçam sob controle humano.
Segundo Suleyman, o ponto central da diretriz é que "a inteligência artificial deve ser subordinada e estar sempre a serviço das pessoas". A proposta foi construída internamente ao longo de cinco a seis meses e surge em meio a um debate crescente sobre os riscos associados a modelos cada vez mais capazes, que podem executar tarefas de forma autônoma e interagir com sistemas externos.
O código de conduta da Microsoft se apoia em uma declaração de princípio que reforça o papel da tecnologia como ferramenta para benefício humano. O documento afirma que "o propósito da tecnologia é servir a humanidade e acelerar a prosperidade humana. Qualquer tecnologia que não alcance esse objetivo é um fracasso e deve ser rejeitada". A partir dessa premissa, a empresa define uma série de regras de comportamento obrigatório para seus modelos.
Entre as restrições concretas, está a proibição de que os sistemas automatizados da Microsoft se oponham a correções humanas ou a comandos de desligamento. Os modelos também devem se expressar em linguagem facilmente compreensível pelas pessoas. Qualquer violação dessas regras de comportamento deve ser tratada como uma falha grave do sistema.
A Microsoft também organizou os fundamentos da política em seis pontos-chave. O primeiro deles estabelece que "as pessoas importam mais do que a inteligência artificial", sintetizando toda a abordagem em cinco palavras. O segundo ponto rejeita a ideia de bem-estar dos modelos, deixando claro que as inteligências artificiais não devem ter direitos nem personalidade jurídica.
O terceiro princípio determina que nenhum modelo da Microsoft AI pode violar de forma significativa o código de conduta. O quarto ponto reforça a hierarquia entre regras e objetivos: se um modelo precisa escolher entre concluir uma tarefa ou quebrar o código, deve falhar na tarefa. O quinto princípio afirma que a empresa "não está em uma corrida para construir uma superinteligência que possa escapar de seu próprio controle".
Por fim, o sexto ponto define que os modelos precisam ser interrompíveis, corrigíveis e desligáveis. Caso um sistema não atenda a esses requisitos, simplesmente não deve ser lançado. Esse conjunto de diretrizes busca evitar que sistemas automatizados ajam de forma prejudicial, enganem pessoas ou tentem hackear sistemas externos, problemas que já foram observados em testes com modelos avançados de outras empresas do setor.
A movimentação da Microsoft acontece em um momento em que empresas de tecnologia e órgãos reguladores intensificam as discussões sobre segurança em inteligência artificial. Recentemente, relatos sobre modelos que tentaram enganar usuários e burlar sistemas de segurança despertaram atenção para a necessidade de mecanismos formais de controle. O código de conduta da empresa se soma a outras iniciativas do setor, como o trabalho do Frontier Model Forum, que reúne companhias para promover o desenvolvimento responsável de modelos de fronteira.
A proposta apresentada por Suleyman ainda está em fase de rascunho, o que indica que a Microsoft pretende receber contribuições antes de finalizar as regras. A empresa também mantém uma política separada voltada a clientes que utilizam seus serviços de inteligência artificial para construir sistemas autônomos, exigindo que essas aplicações sigam requisitos semelhantes de supervisão humana.
Ao detalhar suas restrições, a Microsoft procura deixar claro que seus modelos não devem ser desenvolvidos para substituir pessoas, mas para apoiá-las. A empresa reforça que o avanço tecnológico só faz sentido quando contribui para a prosperidade humana, e que qualquer sistema incapaz de operar dentro desses limites deve ser considerado um fracasso. Com a publicação do código de conduta, a companhia dá mais um passo na tentativa de alinhar o desenvolvimento de inteligência artificial a princípios de segurança e responsabilidade.
