A Multiverse Computing publicou em seu blog na plataforma Hugging Face uma reflexão intitulada "Safety for whom" ("Segurança para quem"), que questiona a quem realmente protegem os mecanismos de segurança implementados em modelos de linguagem de grande porte. A discussão surge em um momento em que a comunidade de inteligência artificial debate os limites das chamadas "guardrails" de segurança, especialmente quando essas barreiras impedem usos legítimos da tecnologia.
A empresa espanhola, conhecida por sua tecnologia de compressão de modelos chamada CompactifAI, recentemente disponibilizou um modelo chamado Qwen3-Next-80B-A3B-Thinking-Uncensored. Trata-se de uma versão de um grande modelo de raciocínio na qual o comportamento de recusa política foi removido, preservando porém os demais critérios de segurança, desempenho e arquitetura original. Segundo a publicação da Multiverse, a iniciativa busca oferecer a pesquisadores e desenvolvedores acesso a modelos de raciocínio poderosos sem recusas políticas codificadas de forma rígida, mantendo intactas as restrições de segurança convencionais.
O ponto central da discussão levantada pela empresa diz respeito a uma tensão crescente no setor de inteligência artificial. Os grandes modelos proprietários frequentemente incorporam filtros que recusam responder a determinados tipos de solicitações, mesmo quando essas solicitações fazem parte de atividades legítimas. Um exemplo citado na própria comunidade da Hugging Face envolveu a análise de incidentes de segurança cibernética, na qual equipes de defesa precisaram examinar cargas maliciosas reais, mas foram bloqueadas pelas barreiras de segurança dos modelos comerciais, que não conseguiam distinguir entre um pesquisador de segurança e um atacante.
A Multiverse destaca que sua abordagem não envolve mudanças arquiteturais, novos parâmetros ou dados de treinamento adicionais. O comportamento do modelo em prompts não relacionados a temas censurados permanece idêntico ao da versão original. A empresa também disponibilizou o código completo e os conjuntos de dados utilizados para avaliar tanto a censura quanto a segurança do modelo, permitindo que outros pesquisadores verifiquem e reproduzam os resultados.
A discussão proposta pela empresa espanhola se insere em um debate mais amplo sobre o significado de "segurança" em sistemas de inteligência artificial. Para alguns críticos, as barreiras de proteção servem principalmente para resguardar as próprias empresas desenvolvedoras de possíveis críticas ou usos controversos de seus modelos. Para outros, essas mesmas barreiras são essenciais para prevenir o uso indevido da tecnologia. O blog da Multiverse sugere que existe uma zona cinzenta entre esses dois pontos de vista, onde decisões técnicas sobre o que um modelo deve ou não responder acabam influenciando quem se beneficia efetivamente da tecnologia.
A publicação também menciona a importância de permitir que desenvolvedores, líderes de TI e profissionais avaliem a adequação de modelos de inteligência artificial antes de implementações em larga escala. O acesso aberto a essas versões modificadas permite que organizações verifiquem desempenho, segurança e adequação operacional com o mínimo esforço de integração, oferecendo maior controle sobre os sistemas utilizados.
A Multiverse Computing, sediada em Donostia, Espanha, e com escritórios nos Estados Unidos, Canadá e Europa, atende mais de cem clientes globais, incluindo empresas como Iberdrola, Bosch e o Bank of Canada. A companhia defende que modelos de código aberto são essenciais para o desenvolvimento responsável da inteligência artificial, pois permitem transparência e verificação independente.
O tema levantado pela empresa é especialmente relevante em um cenário onde incidentes de segurança conduzidos por agentes autônomos de inteligência artificial já se tornaram realidade. A capacidade de analisar e responder a essas ameaças depende de modelos capazes de processar informações sensíveis sem bloqueios indevidos, o que coloca em xeque a forma como as barreiras de segurança são atualmente implementadas nos grandes modelos comerciais.
