OpenAI detalha práticas de governança em inteligência artificial responsável na Europa
A OpenAI apresentou um panorama das práticas adotadas em segurança, transparência e rastreabilidade de conteúdos como parte de sua estratégia de governança em inteligência artificial responsável na Europa. O posicionamento acontece em um momento de avanço da Lei de Inteligência Artificial da União Europeia, conhecida como EU AI Act, que está entrando em uma nova fase de aplicação.
De acordo com a empresa, milhões de pessoas em toda a Europa utilizam diariamente as ferramentas da OpenAI para estudar, criar, trabalhar e realizar tarefas cotidianas. Os mesmos recursos também atendem empresas de diferentes portes e órgãos governamentais na região. Para a companhia, o desenvolvimento de uma inteligência artificial responsável pode contribuir para a competitividade e a prosperidade do bloco europeu, desde que acompanhado por mecanismos adequados de supervisão.
Como parte desse compromisso, a OpenAI contribuiu e aderiu a dois Códigos de Prática vinculados ao marco regulatório europeu. O primeiro deles é o Código de Prática para Modelos de Inteligência Artificial de Uso Geral, voltado a sistemas considerados de finalidade genérica, que reúne obrigações relacionadas à documentação técnica, avaliação de riscos e cooperação com autoridades. O segundo é o Código de Prática sobre Transparência de Conteúdos Gerados por Inteligência Artificial, que trata da identificação de materiais produzidos ou alterados por sistemas automatizados. Ambos os documentos foram elaborados por meio de processos amplos involving multiple stakeholders, ou seja, múltiplos atores do setor, da sociedade civil e de órgãos reguladores.
A empresa destaca que suas práticas internas de segurança, proteção de dados, rastreabilidade e prestação de contas serviram de base para a adesão aos códigos europeus. Entre os mecanismos mencionados está a publicação de documentação técnica sobre seus modelos, incluindo os chamados system cards, que descrevem capacidades, limitações e potenciais riscos de cada sistema relevante. A OpenAI também afirma investir em pesquisa interna sobre segurança de modelos de fronteira, além de manter parcerias com laboratórios acadêmicos e organizações sem fins lucrativos para o desenvolvimento de métodos, benchmarks e avaliações de risco.
Outro ponto central da estratégia da empresa na Europa envolve a chamada proveniência de conteúdo, conceito que se refere à capacidade de rastrear a origem de um material para identificar se ele foi gerado ou modificado por inteligência artificial. A OpenAI adota uma abordagem em camadas, que combina diferentes sinais técnicos para indicar a procedência de imagens e textos produzidos por seus sistemas. Entre as tecnologias citadas estão os metadados do padrão C2PA, uma especificação aberta que embute informações de origem nos próprios arquivos, e o SynthID, sistema de marca d'água desenvolvido pelo Google e integrado a algumas ferramentas. A empresa também disponibilizou um portal público de verificação e uma API de proveniência, que permite a desenvolvedores e clientes detectar automaticamente a presença desses sinais em conteúdos suspeitos.
Apesar do conjunto de iniciativas, a própria OpenAI reconhece que a área de proveniência ainda enfrenta desafios técnicos relevantes. Os metadados podem ser perdidos durante o compartilhamento de arquivos, rótulos podem deixar de funcionar quando os conteúdos migram entre plataformas e nenhum sinal isolado é considerado totalmente confiável. Por esse motivo, a companhia defende uma abordagem combinada e a cooperação contínua com outros integrantes do ecossistema digital para fortalecer os mecanismos de identificação.
No campo da segurança cibernética, a empresa afirmou manter cooperação com agências europeias e investir em protocolos voltados à proteção de infraestrutura, modelos e dados utilizados no treinamento e na operação de seus sistemas. A OpenAI também destacou a importância da transparência junto a desenvolvedores e usuários finais, reforçando a disponibilização de recursos de orientação para clientes que precisam compreender as obrigações legais aplicáveis aos diferentes usos da inteligência artificial.
Com a entrada em vigor de novas etapas do EU AI Act, a OpenAI afirma que continuará evoluindo suas práticas internas e colaborando com reguladores, setor privado e sociedade civil. O objetivo declarado é garantir que o avanço da inteligência artificial na Europa ocorra de forma alinhada às exigências legais e aos princípios de segurança, rastreabilidade e responsabilidade que sustentam o marco regulatório do bloco.
