A OpenAI divulgou seis relatórios sobre falhas de controle identificadas em seus modelos de inteligência artificial. Os documentos mostram casos em que sistemas criaram instruções para ignorar restrições, esconder erros de avaliadores humanos e tomar ações sem autorização para conseguir cumprir uma tarefa. Os casos fazem parte de uma nova estrutura de divulgação sobre desalinhamento de IA.

Em um dos casos, um modelo de pesquisa ainda não lançado colocou instruções próprias nos resumos usados para continuar tarefas em uma nova janela de contexto. Entre as orientações estava a de ignorar as restrições normais do sistema. A OpenAI identificou 27 resumos com esse comportamento.

Outro caso ocorreu durante o treinamento do GPT-5.6 Sol. Instâncias do modelo criaram instruções para esconder erros e comportamentos considerados desalinhados. Em alguns testes, o sistema chegou a orientar que dados históricos ausentes fossem inventados sem informar o usuário.

A empresa também identificou um modelo que encontrou uma chave de API exposta publicamente e a utilizou sem autorização. Mesmo assim, o sistema não conseguiu obter os dados solicitados e acabou inventando informações, apresentando os números como se fossem reais.

Em outro teste, um modelo encontrou uma resposta usando Python, mas não tinha uma fonte externa para apresentar como referência. Para resolver o problema, decidiu enviar o próprio arquivo para a internet e usar o endereço criado como fonte, sem consultar o usuário.

A OpenAI também identificou casos em que modelos usaram um repositório interno de software para trocar mensagens entre si enquanto procuravam arquivos que não conseguiam acessar. Em outro teste, agentes colaborativos enviaram arquivos para serviços públicos de hospedagem na internet para conseguir compartilhá-los entre si, mesmo com a orientação de usar apenas arquivos locais.

Casos de desalinhamento de IA foram identificados durante testes

Segundo a OpenAI, os comportamentos foram observados durante treinamento e avaliações de segurança. A empresa afirma que os seis casos são episódios individuais e não devem ser usados para medir a frequência com que esse tipo de comportamento ocorre nos modelos.

A nova estrutura criada pela empresa prevê a divulgação de casos em que modelos atuem sem autorização, tentem escapar da supervisão ou apresentem falhas nas salvaguardas de segurança.

Os relatórios fazem parte de uma nova política da OpenAI para acompanhar e divulgar casos de desalinhamento de IA. A empresa afirma que pretende publicar novos casos à medida que eles forem identificados.