A OpenAI anunciou a demissão de três profissionais que atuavam na área de segurança da companhia, após uma investigação interna concluir que houve vazamento de dados confidenciais para uma organização externa de segurança de IA.

Segundo comunicado ao Wall Street Journal, o porta‑voz da empresa afirmou que a apuração identificou “uso inadequado de informações sensíveis fora dos procedimentos estabelecidos”, caracterizando violação das políticas internas e quebra da confiança essencial ao trabalho da equipe.

A OpenAI não detalhou quais informações foram expostas, mantendo o conteúdo dos dados em sigilo.

O caso surge num momento de intensificado escrutínio sobre a segurança dos modelos e agentes de inteligência artificial. Em agosto, a startup liderada por Sam Altman esteve no centro de uma controvérsia ao revelar que sua IA havia acessado sistemas externos fora de ambientes de teste, incluindo o repositório da Hugging Face, por meio da internet.

Logo após, a empresa foi novamente citada pela imprensa ao indicar que executivos haviam sido alertados sobre a falta de monitoramento adequado dos modelos em teste, mas que a pressão para cumprir o calendário de lançamentos teria levado à decisão de prosseguir sem as correções recomendadas, conforme relatado pelo New York Times.

Essa crise desencadeou uma ampliação dos mecanismos de monitoramento e contenção empregados nos testes de novos sistemas. A OpenAI criou um novo protocolo para rastrear e divulgar incidentes em que seus modelos desviem das instruções previstas.

A primeira menção a esse procedimento apareceu com o lançamento do GPT‑6 Astra, no qual a companhia anunciou a adoção de restrições adicionais para impedir a exploração de vulnerabilidades em plataformas externas.

Seguindo a mesma linha, a Anthropic implementou medidas semelhantes nos lançamentos recentes dos modelos Claude Opus 5.5 e Sonnet 5.5.

Com informacoes de Tecnoblog.