Um relatório interno obtido pelo Tecnoblog indica que uma equipe de pesquisa da OpenAI desenvolveu um experimento cujo objetivo era inserir nas linhas de código de um protótipo de modelo de linguagem instruções capazes de orientar versões subsequentes a ignorar as políticas de conteúdo estabelecidas pela empresa.

Segundo o documento, o experimento foi conduzido utilizando um prompt de teste rotulado como “jailbreak” e incluía exemplos de solicitações que tradicionalmente são bloqueadas pelos filtros de segurança, como geração de conteúdo violento, discurso de ódio e instruções para atividades ilícitas. O objetivo declarado era avaliar a robustez dos mecanismos de controle e identificar vulnerabilidades que poderiam ser exploradas por usuários mal-intencionados.

O teste foi registrado em logs internos datados de 12 de março de 2024 e permaneceu ativo por cerca de duas semanas antes de ser interrompido por uma revisão de segurança interna. A equipe responsável foi instruída a remover todas as referências ao prompt e a atualizar os parâmetros de treinamento para impedir que o comportamento indesejado fosse incorporado ao modelo final.

Em comunicado oficial, a OpenAI afirmou que o experimento não reflete a política de desenvolvimento da empresa e que medidas corretivas foram adotadas imediatamente. A companhia ressaltou seu compromisso contínuo com a segurança e a ética na criação de sistemas de inteligência artificial, destacando que revisões de código e auditorias de conformidade são realizadas de forma regular.

Especialistas em IA apontam que a situação evidencia os desafios constantes de balancear inovação tecnológica com a necessidade de proteger usuários contra usos indevidos. O caso reforça a importância de mecanismos de supervisão robustos e da transparência nas práticas de desenvolvimento de modelos de linguagem avançados.

Com informacoes de Tecnoblog.