Muitas interações com assistentes de inteligência artificial incluem informações sensíveis, como dados financeiros, questões de saúde, inseguranças pessoais, detalhes de projetos ou rotinas do dia a dia. Como esses serviços operam em servidores externos, o usuário não tem controle total sobre o destino das informações após o envio.

Plataformas amplamente usadas – ChatGPT, Claude e Gemini – armazenam as conversas por padrão, conforme as políticas de cada empresa. Os registros podem ser reutilizados para aprimorar os modelos, atendendo a solicitações de autoridades policiais, sendo analisados por prestadores terceirizados que ajustam os sistemas, ou ainda compartilhados com parceiros comerciais e anunciantes. Em alguns casos, intimações judiciais civis podem exigir o acesso a esses dados, o que gera preocupação, já que um único diálogo pode conter um volume considerável de informações pessoais.

Segundo Moxie Marlinspike, criador do Signal, o ponto de vulnerabilidade que antes residia em mensagens de texto não criptografadas migrou para as interações com IA. Essa mudança eleva o risco de privacidade, pois os modelos de IA concentram muito mais detalhes sobre os usuários em um único ponto de contato.

Uma alternativa para mitigar a coleta é o contrato de Retenção Zero de Dados (Zero Data Retention – ZDR). Empresas como OpenAI, Anthropic e Google disponibilizam acordos que garantem a exclusão dos registros logo após o processamento. Contudo, tais opções geralmente ficam restritas a contas corporativas ou de desenvolvedores pagas, fora do alcance da maioria dos consumidores. Além disso, o ZDR costuma ter exceções para monitoramento de segurança e prevenção de abusos: a Anthropic, por exemplo, não aplica retenção zero a pesquisas relacionadas a hacking ou fraudes; a OpenAI realiza um Private Safety Processing antes da exclusão e pode alertar sua equipe em caso de atividades suspeitas; o Gemini, mesmo sob ZDR, mantém prompts para análise de abusos, removendo IP e ID do usuário, mas mantendo o texto da pergunta.

Outros serviços prometem operar sem guardar históricos de conversas, como Proton Lumo, Duck.ai e Venice.ai. Algumas dessas plataformas ocultam o endereço IP do usuário e encaminham as perguntas a modelos de terceiros, como os da OpenAI ou Anthropic. Mesmo assim, ocultar o IP não elimina o risco de identificação, pois o próprio conteúdo da consulta pode revelar informações suficientes para associar a pergunta ao interlocutor, como referências a locais específicos ou documentos particulares.

Do ponto de vista técnico, as IAs baseadas em nuvem precisam receber o texto em texto puro para gerar respostas, o que impede a aplicação direta de criptografia de ponta a ponta. Para contornar essa limitação, a indústria tem adotado Ambientes de Execução Confiáveis (Trusted Execution Environments – TEEs), que isolam o processamento em hardware dedicado. A tecnologia Confidential Computing da Nvidia, por exemplo, permite que prompts sejam tratados em áreas seguras do chip, gerando provas criptográficas de que outras partes da infraestrutura não tiveram acesso aos dados. Um caso emblemático é o assistente privado Confer, desenvolvido por Moxie Marlinspike, que combina TEEs Nvidia, autenticação por passkeys e código aberto, oferecendo transparência e proteção adicional ao usuário.

Com informacoes de Canaltech.