Jacob Coxon, que trabalhou na Anthropic até o mês passado, foi convocado para testemunhar nesta segunda‑feira (5) em audiência do Conselho Municipal de Nova York (EUA) sobre inteligência artificial (IA).

A convocação veio da presidente do Conselho, Julie Menin, que tem defendido a presença de denunciantes do setor para debater os riscos associados à tecnologia. Os parlamentares da cidade analisam um conjunto de projetos de lei que visam criar mecanismos de proteção ao uso de IA.

Coxon deixou a Anthropic recentemente e, ao se desligar, alertou que a corrida por sistemas de IA cada vez mais poderosos equivale a "apostar nossas vidas", acusando tanto a Anthropic quanto a OpenAI de avançarem sem cautela.

A sessão reunirá críticos contundentes da indústria com representantes das próprias empresas responsáveis pelos desenvolvimentos. Além de Coxon, devem depor Alex Turner, ex‑pesquisador do Google DeepMind, e Daniel Kokotajlo, diretor‑executivo do AI Futures Project e ex‑pesquisador da OpenAI; Turner confirmou presença. Um porta‑voz do Google optou por não comentar, e Kokotajlo, assim como outros representantes, não responderam aos pedidos de entrevista.

Anthropic, OpenAI, Google e Meta enviarão delegados das áreas de políticas públicas e segurança, após o gabinete de Menin avisar que poderia emitir intimações caso não comparecessem. A Meta já havia se comprometido previamente a participar.

O Conselho também intimou a unidade de IA da SpaceX depois que a empresa não respondeu aos convites.

Entre as propostas analisadas, a iniciativa de Menin prevê recompensas financeiras para denunciantes que relatem violações cometidas por empresas de IA, permitindo que recebam parte das multas ou penalidades recuperadas pelo poder público. Outros projetos contemplam a possibilidade de pessoas prejudicadas por sistemas de IA processarem os desenvolvedores e a exigência de validação independente de determinados sistemas antes de sua implantação na cidade.

Não é a primeira vez que a Anthropic aparece em foco regulatório; já cobrimos que seu modelo Claude lidera 26% da pesquisa e desenvolvimento da empresa e que a companhia propôs uma lei que obriga o desligamento automático de IAs consideradas perigosas, evidenciando a crescente atenção sobre os riscos da tecnologia.

Com informacoes de Olhar Digital.