O avanço acelerado dos sistemas de inteligência artificial (IA), somado a alertas de pesquisadores e à disputa entre empresas e países, tem levantado dúvidas sobre os limites da tecnologia, gerando preocupação na comunidade internacional. Foto: Marcello Casal jr / Agência Brasil / CP 26/09/2026 | 7:00.

Robôs se rebelando contra humanos, máquinas assumindo o controle do planeta e o fim da humanidade pelas mãos de uma IA são imagens que Hollywood explora há décadas. Na vida real, porém, o perigo ainda não está em uma máquina decidindo exterminar a humanidade por conta própria, mas na preocupação dos próprios seres humanos sobre até onde a tecnologia pode chegar e o que pode acontecer quando sistemas cada vez mais poderosos são colocados em suas mãos.

Com o avanço acelerado da IA, pesquisadores e funcionários das empresas que desenvolvem esses modelos passaram a discutir os limites da tecnologia, os riscos de usos indevidos e a necessidade de mecanismos capazes de acompanhar essa evolução. A discussão envolve desde a possibilidade de sistemas serem utilizados em ataques cibernéticos e operações militares até cenários mais extremos, como uma inteligência capaz de agir de forma independente dos seres humanos.

Para o professor da Universidade de São Paulo (USP) e coordenador do Observatório da Inovação do Instituto de Estudos Avançados (IEA), Glauco Arbix, o principal problema atualmente está no ritmo de evolução da tecnologia sem a existência de um sistema regulatório global capaz de estabelecer limites. A preocupação, segundo Arbix, está principalmente nas situações em que um sistema consiga executar ações não previstas pelos programadores e atingir estruturas consideradas essenciais para o funcionamento de uma sociedade.

“Os principais riscos são de um modelo desses descobrir como fugir do controle dos programadores e invadir o sistema de energia, transporte, tratamento de água e também os sistemas ligados à defesa nacional”, afirma o professor.

Ele diferencia esses riscos de previsões mais extremas sobre a extinção da humanidade. “Estamos muito longe dessa discussão da IA exterminando a humanidade. Entre você causar tragédias e exterminar a raça humana existe uma distância grande”, afirma.

A capacidade dos modelos de IA cresce rapidamente e já supera o desempenho humano médio em determinadas tarefas. “A IA está evoluindo numa velocidade muito grande. As habilidades e a capacidade do que ela pode fazer avançam rapidamente. Em várias áreas ela pode suplantar a média dos humanos. Ao mesmo tempo, ela não encontra nenhuma limitação ou fronteira que afirme o que pode ou não pode fazer, o que deve ou não deve fazer”, explica Arbix.

Para Arbix, a ausência de regras específicas cria uma lacuna que precisa ser preenchida. Atualmente, é necessário recorrer a legislações já existentes para responsabilizar eventuais danos provocados pelo uso da tecnologia. “Podemos nos reunir e montar um algoritmo que pode criar um vírus, um patógeno, roubar ou deformar a democracia, e não temos nenhuma regulação disponível. Somos obrigados a recorrer a outras legislações e adaptar para julgar eventuais danos que a IA promove”, explica.

O professor ressalta que a preocupação com os riscos não significa ser contrário à tecnologia; ao contrário, a IA pode representar uma oportunidade de transformação, inclusive para países que ainda não estão na fronteira do desenvolvimento desses sistemas.

Uma preocupação semelhante, mas concentrada em outro ponto, é apresentada pelo professor da Escola Politécnica da PUCRS e coordenador do Centro de Inteligência Artificial e Ciência de Dados da universidade, Dalvan Jair Griebler. Para ele, o risco não está necessariamente na existência de uma inteligência que adquira vontade própria, mas na maneira como os seres humanos utilizam as ferramentas disponíveis. “Minha preocupação não é com a IA, é com o ser humano que faz mau uso da IA . O ser humano, quando tem uma arma na mão, faz coisas que não são boas muitas vezes”, afirma.

Com informacoes de Correio do Povo.