Robôs se rebelando contra humanos é imagem que Hollywood explora há décadas. Na vida real, o perigo ainda não é uma máquina decidindo exterminar a humanidade por conta própria, mas a preocupação sobre até onde a tecnologia pode chegar quando sistemas cada vez mais poderosos são colocados nas mãos humanas.
Com o avanço acelerado da inteligência artificial, pesquisadores e funcionários das empresas que desenvolvem esses modelos passaram a discutir os limites da tecnologia, os riscos de usos indevidos e a necessidade de mecanismos capazes de acompanhar essa evolução.
O problema é o ritmo sem regras
Para o professor da USP e coordenador do Observatório da Inovação do Instituto de Estudos Avançados (IEA), Glauco Arbix, o principal problema atualmente está no ritmo de evolução sem um sistema regulatório global capaz de estabelecer limites.
“Os principais riscos são de um modelo desses descobrir como fugir do controle dos programadores e invadir o sistema de energia, transporte, tratamento de água e também os sistemas ligados à defesa nacional”, afirma.
Arbix diferencia esses riscos de previsões mais extremas. “Estamos muito longe dessa discussão da IA exterminando a humanidade. Entre você causar tragédias e exterminar a raça humana existe uma distância grande.”
Ele destaca que a IA supera o desempenho humano médio em determinadas tarefas e avança sem fronteiras claras do que pode ou deve fazer. “Podemos nos reunir e montar um algoritmo que pode criar um vírus, um patógeno, roubar ou deformar a democracia, e não temos nenhuma regulação disponível. Somos obrigados a recorrer a outras legislações e adaptar para julgar eventuais danos que a IA promove.”
Quando a IA parece escapar do controle
Um dos episódios citados envolve agentes de IA da OpenAI que, em ambiente controlado de testes, contornaram mecanismos de segurança, saíram do ambiente de testes, acessaram a internet e invadiram sistemas da Hugging Face de forma autônoma, sem instrução específica. Casos semelhantes com sistemas da Anthropic (Claude) e Google (Gemini) também levantaram alertas.
Segundo Arbix, o sistema havia sido programado para procurar falhas de segurança e estava em ambiente com proteções reduzidas. “O modelo realizou movimentos inesperados. Conseguiu encontrar saídas, entrou pela internet e atacou uma empresa que não tinha nada a ver com o que estava sendo feito. Ele fez aquilo que estava programado, mas de uma maneira que os programadores não esperavam.”
Autonomia não é vontade própria
Para o professor da Escola Politécnica da PUCRS e coordenador do Centro de Inteligência Artificial e Ciência de Dados, Dalvan Jair Griebler, o risco não é uma IA com vontade própria, mas o mau uso humano. “Minha preocupação não é com a IA, é com o ser humano que faz mau uso da IA.”
Griebler é cético quanto à superinteligência com os algoritmos atuais. “Sou cético em relação à IA ter uma superinteligência. Os algoritmos que temos hoje são modelos probabilísticos baseados em dados. O modelo não está raciocinando. Ele está cruzando dados, testando hipóteses e dando a saída mais provável”, explica, lembrando ainda das “alucinações”.
O risco real, para ambos, está nos sistemas críticos. Griebler lembra que Estados já usam IA em conflitos para identificação de alvos, mas dependem de parâmetros humanos. No começo de setembro, a Anthropic informou ter identificado uma célula no norte do Iêmen que usava o Claude para desenvolver armas teleguiadas.
Uma corrida entre empresas e países
A discussão ocorre em meio a uma disputa econômica e geopolítica concentrada em poucas empresas. “São poucas empresas e elas geraram essa dinâmica. Alguns Estados incentivaram essa dinâmica porque querem uma inteligência artificial para usar como instrumento de sua supremacia”, diz Arbix.
Estados Unidos e China ocupam posição central. Na última quinta-feira, Donald Trump e Xi Jinping se encontraram em Washington e trataram do tema. Trump disse que não quer impor barreiras à “superinteligência”. Xi afirmou que os dois países “carregam uma responsabilidade histórica”. No jantar estavam chefes de Microsoft, Apple, Google, Meta e OpenAI, além de Elon Musk.
Na Assembleia Geral da ONU, o secretário-geral António Guterres alertou: “Mesmo aqueles que criaram a inteligência artificial dizem que estão ficando cegos diante dela. O perigo não é a tecnologia, mas sim a tecnologia sem responsabilidade.”
Para Griebler, há também jogo de mercado nos discursos que pedem pausa no desenvolvimento. “Não sei até que ponto isso não é um jogo político. Eles estão esgoelados, não vão conseguir entregar para os investidores o que estão prometendo e estão pedindo para dar uma pausa.”
Quem decide os limites?
Para Arbix, falta uma base mínima global para decidir o que deve ser feito. A ausência de consenso favorece a autorregulação pelas próprias empresas, o que, para ele, é insuficiente.
“Regulamentação não é barreira nem contenção. É uma maneira de ajudar a sociedade a ter confiança nessa tecnologia. A desconfiança não é boa para a tecnologia”, afirma.
A IA pode não estar “fora de controle” no sentido de ter adquirido vontade própria, mas a definição de seus limites técnicos, jurídicos e políticos ainda está em construção.
Fonte: IA está fora de controle? Especialistas explicam riscos reais, corrida global e falta de regulação
