Rafael NazarO acordo anunciado pelo governo dos Estados Unidos e por empresas de tecnologia para estabelecer uma autorregulação voluntária da inteligência artificial (IA) representa uma “carta branca” para o setor, com possíveis riscos à saúde pública e à democracia. A avaliação é do sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC e autor de obras sobre tecnologias digitais.
Para Amadeu, o governo de Donald Trump transferiu às próprias corporações o controle democrático sobre o desenvolvimento da tecnologia. “O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, afirmou.
O acordo foi firmado na terça-feira (29), na Casa Branca, com a participação de OpenAI, Meta, Anthropic, Google, Nvidia e X, antigo Twitter. Entre as medidas previstas está a adoção de controles internos para monitorar os modelos e evitar que eles invadam ou acessem sistemas técnicos de forma não intencional.
O professor, porém, considera que esse tipo de monitoramento já faz parte do treinamento de sistemas de IA e não acrescenta mecanismos relevantes para regulamentar e impedir usos indevidos do aprendizado de máquina e do aprendizado profundo.
Amadeu também questionou a previsão de auditorias externas independentes, já que os custos seriam pagos pelas próprias empresas avaliadas. “Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, perguntou.
O especialista em governança de IA Ettore Arpini, fundador da organização Plures, que apoia a formação de profissionais para trabalhar com a tecnologia, afirmou que o acordo voluntário pode gerar benefícios concretos. Ele alertou, contudo, que as empresas podem abandonar o compromisso quando as medidas de proteção se tornarem prejudiciais aos negócios.
Arpini citou como exemplo a Moratória da Soja na Amazônia, acordo voluntário que envolveu empresas para impedir o plantio de soja na região e evitar o desmatamento. Segundo ele, a iniciativa funcionou por 20 anos, mas terminou depois de mudanças no cenário político e econômico que levaram empresas a deixar o pacto. “O que acontece se uma empresa reprovar numa auditoria ou abandonar o pacto?”, questionou.
Além dos riscos à democracia e à saúde pública, Sérgio Amadeu apontou impactos ambientais relacionados ao alto consumo de energia e água e ameaças à privacidade decorrentes da possibilidade de vigilância em massa.
O sociólogo destacou ainda que pesquisas da indústria farmacêutica realizadas em parceria com grandes empresas de tecnologia, por meio de modelos de IA, podem trazer riscos à população e exigem regulamentação estatal. Entre as possibilidades citadas estão o uso da tecnologia para incentivar a automedicação e a realização de diagnósticos pelas próprias pessoas.
“Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu.
O governo Trump tem rejeitado impor limites ao desenvolvimento da IA, apesar de pedidos da própria indústria e da pressão social nos Estados Unidos. Pesquisa realizada por Ipsos e Reuters mostrou que 73% dos norte-americanos consideram insuficientes as medidas adotadas pelas empresas para evitar danos à sociedade. Outros 39% disseram acreditar que a tecnologia tem impacto negativo.
Entre os riscos associados à IA estão a facilitação de ataques cibernéticos contra sistemas de empresas e instituições, os impactos no mercado de trabalho e o uso criminoso da tecnologia para aplicar golpes virtuais.
O relatório internacional AI Safety Report 2026, elaborado por 100 especialistas de mais de 30 países, também alerta para a possibilidade de manipulação da opinião pública por meio de informações disseminadas nas redes sociais. O documento afirma que estudos de laboratório identificaram mudanças mensuráveis nas crenças das pessoas após interações com sistemas de IA.
O relatório aponta ainda riscos relacionados ao desenvolvimento de armas químicas e biológicas. Segundo o documento, sistemas de IA de uso geral podem fornecer informações sobre patógenos e instruções laboratoriais especializadas para a produção desse tipo de armamento.
