Rafael NazarOpenAI, Anthropic, Google e Meta ampliaram as medidas para impedir que ferramentas de inteligência artificial sejam usadas na manipulação das eleições legislativas dos Estados Unidos, realizadas nesta terça-feira (3). As empresas criaram ou reforçaram equipes especializadas para monitorar atividades suspeitas e conter campanhas de desinformação que possam comprometer a confiança no processo democrático.
Na OpenAI, mais de uma dúzia de funcionários atua em uma central de operações instalada no escritório da empresa em São Francisco. A estrutura representa uma ampliação dos esforços adotados durante a eleição presidencial de 2024, quando os recursos de IA eram menos avançados e o ChatGPT tinha cerca de um quinto da base atual, de um bilhão de usuários.
“Em 2024, a tecnologia mais acessível era o texto. Agora, não estamos monitorando apenas textos”, afirmou Josh Lawson, responsável pela área de riscos cívicos e estratégicos da OpenAI e líder da operação, ao The New York Times.
Entre as ameaças monitoradas estão vídeos deepfake, ataques cibernéticos e operações de influência estrangeira ou doméstica. Com ferramentas de IA, campanhas desse tipo podem ser produzidas e distribuídas a partir de uma sequência de comandos.
A Anthropic, responsável pelo chatbot Claude, criou pela primeira vez uma sala de operações dedicada ao tema, com analistas em São Francisco, Nova York e Washington. Google e Meta também afirmaram que ampliariam os esforços para evitar o uso de suas ferramentas de IA contra a confiança no processo democrático.
Na OpenAI, a central eleitoral começou a funcionar na quinta-feira anterior à votação. A equipe de São Francisco trabalha em conjunto com uma unidade em Washington e reúne dezenas de pessoas, segundo representantes da companhia.
Os funcionários analisam comandos enviados ao ChatGPT que são sinalizados automaticamente por possíveis tentativas de produzir textos ou imagens falsas sobre as eleições. Um dos exemplos seria a criação de uma campanha de influência baseada em alegações falsas de fraude eleitoral, como acusações de manipulação de cédulas, com posterior distribuição do material em redes sociais por meio de contas falsas.
Quando identifica atividades maliciosas destinadas a circular em determinadas plataformas, a OpenAI afirma que notifica as empresas responsáveis por esses serviços.
Um levantamento do Brennan Center for Justice, organização ligada à Faculdade de Direito da Universidade de Nova York, apontou um cenário contraditório. Os chatbots mais populares geralmente resistem a pedidos relacionados a teorias conspiratórias sobre eleições, mas as ferramentas de IA produzem regularmente textos, imagens e vídeos que podem ser usados para enfraquecer a confiança na votação.
A preocupação também envolve a redução das equipes de segurança e moderação das redes sociais nos últimos anos. Após a interferência russa nas eleições presidenciais de 2016, a Meta criou uma central de operações para as eleições legislativas de 2018. Desde então, porém, a Meta e outras plataformas diminuíram as equipes voltadas à segurança e ao combate à desinformação eleitoral.
A redução ocorreu em meio à pressão de republicanos e, a partir de 2025, do governo Donald Trump, que acusaram as empresas de censurar opiniões conservadoras. O recuo coincidiu com a expansão das ferramentas de IA e aumentou os receios sobre os efeitos da tecnologia nas eleições.
Especialistas e ex-integrantes do governo dos Estados Unidos também alertaram que esses recursos podem tornar campanhas de manipulação mais convincentes. Ao mesmo tempo, o governo Trump desmontou equipes federais que atuavam no combate a ameaças ao processo eleitoral.
“Seria imprudente pensar que essa ameaça desapareceu e que a tecnologia não está tornando essas ameaças mais poderosas e convincentes”, afirmou Lauren Protentis, ex-integrante do Conselho de Segurança Nacional dos Estados Unidos, onde supervisionava questões relacionadas à influência estrangeira maliciosa durante o governo de Joe Biden.
A OpenAI já havia divulgado tentativas de Rússia, China e Irã de usar o ChatGPT em operações de influência estrangeira. A empresa afirma ter interrompido duas campanhas desse tipo no mês anterior à eleição americana. Até o momento, porém, não havia divulgado nenhuma operação específica relacionada às eleições legislativas de novembro.
O investigador-chefe da OpenAI, Ben Nimmo, afirmou que a meta é identificar essas iniciativas antes que atinjam um público significativo. “Estamos tentando detectar as operações antes que tenham a oportunidade de ganhar força”, declarou.
Com informações do Olhar Digital.
