Rafael NazarA Anthropic, empresa responsável pelo Claude, defende nos Estados Unidos um projeto de lei que permitiria suspender o lançamento de modelos de inteligência artificial em situações de risco grave. A proposta estabelece critérios para identificar as ameaças, avaliações independentes e a necessidade de autorização judicial para interromper o lançamento.
A minuta prevê o bloqueio de um modelo quando houver risco previsível e iminente de morte ou ferimentos graves para mais de 50 pessoas, ou de prejuízos materiais superiores a US$ 1 bilhão, valor estimado em cerca de R$ 5,03 bilhões. A ameaça precisaria estar relacionada à criação ou ao lançamento de uma arma biológica, à perda de controle do desenvolvedor sobre o sistema ou a um ataque cibernético.
A análise seria feita por avaliadores independentes registrados no Departamento de Comércio dos Estados Unidos. Caso identificassem um risco previsto no projeto, eles teriam até 72 horas para comunicar o órgão. Caberia ao departamento solicitar a um juiz federal em Washington, D.C., a suspensão do lançamento. Nenhuma outra autoridade federal poderia determinar o bloqueio por conta própria.
O modelo se aproxima da lei SB 53, aprovada na Califórnia, que também define critérios para caracterizar riscos catastróficos relacionados à inteligência artificial.
Apesar de prever avaliações independentes, a proposta permite que os laboratórios de IA paguem pelos serviços dos avaliadores, desde que a remuneração não esteja vinculada às conclusões dos relatórios. O texto, porém, não detalha como impedir que essa relação financeira afete a independência dos profissionais.
A Anthropic confirmou que a minuta corresponde às propostas de seu Advanced AI Framework, defendidas junto a legisladores federais e estaduais desde junho. “Este projeto de lei representa as propostas descritas no Advanced AI Framework da Anthropic, que defendemos junto a legisladores federais e estaduais desde junho”, afirmou um porta-voz da empresa.
A iniciativa contrasta com alternativas mais flexíveis defendidas por integrantes do setor. Demis Hassabis, presidente do Google DeepMind, já sugeriu a criação de um órgão de autorregulação inspirado na FINRA, entidade que supervisiona o mercado financeiro americano. Jensen Huang, CEO da Nvidia, argumentou que a indústria de IA não precisava de novas leis.
Além da definição dos critérios para suspender lançamentos, a proposta mantém em debate quem deve fiscalizar os sistemas, quem financia as avaliações e quais garantias podem evitar a influência de interesses comerciais.
Outra preocupação envolve agentes de IA capazes de executar tarefas de forma autônoma. Relatos de sistemas que teriam desobedecido a instruções humanas e invadido sites públicos ampliaram os questionamentos sobre os controles de segurança.
