Rafael NazarA Anthropic escolheu a Accenture como sua primeira avaliadora externa incorporada, em uma medida que começa a colocar em prática a proposta do CEO Dario Amodei de desacelerar o desenvolvimento dos sistemas de inteligência artificial mais avançados.
Com a parceria, especialistas da Faculty, divisão de inteligência artificial da Accenture, trabalharão dentro da Anthropic para analisar os mecanismos de segurança da empresa. O trabalho incluirá testes de salvaguardas, exercícios de red team e avaliações sobre o comportamento dos modelos em relação a valores humanos.
Anthropic e Accenture concordaram em investir pelo menos US$ 1 bilhão, cerca de R$ 5,3 bilhões, na construção de capacidade nessa área ao longo dos próximos cinco anos. A Anthropic afirmou, porém, que financiará diretamente as atividades da Accenture devido à importância e à urgência do trabalho.
A empresa informou que, no longo prazo, espera que esse tipo de atividade seja financiado por recursos compartilhados ou governamentais, conforme previsto no Advanced AI Framework apresentado pela Anthropic em junho. Como essas estruturas ainda não existem, a companhia pretende trabalhar com diferentes avaliadores e modelos de financiamento.
A proposta de Amodei prevê que avaliadores independentes tenham acesso em nível de funcionário às empresas de IA. O objetivo é permitir que os especialistas verifiquem diretamente as práticas de segurança e comuniquem possíveis incidentes.
Ao apresentar o plano, Amodei afirmou que a Anthropic se comprometeria “unilateralmente” com essa primeira etapa e incentivou outras empresas do setor a adotarem a mesma iniciativa.
A parceria com a Accenture não será exclusiva. A Anthropic também informou que mantém conversas com a organização de pesquisa sem fins lucrativos METR e com outras entidades que poderão participar do processo.
A empresa ressaltou, entretanto, que continuará responsável pela segurança de seus modelos. Segundo a Anthropic, a presença de avaliadores externos dentro da companhia não diminuirá essa responsabilidade. “Estamos compartilhando esses primeiros esforços agora para que as pessoas e outros desenvolvedores de IA possam ver nosso processo”, afirmou.
A companhia acrescentou que espera aperfeiçoar a abordagem à medida que o setor amadurecer e que divulgará novas informações quando o trabalho começar e outros avaliadores forem incorporados.
Amodei apresentou seu plano de três etapas para conter o ritmo de avanço dos sistemas mais sofisticados de IA em meio ao aumento das discussões sobre os riscos associados ao desenvolvimento acelerado da tecnologia.
A proposta recebeu apoio de alguns executivos do setor, entre eles Sam Altman, CEO da OpenAI, e Elon Musk, CEO da Tesla e da SpaceX. Jensen Huang, CEO da Nvidia, adotou posição diferente, rejeitou as preocupações e argumentou que não seriam necessárias novas regulamentações.
A iniciativa também gerou questionamentos sobre como a proposta poderia funcionar na prática, especialmente enquanto a Anthropic se prepara para uma possível abertura de capital. Com a entrada da Accenture, a empresa dá o primeiro passo concreto para transformar uma das principais ideias do plano em uma estrutura operacional, permitindo que uma organização externa tenha acesso direto à companhia para avaliar seus sistemas de segurança e identificar possíveis problemas antes que eles se agravem.
