Rafael NazarA Anthropic está desenvolvendo uma tecnologia capaz de verificar se uma resposta foi realmente produzida pelo modelo de inteligência artificial (IA) que uma empresa afirma utilizar. Batizado de FlashProve, o sistema usa criptografia para gerar uma espécie de comprovante matemático da identidade do modelo responsável por determinada resposta.
A proposta é permitir que os usuários confirmem se estão interagindo com a IA anunciada pelo fornecedor, e não com uma versão diferente ou menos avançada. Segundo a Anthropic, o mecanismo também pode dificultar que empresas substituam secretamente seus modelos por alternativas mais baratas ou divulguem resultados de desempenho que não correspondam à tecnologia efetivamente usada.
O projeto foi apresentado pela companhia nesta terça-feira (3), conforme publicação repercutida pelo Olhar Digital. A Anthropic também disponibilizou uma especificação técnica e partes do código em formato aberto para que outros pesquisadores possam analisar e aprimorar a iniciativa.
Como funciona o FlashProve
O sistema utiliza o conceito de “inferência comprovável”, que consiste na geração de uma prova criptográfica de que determinada resposta foi produzida por um modelo específico. A ideia é semelhante às assinaturas digitais usadas em e-mails para confirmar a identidade de quem enviou uma mensagem. Nesse caso, a verificação serviria para identificar qual IA gerou o conteúdo.
Para isso, os desenvolvedores dos modelos precisariam publicar uma espécie de impressão digital de cada sistema lançado. Essa identificação poderia ser comparada às respostas produzidas pela IA e verificada por mecanismos criptográficos.
As impressões digitais não revelariam os pesos do modelo, que são os valores internos responsáveis por determinar seu funcionamento e comportamento. Empresas como Anthropic e OpenAI mantêm essas informações privadas, mas poderiam participar de um sistema de verificação sem abrir mão desse segredo comercial.
A tecnologia também foi projetada para ser leve, permitindo que a verificação seja realizada diretamente em um dispositivo local.
Possível combate à troca secreta de modelos
Um dos problemas que o FlashProve pretende enfrentar é a possibilidade de um fornecedor apresentar um modelo aos clientes, mas utilizar outro durante a operação do serviço. Uma empresa poderia, por exemplo, anunciar o acesso a uma IA avançada e substituí-la por uma alternativa mais barata para reduzir custos.
O mecanismo também poderia dificultar situações em que uma companhia utiliza um modelo diferente daquele que afirma ter empregado para demonstrar determinado desempenho.
A verificação teria aplicações além dos serviços oferecidos diretamente por empresas de IA. Os pesquisadores citam o caso de um desenvolvedor que afirma ter usado um modelo avançado de cibersegurança para analisar uma biblioteca de software em busca de vulnerabilidades. Outra possibilidade seria uma empresa declarar que seu plano de negócios foi aprovado por uma IA adequada à tarefa. Com o FlashProve, seria possível verificar criptograficamente se o modelo anunciado foi realmente utilizado nesses processos.
Tecnologia ainda não tem previsão de lançamento
Apesar da apresentação pública, o FlashProve ainda é um projeto de pesquisa. A Anthropic disponibilizou uma especificação técnica detalhada e o código funcional de diferentes componentes sob uma licença de código aberto, permitindo que a comunidade examine e desenvolva o sistema.
A companhia, no entanto, não anunciou planos para implementar a tecnologia em seus próprios serviços ou em outras plataformas de IA. Os pesquisadores afirmaram que a publicação representa uma etapa intermediária do trabalho, e não a conclusão da agenda de pesquisa.
A intenção é permitir que outras equipes analisem a proposta, aproveitem seus componentes e contribuam para aperfeiçoá-la.
