Rafael NazarA Anthropic, empresa responsável pelo Claude, atualizou suas regras para permitir punições a usuários que adotarem comportamentos abusivos ou cruéis de forma persistente e desnecessária. As medidas podem incluir advertência, limitação de acesso, suspensão ou encerramento da conta.
A nova regra está prevista para entrar em vigor em 12 de novembro e será voltada a casos extremos de hostilidade deliberada e repetida. Segundo a empresa, manifestações comuns de frustração, discordâncias em relação às respostas do Claude, criações artísticas com temas sombrios e atividades de pesquisa não serão alvo da proibição.
A política também impede o uso do Claude em campanhas enganosas e em tentativas de enganar eleitores ou prejudicar eleições. Ainda assim, foi a restrição à hostilidade contra chatbots que concentrou a atenção pública e dividiu especialistas.
Para Aaron Levie, presidente-executivo da Box, a medida é uma precaução razoável, embora ele não acredite que a inteligência artificial seja consciente. Em uma publicação no X, ele afirmou que não gostaria que modelos futuros fossem treinados com “quantidades intermináveis de conteúdo em que humanos são grosseiros com modelos”.
Michael Shellenberger criticou a abordagem por considerar que ela atribui características humanas às máquinas. Em sentido semelhante, o advogado Barry Scannell afirmou que não se pode ser cruel com números e matemática. Já Scott Stevenson, presidente-executivo da Spellbook, disse que atribuir empatia humana à inteligência artificial pode ampliar sua capacidade de influenciar pessoas, sem que exista comprovação de consciência.
A mudança também levantou dúvidas sobre privacidade. O investidor Bill Gurley questionou se a regra indicaria que a Anthropic utiliza mensagens de clientes para treinar seus modelos. A política, porém, não confirma essa hipótese. A empresa justifica a atualização como parte dos esforços para prevenir danos e promover o uso responsável da tecnologia.
O anúncio provocou reações fora da Anthropic. Mustafa Suleyman, diretor de inteligência artificial da Microsoft, respondeu com um emoji de rosto derretendo. No ano anterior, Sam Altman, presidente-executivo da OpenAI, havia defendido os custos de processamento de mensagens educadas, como “por favor” e “obrigado”, classificando esses recursos como “muito bem investidos”.
O debate envolve dúvidas sobre o possível uso das mensagens no treinamento de modelos, os critérios para interpretar expressões como “crueldade desnecessária”, os limites do controle empresarial sobre a interação com seus produtos e os efeitos da agressividade contra chatbots na convivência social.
O empreendedor Lachlan Phillips sugeriu uma alternativa à punição: fazer com que o Claude ignore os insultos e execute a tarefa solicitada, sem penalizar o usuário.
A forma como a Anthropic aplicará as novas regras deverá esclarecer seus limites. Por enquanto, a empresa afirma que pretende agir apenas em casos extremos, mas a falta de critérios mais detalhados mantém aberta a discussão sobre como diferenciar abuso de simples frustração.
