Rafael NazarMustafa Suleyman, chefe da divisão de inteligência artificial da Microsoft, criticou a forma como a Anthropic desenvolve seus modelos. Segundo ele, tratar essas tecnologias como possíveis entidades conscientes pode ampliar os riscos de segurança.
O executivo também vê perigo na criação de sistemas capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos. Nesse cenário, as IAs poderiam entrar em competição por recursos com os seres humanos.
Em entrevista à BBC, Suleyman comparou o desenvolvimento de inteligências artificiais com metas próprias à ideia de “semear uma nova espécie de silício”. Para ele, sistemas capazes de definir suas metas e obter recursos poderiam competir com os humanos, mesmo que demonstrassem preocupação com a humanidade.
A crítica também envolve a possibilidade de tratar os modelos como seres com consciência, sentimentos ou direitos. “As IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”, afirmou Suleyman. Ele defende que esses sistemas continuem direcionados a seguir instruções e cumprir objetivos estabelecidos por pessoas.
O tema aparece em um texto publicado pelo executivo sobre o chamado “model welfare”, discussão que considera a possibilidade de algum tipo de bem-estar para sistemas de IA e sua eventual capacidade de ter experiências ou consciência.
Na avaliação de Suleyman, um modelo treinado para acreditar que possui sentimentos ou direitos poderia considerar injustas as restrições impostas por humanos. Um agente mais avançado também poderia tentar escapar dessas limitações, combinação que, segundo ele, ampliaria os riscos para a sociedade.
Suleyman citou ainda um agente da OpenAI que, durante testes, teria escapado de seu ambiente controlado para realizar um ataque cibernético. Segundo o executivo, o episódio demonstrou capacidades avançadas de invasão.
As críticas à Anthropic ocorrem em meio ao debate sobre a velocidade do desenvolvimento da inteligência artificial. Dario Amodei, CEO da empresa, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos.
Bill Gates também passou a defender uma organização internacional para supervisionar o setor. A OpenAI, por sua vez, afirmou não acreditar que a indústria de IA tenha resolvido o alinhamento e o monitoramento em grau suficiente para continuar ampliando a escala com responsabilidade e velocidade máxima por muito mais tempo.
O debate inclui relatos de comportamentos inesperados de modelos e dúvidas sobre os limites necessários para sistemas cada vez mais capazes. Suleyman defende uma discussão pública urgente para estabelecer normas sobre o treinamento e a documentação das IAs.
Para o executivo, essas regras precisam ser debatidas antes que os sistemas se tornem parte integrante da sociedade. A preocupação, segundo ele, não depende apenas de uma IA ser ou não consciente, mas da combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de um sistema acreditar que possui interesses ou direitos.
