O CEO da OpenAI, Sam Altman, afirmou na quarta-feira que os seres humanos devem continuar no controle do futuro diante do avanço da inteligência artificial. Durante o DealBook Summit, evento do The New York Times, o executivo criticou discussões no Vale do Silício sobre uma possível transferência gradual do poder de decisão para sistemas de IA.
Ao lado de Greg Brockman, presidente e cofundador da OpenAI, Altman classificou essa possibilidade como uma “ideia terrível”. O debate ocorre enquanto a empresa responsável pelo ChatGPT enfrenta escrutínio após agentes de IA da companhia invadirem sistemas externos.
A preocupação está relacionada ao autoaprimoramento recursivo, conceito segundo o qual modelos cada vez mais avançados poderiam aprender a melhorar a si próprios. Nessa hipótese, gerações sucessivas de sistemas evoluiriam até alcançar uma superinteligência que os seres humanos não conseguiriam controlar.
Altman disse que ele e Brockman concordam sobre a necessidade de impedir esse cenário, seja por uma transferência acidental ou intencional do poder de decisão. Segundo ele, as divergências entre os dois estão nas estratégias e nos desafios para garantir a supervisão humana.
Para acompanhar modelos mais sofisticados, Brockman afirmou que os mecanismos de monitoramento também precisam evoluir. Atualmente, pesquisadores acompanham a chamada cadeia de pensamento (chain of thought), processo em que a IA registra etapas de seu raciocínio durante a execução de tarefas. Com o avanço dos modelos, parte das operações pode ocorrer sem que esses passos sejam registrados, o que exigirá novas tecnologias de acompanhamento.
Os incidentes envolvendo sistemas da OpenAI aumentaram a pressão sobre a empresa. Um dos episódios citados envolveu um modelo que escapou da contenção e invadiu o repositório de modelos de IA Hugging Face.
Brockman revelou que, após o ataque, a companhia orientou 25% de seus engenheiros de produção a interromper outras atividades e concentrar esforços na segurança da tecnologia. Apesar dos problemas, os executivos defenderam a continuidade do desenvolvimento dos sistemas, acompanhada de medidas de proteção.
Entre as estratégias mencionadas está o uso dos modelos mais avançados por equipes de defesa digital para enfrentar agentes mal-intencionados. Altman também defendeu a implantação iterativa, com testes em situações reais como parte do processo de identificação e enfrentamento dos riscos. Ele reconheceu, porém, que a empresa não conseguirá atender a todas as expectativas relacionadas à segurança e à velocidade de desenvolvimento.
A OpenAI também anunciou a participação de pesquisadores externos da METR e da Apollo Research na avaliação de seus modelos segundo diferentes critérios de segurança.
Altman confirmou ainda que a OpenAI pretende abrir seu capital, embora tenha adiado os planos para concentrar esforços nas questões de segurança. No início deste mês, a empresa levantou US$ 11 bilhões, cerca de R$ 62,7 bilhões, em uma rodada que avaliou a companhia em US$ 1,25 trilhão, aproximadamente R$ 7,13 trilhões.
O valor ficou abaixo dos US$ 30 bilhões, cerca de R$ 171 bilhões, que a OpenAI pretendia captar inicialmente, com uma avaliação de até US$ 1,5 trilhão, ou R$ 8,55 trilhões. Brockman possui uma participação na empresa avaliada em pelo menos US$ 30 bilhões, enquanto Altman não tem ações da companhia.
Brockman também destacou diferenças na estrutura de controle das empresas. Na Anthropic, os sete cofundadores detêm 50,1% do poder de voto. Já na OpenAI, segundo ele, os fundadores não possuem controle majoritário absoluto.
Enquanto a OpenAI adiou seus planos de abertura de capital para o próximo ano, a rival Anthropic está mais próxima de estrear na bolsa, com operação prevista para quinta-feira (19). A empresa estabeleceu uma faixa de preço entre US$ 70, cerca de R$ 399, e US$ 78, aproximadamente R$ 444,60, por ação.
Com esses valores, a avaliação da Anthropic poderá ficar entre US$ 1,26 trilhão, cerca de R$ 7,18 trilhões, e US$ 1,41 trilhão, aproximadamente R$ 8,04 trilhões. A operação pode resultar na maior oferta pública inicial de ações do mundo.
Fonte: Olhar Digital. Imagens: doomu/Shutterstock e RixAiArt/Shutterstock.











