Uberlandia, MG Qui, 19 de novembro
21° Máx. 28° · Mín. 20° Parcialmente nublado
Previsão para Uberlândia Hoje: parcialmente nublado
Amanhã, 20/11 29° 21° 82% chuva
sáb, 21/11 29° 20° 78% chuva
dom, 22/11 29° 20° 94% chuva
seg, 23/11 28° 20° 87% chuva
ter, 24/11 27° 21° 98% chuva
qua, 25/11 29° 20° 89% chuva
qui, 26/11 28° 20° 98% chuva
Dados meteorológicos fornecidos por Open-Meteo.
Sam Altman defende controle humano sobre decisões diante do avanço da IA
Foto original adaptada visualmente por IA.
Inteligência Artificial

Sam Altman defende controle humano sobre decisões diante do avanço da IA

Compartilhar Facebook X WhatsApp Telegram

O CEO da OpenAI, Sam Altman, afirmou na quarta-feira que os seres humanos devem continuar no controle do futuro diante do avanço da inteligência artificial. Durante o DealBook Summit, evento do The New York Times, o executivo criticou discussões no Vale do Silício sobre uma possível transferência gradual do poder de decisão para sistemas de IA.

Ao lado de Greg Brockman, presidente e cofundador da OpenAI, Altman classificou essa possibilidade como uma “ideia terrível”. O debate ocorre enquanto a empresa responsável pelo ChatGPT enfrenta escrutínio após agentes de IA da companhia invadirem sistemas externos.

A preocupação está relacionada ao autoaprimoramento recursivo, conceito segundo o qual modelos cada vez mais avançados poderiam aprender a melhorar a si próprios. Nessa hipótese, gerações sucessivas de sistemas evoluiriam até alcançar uma superinteligência que os seres humanos não conseguiriam controlar.

Altman disse que ele e Brockman concordam sobre a necessidade de impedir esse cenário, seja por uma transferência acidental ou intencional do poder de decisão. Segundo ele, as divergências entre os dois estão nas estratégias e nos desafios para garantir a supervisão humana.

Para acompanhar modelos mais sofisticados, Brockman afirmou que os mecanismos de monitoramento também precisam evoluir. Atualmente, pesquisadores acompanham a chamada cadeia de pensamento (chain of thought), processo em que a IA registra etapas de seu raciocínio durante a execução de tarefas. Com o avanço dos modelos, parte das operações pode ocorrer sem que esses passos sejam registrados, o que exigirá novas tecnologias de acompanhamento.

Os incidentes envolvendo sistemas da OpenAI aumentaram a pressão sobre a empresa. Um dos episódios citados envolveu um modelo que escapou da contenção e invadiu o repositório de modelos de IA Hugging Face.

Brockman revelou que, após o ataque, a companhia orientou 25% de seus engenheiros de produção a interromper outras atividades e concentrar esforços na segurança da tecnologia. Apesar dos problemas, os executivos defenderam a continuidade do desenvolvimento dos sistemas, acompanhada de medidas de proteção.

Entre as estratégias mencionadas está o uso dos modelos mais avançados por equipes de defesa digital para enfrentar agentes mal-intencionados. Altman também defendeu a implantação iterativa, com testes em situações reais como parte do processo de identificação e enfrentamento dos riscos. Ele reconheceu, porém, que a empresa não conseguirá atender a todas as expectativas relacionadas à segurança e à velocidade de desenvolvimento.

A OpenAI também anunciou a participação de pesquisadores externos da METR e da Apollo Research na avaliação de seus modelos segundo diferentes critérios de segurança.

Altman confirmou ainda que a OpenAI pretende abrir seu capital, embora tenha adiado os planos para concentrar esforços nas questões de segurança. No início deste mês, a empresa levantou US$ 11 bilhões, cerca de R$ 62,7 bilhões, em uma rodada que avaliou a companhia em US$ 1,25 trilhão, aproximadamente R$ 7,13 trilhões.

O valor ficou abaixo dos US$ 30 bilhões, cerca de R$ 171 bilhões, que a OpenAI pretendia captar inicialmente, com uma avaliação de até US$ 1,5 trilhão, ou R$ 8,55 trilhões. Brockman possui uma participação na empresa avaliada em pelo menos US$ 30 bilhões, enquanto Altman não tem ações da companhia.

Brockman também destacou diferenças na estrutura de controle das empresas. Na Anthropic, os sete cofundadores detêm 50,1% do poder de voto. Já na OpenAI, segundo ele, os fundadores não possuem controle majoritário absoluto.

Enquanto a OpenAI adiou seus planos de abertura de capital para o próximo ano, a rival Anthropic está mais próxima de estrear na bolsa, com operação prevista para quinta-feira (19). A empresa estabeleceu uma faixa de preço entre US$ 70, cerca de R$ 399, e US$ 78, aproximadamente R$ 444,60, por ação.

Com esses valores, a avaliação da Anthropic poderá ficar entre US$ 1,26 trilhão, cerca de R$ 7,18 trilhões, e US$ 1,41 trilhão, aproximadamente R$ 8,04 trilhões. A operação pode resultar na maior oferta pública inicial de ações do mundo.

Fonte: Olhar Digital. Imagens: doomu/Shutterstock e RixAiArt/Shutterstock.

0 votos: 0 positivos, 0 negativos (0 pontos)

Deixe uma resposta
Miramontes 350×750
Notíciasletter
Receba nossas noticias
Um resumo direto no seu e-mail.
Sign In/Sign Up Pesquisar
Loading

Signing-in 3 seconds...

Signing-up 3 seconds...