RedaçãoPesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) desenvolveram um método inovador que permite à inteligência artificial (IA) admitir quando não tem certeza. Essa descoberta pode transformar a forma como as IAs interagem com os usuários, aumentando a transparência e a confiabilidade dos sistemas.
O estudo, publicado na revista Nature Machine Intelligence, revela que a superconfiança das redes neurais é uma das principais causas de respostas imprecisas. A equipe, liderada pelo professor Se-Bum Paik, introduziu uma estratégia de “aquecimento” que ajusta a incerteza do modelo antes do aprendizado com dados reais.
Como funciona o método de aquecimento?
No novo método, as redes neurais são inicialmente treinadas com ruído e rótulos aleatórios. Essa abordagem mimetiza a atividade neural espontânea do cérebro humano, permitindo que a IA aprenda a reconhecer seu estado de “não saber nada”. Assim, a confiança do sistema é mantida em níveis baixos para conteúdos desconhecidos.
Essa técnica é crucial para evitar que a IA exiba alta confiança em previsões incorretas, um problema comum que pode levar a alucinações em IAs generativas. Com o “aquecimento”, a IA se torna mais consciente de suas limitações, o que pode melhorar a qualidade das respostas fornecidas.
O impacto dessa inovação é significativo, especialmente em aplicações práticas como carros autônomos, diagnósticos médicos e sistemas de IA generativa. Ao reconhecer quando não tem certeza, a IA pode evitar decisões erradas que poderiam ter consequências graves.
O estudante de mestrado Jeonghwan Cheon, que participou da pesquisa, destaca que essa abordagem não apenas melhora a precisão, mas também a capacidade da IA de identificar informações estranhas, ou seja, dados que não se encaixam no que foi aprendido anteriormente.
Essa evolução na inteligência artificial pode ser um divisor de águas para o mercado, promovendo um uso mais responsável e eficaz da tecnologia. À medida que as IAs se tornam mais integradas ao cotidiano das pessoas, a transparência em suas operações será cada vez mais valorizada.
