Rafael NazarPesquisadores desenvolveram uma tecnologia capaz de identificar, por meio de sinais cerebrais, quando uma inteligência artificial (IA) interpretou incorretamente a intenção de uma pessoa. A proposta é fazer com que sistemas reconheçam uma espécie de “isso não era o que eu quis dizer” sem que o usuário precise corrigir a máquina verbalmente.
O trabalho foi realizado por pesquisadores do Korea Advanced Institute of Science and Technology (KAIST), em colaboração com a Microsoft Research Asia. Chamada Neural Value Alignment (NVA), a tecnologia usa uma interface cérebro-computador para analisar sinais obtidos por eletroencefalografia (EEG) e ajustar o comportamento da IA em tempo real.
A pesquisa parte de um problema comum na interação entre pessoas e máquinas: uma mesma ação pode representar objetivos diferentes, enquanto um mesmo objetivo pode ser alcançado de várias maneiras. Pegar uma xícara, por exemplo, não significa necessariamente que a pessoa pretende beber nela. O objeto pode ser entregue a alguém, lavado ou colocado em outro lugar.
Da mesma forma, para matar a sede, uma pessoa pode pegar uma xícara, buscar uma garrafa de água ou pedir que alguém leve uma bebida. Essa diferença entre objetivo e ação pode fazer com que a IA interprete corretamente o comportamento, mas erre sobre o que o usuário realmente queria. Também é possível que compreenda o objetivo, mas escolha uma forma de execução diferente da esperada.
Para lidar com essa ambiguidade, os pesquisadores analisaram reações cerebrais associadas a situações inesperadas. O cérebro faz previsões constantes sobre o que deve acontecer e, quando o resultado não corresponde ao esperado, determinados sinais neurais podem ser produzidos.
A equipe se concentrou em dois desses sinais: o erro de previsão de recompensa (RPE, na sigla em inglês) e o erro de previsão de estado (SPE, também na sigla em inglês). O RPE indica uma discrepância relacionada ao resultado ou ao objetivo e pode sinalizar que a IA não entendeu o que a pessoa queria.
Em um exemplo, alguém pede a um robô doméstico algo para beber, mas queria água e recebe café. Como o resultado está errado, o cérebro pode produzir um sinal de RPE.
O SPE tem outra função. Nesse caso, a IA entende o objetivo, mas utiliza um método diferente do esperado. Se a pessoa quer água e o robô compreende isso, mas, em vez de pegar uma garrafa próxima, vai até a cozinha e enche um copo na torneira, o objetivo é alcançado, embora o caminho escolhido não seja o esperado. Essa diferença pode gerar um SPE.
Durante os experimentos, os pesquisadores identificaram padrões distintos nas ondas cerebrais quando ocorria um RPE, um SPE ou os dois sinais simultaneamente. Depois, aplicaram técnicas de aprendizado profundo aos dados captados pelo EEG.
Com isso, o sistema conseguiu classificar a resposta da pessoa à atuação da IA e diferenciar duas situações: quando o objetivo foi compreendido de forma errada e quando o objetivo foi entendido, mas executado pelo método inadequado. Os sinais decodificados são usados como retorno para o processo de decisão da inteligência artificial.
Quando identifica um SPE, o sistema interpreta que o objetivo está correto, mas a estratégia precisa ser modificada. Já um RPE indica que o próprio objetivo foi compreendido de maneira equivocada e que a IA deve tentar descobrir novamente o que a pessoa pretendia.
Segundo o KAIST, simulações mostraram que o método se adaptou mais rapidamente do que abordagens existentes, inclusive em situações de incerteza, como mudanças repentinas no objetivo de uma pessoa ou ausência de parte do retorno neural.
O estudo foi publicado em agosto de 2026 na revista IEEE Transactions on Cybernetics, com o título Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity.
Os pesquisadores avaliam que a tecnologia pode ser aplicada a sistemas que trabalham próximos dos seres humanos. Um robô doméstico, por exemplo, poderia identificar pela resposta cerebral do usuário que interpretou uma instrução de maneira incorreta e alterar seu comportamento sem esperar uma nova ordem verbal.
A abordagem também poderia ser usada em robôs industriais, veículos autônomos que precisam responder ao julgamento do motorista, sistemas médicos e de reabilitação destinados a pessoas com dificuldades para falar ou se movimentar e ferramentas educacionais capazes de adaptar seu comportamento ao estado cognitivo do estudante.
Para Sang Wan Lee, professor do KAIST e responsável pela pesquisa, o trabalho mostra que a IA pode ir além da interpretação da intenção humana baseada apenas em comportamentos observáveis. Segundo ele, o sistema permite utilizar diretamente sinais cognitivos produzidos pelo cérebro durante a interação entre pessoas e máquinas.
Apesar do potencial, a tecnologia ainda não permite que uma pessoa simplesmente pense que um robô está fazendo algo errado e faça a máquina parar imediatamente. O sistema foi demonstrado em simulações, e não em um robô operando livremente em um ambiente real, acompanhando continuamente o EEG de uma pessoa e modificando seu comportamento.
Além disso, o EEG depende de eletrodos para medir sinais elétricos extremamente pequenos produzidos pelo cérebro. Esses sinais podem apresentar ruído e são mais difíceis de obter fora de ambientes controlados.
Por isso, ainda será necessário avaliar o desempenho da NVA em interações naturais, nas quais as pessoas se movimentam e enfrentam situações menos previsíveis do que as utilizadas nos experimentos de laboratório.
