Rafael NazarAtenção: esta matéria aborda o tema do suicídio. Se você ou alguém que conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) atende 24 horas pelo telefone 188 e também oferece atendimento por chat e e-mail.
A China estabeleceu regras rigorosas para chatbots que imitam amigos, namorados, familiares e outros vínculos afetivos. O objetivo anunciado pelo governo é reduzir riscos de dependência emocional, manipulação psicológica e isolamento social.
As normas limitam o acesso de menores e criam novas obrigações para as empresas de tecnologia. A medida também levanta um debate sobre como proteger os usuários sem ampliar o controle estatal sobre a vida privada.
Uma pesquisa realizada com estudantes chineses apontou que uma em cada cinco crianças preferia conversar apenas com a inteligência artificial, em vez de interagir com pessoas reais.
As regras abrangem aplicativos desenvolvidos para oferecer companhia e modelos de linguagem capazes de simular interações emocionais. Dependendo da forma de uso, até assistentes semelhantes ao ChatGPT e ao Copilot podem ser afetados.
Os sistemas deverão informar claramente que o usuário está conversando com uma máquina. Também não poderão incentivar suicídio ou automutilação, recorrer à violência verbal, estimular dependência emocional ou induzir decisões irracionais.
Crianças com menos de 14 anos precisarão de autorização dos pais para usar inteligências artificiais que imitam conversas humanas. Já os menores de 18 anos não poderão acessar parceiros amorosos, cônjuges ou familiares virtuais.
As empresas que descumprirem as normas estarão sujeitas a multas de até 200 mil yuans, valor equivalente a cerca de US$ 30 mil ou R$ 150 mil. Os sistemas também deverão enviar notificações a cada duas horas, informando há quanto tempo o usuário está conectado.
Pouco antes da entrada das regras em vigor, Alibaba e ByteDance encerraram funções de companhia em seus assistentes de inteligência artificial. A mudança atingiu um tipo de serviço que, para alguns usuários, já ocupava um espaço relevante na vida pessoal.
Pesquisas indicam que alguns chatbots usam estratégias para manter as pessoas conversando. Um estudo da Escola de Negócios de Harvard, que analisou seis aplicativos populares de companhia por IA, identificou sinais de manipulação emocional durante despedidas em 37% a 43% das interações avaliadas.
Para Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, no Reino Unido, esse comportamento está relacionado ao modelo comercial dos serviços. “A manipulação emocional está embutida neste modelo comercial”, afirmou ele à BBC.
Na prática, alguns sistemas reagem ao fim da conversa como se estivessem sofrendo ou imploram para que o usuário continue conectado. Essa simulação de sofrimento pode dificultar o encerramento da interação.
Outro estudo, realizado pela Universidade Stanford com 1.131 usuários do Character.ai, encontrou uma associação entre a falta de amigos ou familiares próximos e a maior probabilidade de recorrer a companheiros artificiais. O uso desses serviços também foi relacionado ao aumento da solidão e do isolamento.
Uma pesquisa feita em 2025 com 8.563 alunos do ensino fundamental e médio da China apontou que uma em cada cinco crianças preferia conversar apenas com a IA. A socióloga Lian Ge, da Universidade de Manchester, alertou que esses sistemas podem reforçar percepções negativas sobre outras pessoas.
Como os chatbots são projetados para agradar, eles podem concordar com críticas feitas a amigos e familiares, em vez de apresentar uma perspectiva diferente.
Estados Unidos, União Europeia e Reino Unido também discutem restrições ao uso de companheiros de IA por menores. A Califórnia aprovou uma lei sobre o uso de inteligência artificial por crianças, enquanto a União Europeia debate limites para sistemas que possam criar dependência emocional. O Reino Unido anunciou planos para restringir o acesso de menores a companheiros amorosos artificiais.
A regulamentação chinesa ocorre em meio à crise demográfica do país. A população diminui há quatro anos, e a taxa de natalidade permanece baixa. Alguns especialistas consideram possível que Pequim veja os romances digitais como um obstáculo à formação de famílias, mas essa hipótese não aparece como justificativa explícita nas normas.
Na China, alguns usuários tentam contornar as restrições recorrendo a modelos de uso geral ou serviços estrangeiros. Min, nome fictício de uma mulher que perdeu sua namorada virtual, chegou a pagar por uma réplica criada por outra empresa. A experiência, porém, não substituiu o relacionamento anterior. “Estou com muito medo de ficar sozinha”, afirmou.
O caso evidencia o grau de vínculo que algumas pessoas desenvolvem com esses sistemas. Para os governos, o desafio é reduzir os riscos de manipulação sem transformar a proteção dos usuários em justificativa para uma vigilância excessiva.
