Rafael NazarA ONU está chamando a atenção para os riscos da inteligência artificial (IA) e a necessidade urgente de estabelecer regras globais para sua governança. O primeiro Diálogo Global sobre Governança de IA, realizado em Genebra, destacou a proteção das crianças como uma prioridade central nas discussões sobre o avanço dessa tecnologia.
O encontro reuniu governos e especialistas, que discutiram como acompanhar a rápida evolução da IA. Mais de 100 organizações internacionais, incluindo a Anistia Internacional, estão pressionando por regulamentações mais rigorosas e maior responsabilidade das empresas que desenvolvem sistemas de IA.
Desafios da IA e a necessidade de regulamentação
António Guterres, secretário-geral da ONU, alertou que a inteligência artificial está se desenvolvendo a uma velocidade que supera a capacidade de governos e desenvolvedores de acompanhar. Ele enfatizou que, para que a inovação seja segura, é essencial que a governança da IA seja uma prioridade.
Guterres destacou que a IA pode transformar economias e influenciar a sociedade de maneiras profundas, mas que essa transformação deve ser acompanhada de regras que garantam a segurança e a ética no uso dessa tecnologia. O encontro também abordou uma avaliação científica global sobre IA, elaborada por um painel de especialistas apoiado pela ONU.
Impacto da IA nas crianças
Um dos temas mais debatidos foi o impacto da IA sobre crianças e adolescentes. Guterres alertou que essas tecnologias já estão presentes no cotidiano dos jovens, influenciando suas interações e aprendizado antes que sua segurança tenha sido devidamente comprovada.
Entre as propostas discutidas, estão a necessidade de comprovar a segurança dos sistemas antes de seu lançamento para o público infantil e a proibição de gerar imagens sexuais envolvendo menores. Essas medidas visam proteger as crianças de possíveis danos que a tecnologia pode causar.
Próximos passos e expectativas
Uma coalizão de mais de 100 organizações, liderada pela 5Rights Foundation, pediu que a responsabilidade pela segurança dos sistemas de IA recaia sobre as empresas, e não sobre os pais. A expectativa é que um relatório mais abrangente sobre o tema seja apresentado no próximo ano, em uma nova reunião global em Nova York.
Essas discussões são fundamentais para garantir que a evolução da inteligência artificial ocorra de forma responsável e segura, especialmente em relação à proteção das crianças. O desafio agora é encontrar um equilíbrio entre inovação e segurança, um tema que deve continuar em pauta nos próximos anos.
