Os Estados-membros e o Parlamento Europeu alcançaram um acordo nesta quinta-feira (7) para banir na União Europeia as ferramentas de inteligência artificial (IA) que geram imagens sexuais falsas sem o consentimento das pessoas envolvidas.
A iniciativa surgiu após a introdução, há alguns meses, de uma funcionalidade no Grok, o assistente de IA da xAI, empresa de Elon Musk, que permite aos usuários solicitar a criação de imagens hiper-realistas (ou deepfakes) de adultos e crianças nus a partir de fotos reais, sem o consentimento das pessoas retratadas.
O recurso gerou críticas em vários países e resultou na abertura de uma investigação na UE. Fora do bloco europeu, o Reino Unido anunciou penas de prisão para quem descumprir as medidas de retirada da internet de imagens íntimas divulgadas sem consentimento.
A primeira-ministra italiana, Giorgia Meloni, denunciou a divulgação de fotos falsas com a sua imagem geradas por IA e classificou o recurso como uma "ferramenta perigosa".
Segundo o Parlamento Europeu, a nova proibição visa os sistemas que permitem criar imagens, vídeos e sons de caráter pedopornográfico, ou que representem as partes íntimas de uma pessoa identificável, ou que mostrem uma pessoa participando de atividades sexuais, sem o seu consentimento.A nova regulamentação será aplicada a partir de 2 de dezembro de 2026. Na data, os serviços de IA deverão contar com medidas de segurança que as impeçam de gerar esse tipo de conteúdo.
