La Unión Europea alcanzó un acuerdo para prohibir las herramientas de inteligencia artificial capaces de generar imágenes íntimas falsas de personas sin su consentimiento, en una medida que busca frenar el crecimiento de contenidos manipulados conocidos como “deepfakes” sexuales.
El pacto fue aprobado entre el Parlamento Europeo y los 27 países miembros del bloque, luego de meses de preocupación por el uso de plataformas de IA para crear imágenes hiperrealistas de carácter sexual.
La nueva regulación apunta directamente contra sistemas que permiten modificar fotografías o videos para mostrar a personas desnudas o participando en actos sexuales ficticios sin autorización.
Las autoridades europeas consideran que este tipo de contenido representa una grave amenaza para la privacidad, la dignidad y la seguridad digital, especialmente en menores de edad y mujeres.
En los últimos meses, redes sociales y plataformas digitales registraron una fuerte expansión de imágenes falsas creadas mediante inteligencia artificial, muchas de ellas utilizadas para humillar, acosar o difamar a víctimas.
La normativa acordada por la Unión Europea prohibirá la comercialización y distribución de herramientas capaces de producir material sexual falso, incluyendo imágenes, audios y videos manipulados.
El acuerdo también contempla restricciones severas para contenidos relacionados con explotación sexual infantil generada artificialmente.
Entre los casos que impulsaron el debate europeo destacó la difusión de imágenes manipuladas de Giorgia Meloni, quien apareció falsamente en fotografías íntimas creadas con inteligencia artificial.
La mandataria italiana calificó este tipo de tecnología como una “herramienta peligrosa” y denunció públicamente el impacto que estas manipulaciones pueden tener sobre la reputación y la vida privada de las personas.
La preocupación aumentó especialmente tras detectarse que muchos adolescentes y menores de edad estaban siendo víctimas de imágenes falsas sexualizadas difundidas en internet y redes sociales.
Autoridades europeas consideran que el fenómeno se ha acelerado por el fácil acceso a plataformas de IA capaces de generar contenido hiperrealista en cuestión de segundos.
Algunas de las imágenes más polémicas fueron vinculadas con Grok, desarrollado por la empresa de Elon Musk.
Como parte de las investigaciones, la Comisión Europea abrió pesquisas contra la red social X para analizar posibles incumplimientos relacionados con la difusión de contenido manipulado mediante inteligencia artificial.
La regulación forma parte de un esfuerzo más amplio de Europa para establecer límites legales al uso de IA, un tema que se ha convertido en prioridad mundial debido al crecimiento acelerado de tecnologías capaces de alterar imágenes, voces y videos de forma extremadamente realista.
Especialistas en ciberseguridad advierten que los “deepfakes” sexuales representan uno de los usos más peligrosos de la inteligencia artificial, debido a su potencial para extorsionar, acosar o destruir reputaciones personales y profesionales.
Con esta decisión, la Unión Europea busca posicionarse como uno de los primeros grandes bloques internacionales en imponer controles específicos sobre este tipo de herramientas digitales.
