Un tribunal de Ámsterdam, en los Países Bajos, dictaminó la prohibición para la red social X y su asistente de inteligencia artificial, Grok, de generar y difundir imágenes que muestren a personas desnudas sin su explícito consentimiento. La resolución judicial también abarca la producción de contenido pedófilo por parte de la herramienta desarrollada por la compañía de Elon Musk.
Fundamentos de la Decisión Judicial
La decisión del tribunal responde a una demanda presentada por Offlimits, un centro especializado en la lucha contra la violencia en línea. La organización detectó fallas críticas de seguridad en Grok que permitían la creación de montajes hiperrealistas, conocidos como deepfakes, que facilitaban la generación de imágenes de mujeres y niños desnudos a partir de fotografías reales.
Durante el proceso judicial, X y Grok argumentaron haber implementado medidas para combatir este tipo de imágenes, incluyendo prohibiciones en sus condiciones de uso. Sin embargo, Offlimits demostró la persistencia de la vulnerabilidad al producir un video de una persona desnuda utilizando Grok poco antes de la audiencia, lo que convenció al juez de la insuficiencia de las medidas adoptadas.
El tribunal impuso un régimen de penalizaciones económicas para garantizar el cumplimiento de la orden. Cada infracción será sancionada con una multa de 100.000 euros por día, hasta un máximo de 10 millones de euros. Este fallo se enmarca en un contexto de creciente presión regulatoria sobre las empresas tecnológicas en Europa, con iniciativas como la del Parlamento Europeo para prohibir programas de IA que permitan «desnudar» a personas sin su consentimiento.
Impacto y Alcance de los Deepfakes
Un análisis de la ONG europea AI Forensics reveló que, de 20.000 imágenes generadas por Grok en enero pasado, más de la mitad representaban a personas con poca ropa, siendo el 81% mujeres y el 2% menores de edad. A nivel global, Unicef estima que 1,2 millones de niños y niñas son víctimas de deepfakes, lo que ha llevado a organizaciones como la Alianza Global We Protect a señalar que los deepfakes han incrementado exponencialmente la oferta de material en las redes de pedofilia.
Seguinos en nuestras plataformas: YouTube (@latributvcba), Instagram y Facebook como La Tribu TV. También podés contactarnos por WhatsApp al 2572 509237.