Bruselas investiga a Grok y X por generación de imágenes sexualizadas de menores
La Comisión Europea intensifica su vigilancia sobre las grandes tecnológicas con una nueva investigación dirigida a Grok, la herramienta de inteligencia artificial de la red social X, propiedad de Elon Musk. La pesquisa se centra en la capacidad de la plataforma para generar imágenes sexualizadas de menores y otros contenidos ilegales, incluyendo material de abuso sexual infantil, informó el Ejecutivo comunitario.
Este procedimiento se suma a la investigación iniciada en diciembre de 2023 contra la firma matriz, X, sobre el cumplimiento de sus sistemas de recomendación con las obligaciones del Reglamento de Servicios Digitales (DSA, por sus siglas en inglés), que abordan riesgos que van desde la desinformación hasta la difusión de discursos de odio.
La polémica se reavivó tras los datos registrados entre el 29 de diciembre y el 8 de enero, cuando los usuarios de Grok generaron 11 millones de imágenes manipuladas sexualmente, incluyendo más de 23.000 con menores. La presidenta de la Comisión, Ursula von der Leyen, enfatizó que la UE no delegará la protección infantil en Silicon Valley: “Me horroriza que una plataforma permita desnudar digitalmente a mujeres y niños. El daño causado es muy real”.
Henna Virkkunen, vicepresidenta responsable de tecnología y seguridad, subrayó que los riesgos identificados podrían haber causado graves daños a los ciudadanos europeos y detalló que la investigación evaluará si X cumple con sus obligaciones para mitigar los riesgos vinculados a la violencia de género y al bienestar físico y mental de los usuarios.
El contexto internacional muestra respuestas diversas: Indonesia y Malasia han prohibido Grok, Italia bloqueó la app Clothoff en octubre, y en EE. UU. y China se han presentado acciones legales contra empresas dedicadas a generar contenido sexualizado mediante IA. España, por su parte, prepara una reforma del derecho al honor, la intimidad y la propia imagen, incluyendo específicamente los deepfakes que alteran la imagen sin consentimiento.
Además, Bruselas revisa el historial reciente de X: en diciembre, la empresa fue multada con 120 millones de euros por publicidad no transparente, diseño engañoso del perfil verificado y acceso indebido a datos de investigadores, cerca del máximo permitido por el DSA. La nueva investigación podría derivar en sanciones aún mayores, de hasta el 6% de los ingresos anuales globales de la compañía, junto con medidas preventivas para reducir riesgos.
La postura europea contrasta con las críticas de Estados Unidos, donde funcionarios de alto nivel, incluido el expresidente Donald Trump, han calificado de “asquerosa” la multa impuesta. Washington argumenta que el DSA limita la libertad de expresión y afecta principalmente a empresas estadounidenses. Bruselas defiende que la normativa busca proteger derechos fundamentales de colectivos vulnerables, como los menores, y se aplica únicamente a grandes plataformas electrónicas usadas por más del 10% de la población de la UE.
Fuente: El País
