La Comisión Europea abrió este lunes una investigación formal contra la red social X por la generación de imágenes sexualizadas y desnudos sin consentimiento a través de su inteligencia artificial, Grok. Bruselas evaluará si la compañía, propiedad de Elon Musk, ha cumplido con las obligaciones de la Ley de Servicios Digitales (DSA) en la Unión Europea.
La investigación se centra en determinar si X evaluó y mitigó los riesgos asociados con las funcionalidades de Grok. Entre ellos, la posible difusión de contenido ilegal, incluyendo imágenes sexualmente explícitas y material de abuso sexual infantil. La Comisión considera que estos riesgos parecen haberse materializado, exponiendo a los ciudadanos europeos a daños graves. Además, se analizará si X elaboró un informe de riesgos específico sobre Grok antes de su despliegue y si ha tomado medidas suficientes para prevenir consecuencias negativas sobre la salud física y mental, así como la violencia de género.
En el punto de mira desde 2023
La investigación complementa otra iniciada en diciembre de 2023, que examina la gestión de riesgos de los sistemas de recomendación de contenido de X y su reciente transición a un sistema basado en Grok.
La Comisión puede recabar información adicional, realizar inspecciones y adoptar medidas provisionales si la plataforma no ajusta sus servicios. En diciembre de 2025, X fue multada con 120 millones de euros por diseño engañoso de su marca de verificación, falta de transparencia en la publicidad y acceso limitado a datos públicos para investigadores.
Henna Virkkunen, vicepresidenta ejecutiva de la CE para Soberanía Tecnológica, Seguridad y Democracia, declaró: “Las deepfakes sexuales de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X ha cumplido sus obligaciones legales o si trató los derechos de los ciudadanos europeos como daños colaterales”.
La CE tramitará la investigación como asunto prioritario, aunque no se ha fijado un calendario específico. Se espera que examine tanto los contenidos generados por Grok como los riesgos sistémicos vinculados a la arquitectura de la plataforma.
Para más historias como esta sigue a: Más Latino
Fuentes:
