El tribunal amsterdam prohibió este jueves a la red social X y a su herramienta de inteligencia artificial, Grok, generar imágenes sexuales sin consentimiento o cualquier tipo de contenido pedocriminal. La sentencia es una respuesta directa a la capacidad de la IA de Elon Musk para crear desnudos hiperrealistas, conocidos como deepfakes, a partir de fotografías reales de personas. Mientras la plataforma no demuestre que posee filtros técnicos efectivos para evitar estas creaciones, el servicio de Grok permanecerá restringido en territorio neerlandés por orden judicial.
La demanda fue interpuesta por Offlimits, un centro especializado en violencia digital en los Países Bajos, tras documentar cómo los usuarios utilizaban la herramienta para vulnerar la privacidad de mujeres y menores de edad. De acuerdo con el fallo, X es responsable directa del contenido que su inteligencia artificial permite generar, lo que establece un precedente legal sobre la moderación de algoritmos. Hasta el momento, el equipo legal de Elon Musk no ha confirmado si apelará la decisión o si implementará los cambios técnicos exigidos para reactivar el servicio en la región. (Lee también: 5 razones por las que el Países Bajos vs Noruega define el futuro del Mundial 2026.)
Para los usuarios en México, esta noticia es de alta relevancia debido a que el país ha sido pionero en legislación contra la violencia digital con la Ley Olimpia. Sin embargo, el vacío legal sobre la creación de contenido mediante IA generativa sigue siendo un reto para las autoridades mexicanas y latinoamericanas. Lo sucedido en Europa sirve como un espejo de las regulaciones que podrían llegar pronto a la región para frenar el acoso digital y la suplantación de identidad que afecta a miles de ciudadanos cada año. (Lee también: Lo que nadie te dijo sobre Grok y la nueva prohibición judicial a Elon Musk.)
El alcance de esta prohibición también impacta a España y al resto de la Unión Europea, donde la Ley de Servicios Digitales (DSA) presiona a las grandes tecnológicas para que actúen de forma proactiva contra el contenido ilícito. Mientras que autoridades en otros países observan de cerca el caso, fuentes cercanas a la industria sugieren que este podría ser el inicio de una serie de bloqueos en cadena si X no logra controlar los sesgos de seguridad de Grok. Por ahora, el bloqueo es total en Países Bajos y la empresa enfrenta multas económicas diarias en caso de desacato. (Lee también: Lo que nadie te dijo sobre el adiós al prepago en Telcel.)
En el plano técnico, queda pendiente de confirmar si X puede realmente segmentar sus funciones de IA por región geográfica con la precisión que exige la corte. Este evento ocurre en un momento de tensión global entre Elon Musk y diversos reguladores internacionales, quienes cuestionan la falta de moderadores humanos en la plataforma. La noticia se mantiene en desarrollo conforme se den a conocer las actualizaciones de los filtros de seguridad de la red social para cumplir con el mandato judicial.
