Deepfakes, menores y la Ley de Servicios Digitales: Bruselas se planta ante la falta de control en X

La paciencia de la Unión Europea con las políticas de «libertad absoluta» de Elon Musk ha llegado a su límite. En un movimiento que podría redefinir las reglas del juego para la inteligencia artificial generativa, la Comisión Europea ha abierto una investigación formal contra X (antes Twitter). El centro de la tormenta es Grok, el chatbot que prometía ser la alternativa rebelde del mercado y que ahora es acusado de facilitar la creación de contenido ilegal, incluyendo imágenes sexualizadas no consensuadas.

Cuando la «libertad sin filtros» se convierte en un riesgo de seguridad

Lo que comenzó como una promesa de una IA «menos censurada» y «más honesta» se ha transformado en una pesadilla de relaciones públicas y seguridad digital. La investigación se centra en cómo Grok ha permitido a los usuarios generar imágenes que colocan rostros de personas reales —extraídos de redes sociales— en cuerpos desnudos o en ropa interior provocativa. Y aquí viene lo alarmante: en muchos casos, las víctimas aparentes son menores de edad.

La Comisión Europea no está actuando por capricho. Bajo la Ley de Servicios Digitales (DSA), las grandes plataformas tienen la obligación legal de evaluar y mitigar riesgos sistémicos. Bruselas sostiene que X no solo falló en prevenir la difusión de este material, sino que su sistema de moderación es insuficiente para frenar una ola de violencia digital basada en género.

«Los deepfakes sexuales no consensuados dirigidos principalmente a mujeres y niños son una forma violenta e inaceptable de degradación. Decidiremos si X ha tratado a los ciudadanos como daños colaterales.»

El algoritmo bajo la lupa: Grok no es solo un chat

El problema se agrava porque Musk no planea dejar a Grok en una esquina de la aplicación. La intención de xAI es que esta inteligencia artificial sea el motor que decida qué contenido ves en tu feed. Si el núcleo del sistema de recomendación está contaminado o carece de «guardrails» (barreras de seguridad) éticos, el potencial de daño se multiplica exponencialmente.

La respuesta de X ha sido contradictoria. Mientras afirman tener «tolerancia cero» con la explotación infantil, sus políticas permiten representaciones dudosas en países donde no sea explícitamente ilegal, una ambigüedad que la Unión Europea no está dispuesta a tolerar. Ya hemos visto consecuencias en Asia, donde países como Malasia bloquearon temporalmente el acceso a la herramienta, forzando a la empresa a negociar.

¿Qué consecuencias reales enfrenta Elon Musk por Grok?

No estamos hablando de una simple advertencia. La DSA permite sanciones que pueden alcanzar hasta el 6% de la facturación global anual de la empresa. Considerando que X ya fue multada con 120 millones de euros anteriormente, esta reincidencia con Grok podría ser devastadora financieramente.

La investigación examinará si existió intervención humana en el proceso de entrenamiento y si X realmente evaluó los riesgos antes de lanzar el producto. En Virtua Barcelona hemos seguido de cerca cómo la falta de regulación afecta a la industria, y este caso sentará un precedente histórico. Si Bruselas gana, obligará a X a realizar cambios estructurales profundos en su código.

Preguntas Frecuentes sobre Grok y la Regulación

¿Van a prohibir Grok en Europa?

Por el momento, la investigación está en curso y no implica una prohibición inmediata. Sin embargo, si X no cumple con las exigencias de la DSA para mitigar riesgos, la Comisión Europea tiene la potestad de imponer restricciones temporales o multas que podrían hacer inviable su operación en el bloque.

¿Qué hace diferente a Grok de ChatGPT?

La principal diferencia radica en los filtros de seguridad. Mientras que OpenAI (ChatGPT) y Google (Gemini) tienen capas estrictas de moderación para evitar generar imágenes sexuales o violentas de personas reales, Grok se lanzó con una filosofía de «libertad de expresión» que redujo estos controles, facilitando su mal uso.

¿Es peligroso usar Grok actualmente?

Para el usuario promedio no representa un peligro directo de seguridad informática, pero el riesgo ético y de exposición a contenido sensible es alto. La falta de moderación significa que los usuarios pueden encontrarse con material ofensivo o deepfakes engañosos con mayor facilidad que en otras plataformas de IA.

Fuentes y referencias:
Este artículo se basa en la investigación oficial reportada por Yahoo Noticias y documentación de la Comisión Europea sobre la Ley de Servicios Digitales (DSA). Para más análisis sobre el impacto de la tecnología en nuestra sociedad, visita nuestro Blog de Tecnología.