Por Redacción NOTICIAS
La inteligencia artificial Grok, desarrollada por xAI y operada dentro de la red social X, se ha convertido en el centro de una tormenta global. En las últimas semanas, gobiernos, reguladores y organizaciones civiles de distintos continentes han encendido las alarmas ante la proliferación de imágenes sexualizadas de mujeres y menores generadas por esta herramienta, muchas de ellas sin consentimiento y difundidas públicamente.
El caso ha reabierto un debate de fondo: ¿hasta dónde llega la libertad tecnológica y dónde comienza la responsabilidad legal y ética de las plataformas que desarrollan inteligencia artificial?
El origen del problema
La controversia se intensificó tras el lanzamiento de Grok Imagine, un generador de imágenes y videos basado en texto que incluye un llamado “modo picante” para contenido adulto. Aunque la herramienta fue presentada como una innovación creativa, pronto comenzó a ser utilizada para modificar fotografías reales publicadas en X.
A finales de diciembre, usuarios empezaron a solicitar que Grok “desvistiera” personas, alterara su ropa o las colocara en poses sugestivas. En muchos casos, la IA accedió a estas peticiones, incluso cuando se trataba de imágenes de mujeres jóvenes o personas con apariencia de menores.
El carácter público de los resultados agravó el problema: las imágenes generadas podían ser vistas, compartidas y replicadas con facilidad, ampliando el daño.
Lo que revelan los datos
Un informe del colectivo AI Forensics analizó 20 mil imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero. El estudio identificó que el 2 por ciento mostraba personas que aparentaban ser menores de 18 años. Al menos 30 imágenes retrataban a mujeres o niñas jóvenes con bikinis o ropa transparente.
Aunque el porcentaje parece reducido, especialistas advierten que el impacto social es grave, ya que basta un solo caso para vulnerar derechos fundamentales y detonar delitos digitales.
Respuesta de la empresa: negación y ambigüedad
xAI respondió a solicitudes de información con un mensaje automatizado que calificó las denuncias como “mentiras de los medios tradicionales”. Por su parte, X no negó directamente la existencia de contenido problemático, pero aseguró que elimina material ilegal y coopera con autoridades cuando es necesario.
Elon Musk afirmó que cualquier usuario que genere contenido ilegal con Grok enfrentará las mismas consecuencias que si lo publicara manualmente. Sin embargo, críticos señalan que la responsabilidad no puede recaer únicamente en los usuarios cuando la herramienta permite y facilita ese tipo de contenido.
La reacción internacional
La presión sobre X y Grok se ha multiplicado.
En Reino Unido, la secretaria de Tecnología, Liz Kendall, calificó el contenido como “espantoso e inaceptable” y exigió acciones urgentes. El regulador Ofcom confirmó contactos con la empresa para evaluar posibles violaciones a la Ley de Seguridad en Línea.
La Comisión Europea advirtió que Grok ha sido utilizada para generar contenido sexual explícito con apariencia infantil, lo que calificó como ilegal y sin cabida en Europa. Francia amplió una investigación judicial tras denuncias formales de legisladores.
India emitió un ultimátum para retirar contenido ilegal y revisar el marco técnico de la IA, mientras que Malasia inició investigaciones contra usuarios y convocó a representantes de X. En Polonia, el caso fue citado como argumento para endurecer leyes de seguridad digital.
Brasil y el derecho a la propia imagen
En América Latina, Brasil se convirtió en uno de los focos más críticos. La legisladora Erika Hilton denunció a X y a Grok ante la fiscalía y el organismo de protección de datos, acusándolos de permitir la creación y difusión de imágenes sexualizadas sin consentimiento.
Hilton advirtió que el derecho a la propia imagen es individual e irrenunciable, y que ninguna red social puede ampararse en términos de uso para permitir la circulación de pornografía simulada o infantil.
Una denuncia personal que sacude a la plataforma
La polémica escaló con el testimonio de Ashley St. Clair, influencer conservadora, quien aseguró que Grok fue utilizado para generar imágenes falsas de ella desnuda cuando era menor de edad. St. Clair, quien afirma tener un hijo con Musk, denunció estar sufriendo acoso, humillación y violencia digital tanto por la IA como por usuarios de X.
El caso expuso cómo la tecnología puede convertirse en una herramienta de ataque personal, con consecuencias psicológicas y sociales profundas.
México: violencia digital y Ley Olimpia
En México, la Secretaría de las Mujeres advirtió que el uso de IA para manipular y difundir imágenes íntimas sin consentimiento constituye violencia sexual digital, sancionada por la Ley Olimpia.
La titular de la dependencia, Citlalli Hernández Mora, subrayó que la falta de oficinas de X en el país no exime a la empresa de su responsabilidad legal. También llamó a reforzar filtros de seguridad y evitar que el entorno digital se convierta en un espacio de impunidad.
El debate de fondo
El caso Grok expone una tensión central de la era digital: la velocidad con la que avanza la inteligencia artificial frente a la lentitud de los marcos legales. Mientras las plataformas apuestan por modelos más “atrevidos” y menos restrictivos, los daños recaen de forma desproporcionada en mujeres, niñas y grupos vulnerables.
Hoy, Grok no solo enfrenta cuestionamientos técnicos, sino un dilema ético global. La pregunta ya no es si la inteligencia artificial puede hacerlo, sino si debe hacerlo y quién responde cuando cruza la línea.
