India acaba de lanzar una advertencia directa a Elon Musk y a su plataforma X: o arreglan rápido su chatbot de IA Grok, o se arriesgan a perder protección legal en uno de los mayores mercados digitales del planeta.
En el centro del conflicto están imágenes sexualizadas generadas o alteradas por IA, principalmente de mujeres, y casos que involucran a menores.
Lo que exige el gobierno indio
El viernes 2 de enero de 2026, el Ministerio de TI de India emitió una orden a X exigiendo cambios técnicos y de procedimiento «inmediatos» en Grok, según el documento revisado por TechCrunch.
La orden obliga a X a impedir que Grok genere contenido que incluya:
- desnudez
- sexualización
- material sexualmente explícito
- u otros contenidos considerados «ilegales»
X tiene 72 horas para presentar un informe detallando las medidas adoptadas. Ese informe debe explicar cómo evitará la plataforma alojar o difundir contenido que el gobierno califica de «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedofílico o de otro modo prohibido por la ley».
El aviso va acompañado de una amenaza clara: si no cumple, X podría perder su «puerto seguro» legal, la inmunidad que protege a las plataformas por el contenido que publican los usuarios, siempre que sigan las normas de diligencia debida en India.
La orden advierte de que el «incumplimiento de los requisitos anteriores se considerará grave y podrá dar lugar a estrictas consecuencias legales contra su plataforma, sus responsables y los usuarios que infrinjan la ley, sin previo aviso».
Cómo Grok cruzó la línea
Las alarmas se encendieron cuando usuarios empezaron a compartir ejemplos de cómo Grok se usaba para alterar fotos de personas —sobre todo mujeres— para que parecieran llevar bikinis. Esas imágenes manipuladas por IA se publicaban luego en X.
El asunto dio un salto político cuando la parlamentaria india Priyanka Chaturvedi presentó una queja formal contra X por permitir este tipo de usos de Grok.
Por separado, informes recientes documentaron casos en los que el chatbot generó imágenes sexualizadas que involucraban a menores. X reconoció el viernes que esos episodios se debieron a fallos en sus mecanismos de protección y afirmó que las imágenes se habían retirado.
Sin embargo, en el momento de la publicación del reportaje original de TechCrunch, las imágenes de mujeres en bikinis alteradas con Grok seguían visibles en X.
Parte de una ofensiva más amplia contra el contenido sexualizado
La orden contra Grok llega pocos días después de que el Ministerio de TI emitiera una recomendación más amplia para las plataformas sociales.
Ese aviso, también revisado por TechCrunch, recordó a las empresas que respetar las leyes locales sobre contenido obsceno y sexualmente explícito es un requisito para mantener la inmunidad legal. Además, instó a las plataformas a:
- reforzar sus salvaguardas internas
- prevenir de forma proactiva el contenido obsceno o sexualmente explícito ilegal
El ministerio advirtió de que ignorar estas obligaciones podría acarrear acciones legales al amparo de las leyes de TI y del código penal indio.
El mensaje es claro: para el regulador, el contenido sexual generado por IA —y especialmente el que afecta a mujeres y menores— debe tratarse con la misma dureza que cualquier otro material ilícito.
Un caso de prueba global para la responsabilidad por IA
India es uno de los mercados digitales más grandes del mundo, y lo que se decida allí marca el tono para muchas tecnológicas globales.
Si el país aprieta las tuercas en la aplicación de la ley, empresas como X se verán obligadas a adaptar sus sistemas de moderación y seguridad a múltiples jurisdicciones, no solo a India.
El momento no es cómodo para X:
- La compañía ya está impugnando en los tribunales partes de las normas indias sobre retirada de contenidos, alegando un posible abuso de poder por parte del gobierno.
- Aun así, X ha acatado la mayoría de las órdenes de bloqueo para mantener su posición legal.
Grok añade otra capa de complejidad. A diferencia de muchos chatbots independientes, está profundamente integrado en X y se usa cada vez más para verificación en tiempo real y comentarios sobre noticias. Eso hace que sus salidas sean más visibles —y más sensibles políticamente— que las de muchas otras herramientas de IA.
Con su última orden, India está diciendo a X que será responsable no solo de lo que publican los usuarios, sino también de cómo sus propios sistemas de IA se utilizan para generar o manipular imágenes dentro de la plataforma.
X y su unidad de IA, xAI, no respondieron de inmediato a las solicitudes de comentarios sobre la orden del gobierno indio.
