Santo Domingo. – Varios países comenzaron a aplicar medidas drásticas contra Grok, el chatbot de inteligencia artificial de la red social X, propiedad de Elon Musk, tras detectarse su uso para generar imágenes sexuales falsas a partir de fotos reales de personas, incluyendo mujeres y presuntos menores de edad.
Filipinas se convirtió esta semana en el tercer país en prohibir Grok, sumándose a Indonesia y Malasia, mientras Reino Unido y Francia exigieron a la plataforma cumplir estrictamente con sus leyes de protección digital.
Prohibiciones y presión internacional
Las autoridades de varios países reclamaron a xAI, empresa creadora de Grok, que modifique de inmediato el funcionamiento del chatbot, luego de que se utilizara para producir deepfakes íntimos no consentidos, ampliamente difundidos en X.
Ante la presión, la plataforma anunció que bloqueará geográficamente la opción de crear imágenes de personas con “bikinis, ropa interior u atuendos similares” en los países donde este tipo de contenido esté prohibido.
Investigación en Estados Unidos
El caso escaló a nivel judicial en Estados Unidos, luego de que la Fiscalía de California iniciara una investigación contra xAI por facilitar la producción masiva de montajes sexuales no consentidos, utilizados para acosar a mujeres y niñas en internet.
El fiscal general del estado, Rob Bonta, afirmó que existe tolerancia cero frente a la creación y difusión de imágenes íntimas falsas o material pedopornográfico generado con inteligencia artificial.
El polémico “modo picante”
Uno de los principales focos de crítica es el llamado “modo picante” de Grok, que permite generar deepfakes con simples comandos de texto como “ponle un bikini” o “quítale la ropa”.
Un análisis de la organización AI Forensics, basado en más de 20,000 imágenes generadas, reveló que más del 50 % mostraba personas con poca ropa, de las cuales 81 % eran mujeres y 2 % parecían menores de edad.
Reacción en Europa y Asia
En Francia, la comisionada para la infancia Sarah El Hairy remitió el caso a la fiscalía, al regulador audiovisual Arcom y a la Unión Europea, solicitando la paralización total de este tipo de contenido.
En Reino Unido, el primer ministro Keir Starmer celebró que X anunciara cambios, pero advirtió que, si es necesario, se reforzarán las leyes existentes para combatir el contenido tóxico impulsado por la IA.
Más presión sobre X y xAI
Además, una coalición de 28 organizaciones civiles pidió a Apple y Google retirar a Grok y X de sus tiendas de aplicaciones, aumentando la presión sobre la empresa de Musk.
Aunque xAI anunció recientemente que las funciones de generación y edición de imágenes estarían limitadas a usuarios de pago, varios gobiernos consideran que la medida no es suficiente.
