Tres jóvenes han presentado una demanda contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, tras descubrir que sus imágenes y videos fueron alterados sin consentimiento por un usuario de Grok, el chatbot de la compañía.
El contenido manipulado las mostraba desnudas o en situaciones sexualizadas, lo que ha generado alarma sobre el uso indebido de herramientas de IA generativa y la falta de salvaguardas para proteger a las personas de la explotación.
El caso, presentado en la Corte del Distrito Norte de California, sostiene que xAI no implementó protecciones suficientes para evitar que Grok fuera utilizado con fines dañinos.
Según las demandantes, sus rostros y cuerpos fueron alterados digitalmente y difundidos en línea, causando daños a su reputación y un fuerte impacto emocional.
La demanda surge en un contexto de creciente escrutinio hacia las empresas de inteligencia artificial por la proliferación de deepfakes y contenido sintético explícito. En los últimos meses, millones de imágenes manipuladas han circulado en X (antes Twitter), lo que ha encendido las alarmas sobre el papel de la plataforma en la difusión de este material.
Las demandantes argumentan que xAI es responsable de haber permitido la creación de dichas imágenes, dado que Grok fue la herramienta utilizada.
Las autoridades también han reaccionado. Una coalición de 35 fiscales generales en Estados Unidos ha instado a xAI a adoptar medidas más estrictas para impedir la generación de contenido sexual no consensuado y material de explotación infantil.
La demanda refleja la presión creciente sobre los desarrolladores de IA para equilibrar la innovación con la responsabilidad ética y la seguridad de los usuarios.
Expertos legales señalan que este caso podría sentar un precedente sobre cómo los tribunales asignan responsabilidad cuando las herramientas de IA son mal utilizadas. Más allá de las implicaciones jurídicas, el proceso subraya la necesidad urgente de regulaciones más sólidas y salvaguardas tecnológicas que protejan la privacidad y la dignidad en la era digital.
Para xAI, el reto es tanto legal como reputacional. Mientras busca posicionar a Grok como un producto líder, la empresa debe enfrentar preguntas sobre responsabilidad, supervisión y las consecuencias sociales de su tecnología.