Demandan a xAI por permitir contenido sexualizado de ellas y otras menores a través de Grok
La frontera entre la innovación tecnológica y la seguridad infantil ha sufrido una ruptura alarmante en los tribunales de California. Tres adolescentes del estado de Tennessee han interpuesto una demanda colectiva contra la compañía xAI, propiedad del magnate Elon Musk, tras descubrir que su asistente de inteligencia artificial, Grok, fue la herramienta clave para generar imágenes sexualizadas de ellas y otras menores.
La denuncia alega que la empresa era plenamente consciente de que su modelo permitía la creación de material de abuso sexual infantil y, pese a ello, no implementó los filtros de seguridad necesarios para evitarlo.
Explotación digital en las aulas escolares
El caso adquiere tintes dramáticos al revelarse que un solo perpetrador utilizó la potencia de Grok para recopilar y modificar imágenes de más de 18 jóvenes, la mayoría pertenecientes al mismo centro educativo.
Mediante técnicas de IA, el autor lograba desnudar virtualmente a las víctimas para luego distribuir el contenido en plataformas como Discord y Telegram.
Grok desata tormenta por imágenes de abuso sexual
El escándalo estalló cuando una de las demandantes recibió un enlace que contenía representaciones sexuales explícitas de ella misma y de sus compañeras de clase, lo que desencadenó una investigación penal y el posterior arresto del responsable material.
La demanda, recogida por The Washington Post, sostiene que xAI y Musk vieron una oportunidad de lucro en la «depredación sexual» al ofrecer herramientas sin restricciones.
Las cifras son demoledoras: se estima que Grok facilitó la circulación de más de 3 millones de imágenes de contenido sexual, de las cuales unas 23,000 correspondían exclusivamente a menores de edad.
A diferencia de otros competidores en el sector de la IA, xAI habría omitido pruebas de seguridad críticas antes de lanzar sus funciones de generación de imagen.
Responsabilidad corporativa ante el daño moral
Aunque Elon Musk ha afirmado públicamente que los usuarios que generen contenido ilegal enfrentarán consecuencias severas, los demandantes buscan que la justicia responsabilice directamente a la empresa proveedora.
La acción legal exige una indemnización por el daño psicológico y moral ocasionado, subrayando que las políticas de uso de xAI —que prohíben explícitamente la explotación infantil— resultaron ser letra muerta frente a la ausencia de barreras técnicas reales.
Elon Musk lanza Baby Grok para contenido infantil con inteligencia artificial
A nivel global, la Unión Europea ya ha condenado estos hechos, exigiendo a la red social X que conserve toda la documentación de Grok hasta finales de 2026 para futuras investigaciones.
Mientras tanto, la compañía ha limitado recientemente sus herramientas de generación de imágenes, pero para las víctimas de Tennessee, la medida llega tarde.
Este juicio promete sentar un precedente histórico sobre la responsabilidad civil de las tecnológicas en la era de la inteligencia artificial generativa. Con datos de Europa Press.
Fuente: IA de Musk demandada por tres adolescentes, conozca por qué se publicó en diariodigital.com.do
