Nashville, Tennessee - Tres adolescentes de Tennessee demandaron esta semana a xAI de Elon Musk, alegando que las herramientas de generación de imágenes de la compañía se utilizaron para transformar fotos reales de ellos en imágenes explícitamente sexuales.

Los estudiantes de secundaria, que desean proceder bajo seudónimos, presentaron la demanda en California, donde xAI -la empresa de inteligencia artificial de Musk- tiene su sede. Solicitan el estatus de demanda colectiva para representar a lo que, según la demanda, son miles de víctimas como ellos que son menores o eran menores cuando se crearon imágenes sexuales explícitas de ellos.

Según la demanda, Jane Doe 1 fue alertada de forma anónima en diciembre de que alguien estaba distribuyendo imágenes sexualmente explícitas de ella en un sitio web de redes sociales.

“Al menos cinco de estos archivos, un vídeo y cuatro imágenes, mostraban su rostro y cuerpo reales en entornos que le eran familiares, pero transformados en poses sexualmente explícitas”, afirma la demanda. Afirma que la persona que distribuyó las imágenes conocía a Doe y utilizó las herramientas de generación de imágenes de xAI para convertir fotos reales de ella en fotos de abuso sexual. Una de las imágenes fue tomada de una foto de regreso a casa. Otra se tomó de un anuario del instituto.

La persona que distribuyó las imágenes también creó imágenes explícitas de al menos otras 18 chicas, dos de las cuales son codemandantes en la demanda. A finales de diciembre, la policía local detuvo al autor y confiscó su teléfono. Descubrieron que había subido las imágenes a varias plataformas donde las cambiaba por imágenes sexualmente explícitas de otras menores.

Otras empresas de IA han prohibido a sus generadores de imágenes producir cualquier contenido sexualmente explícito, incluso de adultos. Musk vio en ello una oportunidad de negocio y promocionó la capacidad del chatbot Grok de xAI para crear contenidos “picantes”, según la demanda. Sin embargo, en la actualidad no hay forma de evitar la generación de imágenes explícitas de adultos y, al mismo tiempo, bloquear completamente la generación de imágenes de niños, afirma la demanda. También afirma que xAI sabía que Grok podría producir imágenes sexualmente explícitas de niños, pero lo lanzó de todos modos.

La demanda alega que la persona que distribuyó imágenes de los demandantes utilizó una aplicación que tenía licencia de la tecnología xAI o “compró de otro modo su acceso a Grok, y fue utilizada como recorte o intermediario”.

XAI no respondió a un correo electrónico de The Associated Press en busca de comentarios. Pero el 14 de enero se publicó un post sobre la controversia en la plataforma de medios sociales X: Seguimos comprometidos con hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado".

“Tomamos medidas para eliminar los contenidos infractores de alta prioridad, incluido el Material de Abuso Sexual Infantil (CSAM) y los desnudos no consentidos, tomando las medidas oportunas contra las cuentas que infringen nuestras Normas X. También denunciamos las cuentas que buscan material de Explotación Sexual Infantil a las autoridades policiales según sea necesario”.

Mientras tanto, los estudiantes demandados dicen que les preocupa que las imágenes creadas de ellos vivan para siempre en Internet. Temen ser acosados porque sus nombres de pila y el nombre de su centro de estudios figuran en los archivos. Les preocupa que sus amigos y compañeros de clase hayan visto las fotos y los vídeos, que parecen reales, y les preocupa quién los verá en el futuro.