Grok, el chatbot de inteligencia artificial de Elon Musk, está impidiendo que los usuarios que no pagan generen o editen imágenes después de que estallara una reacción mundial por los deepfakes sexualizados de personas, pero el cambio no ha satisfecho a las autoridades en Europa.

El chatbot, al que se accede a través de la plataforma de medios sociales X de Musk, ha estado concediendo en las últimas semanas una oleada de lo que los investigadores dicen que son peticiones maliciosas de usuarios para modificar imágenes, incluyendo poner a mujeres en bikini o en posiciones sexualmente explícitas.

Los investigadores han advertido de que, en algunos casos, algunas imágenes parecían mostrar a niños. Gobiernos de todo el mundo han condenado la plataforma y abierto investigaciones.

El viernes, Grok respondió a las solicitudes de modificación de imágenes con el mensaje: “La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones”.

Aunque las cifras de suscriptores de Grok no están disponibles públicamente, el viernes se produjo un notable descenso en el número de deepfakes explícitos que Grok está generando en comparación con días antes.

Grok seguía aceptando solicitudes de imágenes, pero sólo de usuarios X con marcas azules, que se conceden a los suscriptores premium que pagan $8 al mes por funciones que incluyen límites de uso más elevados para el chatbot.

Un portavoz de X no respondió inmediatamente a una solicitud de comentarios.

Las restricciones para los usuarios, salvo para los abonados de pago, no parecen haber hecho cambiar de opinión a los dirigentes o reguladores europeos.

“Esto no cambia nuestra cuestión fundamental. Con suscripción de pago o sin ella, no queremos ver esas imágenes. Así de sencillo”, declaró Thomas Regnier, portavoz de la Comisión Ejecutiva de la Unión Europea. La Comisión ya había criticado a Grok por su comportamiento “ilegal” y “atroz”.

El gobierno británico tampoco estaba satisfecho.

Los cambios de Grok “no son una solución”, dijo Geraint Ellis, portavoz del Primer Ministro británico, Keir Starmer, que el jueves había amenazado con tomar medidas no especificadas contra X.

“De hecho, es insultante para las víctimas de la misoginia y la violencia sexual”, dijo, y señaló que demuestra que X “puede actuar con rapidez cuando quiere”.

“Esperamos una acción rápida”, dijo, y añadió que “todas las opciones están sobre la mesa”.

Starmer, en declaraciones a la emisora de radio Greatest Hits, había dicho que X tiene que “ponerse las pilas y retirar este material. Tomaremos medidas al respecto porque simplemente no es tolerable”.

Los reguladores de los medios de comunicación y la privacidad del Reino Unido dijeron esta semana que se han puesto en contacto con X y la empresa de inteligencia artificial de Musk, xAI, para pedir información sobre las medidas adoptadas para cumplir la normativa británica.

Francia, Malasia e India también han investigado la plataforma, y un legislador brasileño ha pedido una investigación. La Comisión Europea ha ordenado a X que conserve todos los documentos y datos internos relacionados con Grok hasta finales de 2026, como parte de una investigación más amplia en el marco de la ley de seguridad digital de la UE.

Grok es gratuito para los usuarios de X, que pueden hacer preguntas en la plataforma de redes sociales. Pueden etiquetarlo en publicaciones creadas directamente por ellos o en respuestas a publicaciones de otros usuarios.

Grok se lanzó en 2023. El verano pasado, la empresa añadió una función generadora de imágenes, Grok Imagine, que incluía el llamado “modo picante”, capaz de generar contenido para adultos.

El problema se agrava tanto porque Musk presenta su chatbot como una alternativa más atrevida a sus rivales, con más salvaguardas, como porque las imágenes de Grok son visibles públicamente y, por tanto, pueden difundirse con facilidad.