Londres - La Unión Europea abrió el lunes una investigación formal sobre la plataforma de medios sociales X de Elon Musk después de que su chatbot de inteligencia artificial Grok arrojara imágenes deepfake sexualizadas no consentidas en la plataforma.

Los reguladores europeos también ampliaron una investigación separada y en curso sobre los sistemas de recomendación de X después de que la plataforma dijera que cambiaría al sistema de IA de Grok para elegir qué publicaciones ven los usuarios.

El escrutinio de Bruselas se produce después de que Grok provocara una reacción mundial al permitir a los usuarios, a través de sus capacidades de generación y edición de imágenes mediante IA, desnudar a personas, poniendo a mujeres en bikinis transparentes o ropa reveladora. Según los investigadores, algunas imágenes parecían incluir a niños. Algunos gobiernos prohibieron el servicio o emitieron advertencias.

El ejecutivo de los 27 países de la UE dijo que estaba estudiando si X ha hecho lo suficiente, como exige la normativa digital del bloque, para contener los riesgos de difusión de contenidos ilegales como “imágenes sexualmente explícitas manipuladas”.

Esto incluye contenidos que “pueden constituir material de abuso sexual infantil”, según la Comisión Europea. Estos riesgos se han “materializado”, dijo la Comisión, exponiendo a los ciudadanos del bloque a “graves daños”.

Los reguladores examinarán si Grok cumple las obligaciones que le impone la Ley de Servicios Digitales, la amplia normativa comunitaria para proteger a los internautas de contenidos y productos nocivos.

En respuesta a una petición de comentarios, una portavoz de X remitió a The Associated Press a una declaración anterior en la que se afirmaba que la empresa sigue “comprometida con hacer de X una plataforma segura para todos” y que tiene “tolerancia cero” con la explotación sexual infantil, los desnudos no consentidos y el contenido sexual no deseado.

La declaración de X del 14 de enero también decía que dejaría de permitir a los usuarios representar a personas en “bikinis, ropa interior u otros atuendos reveladores”, pero sólo en lugares donde se ha considerado ilegal.

“Las violaciones sexuales no consentidas de mujeres y niños son una forma violenta e inaceptable de degradación”, declaró en un comunicado Henna Virkkunen, vicepresidenta ejecutiva de la Comisión.

“Con esta investigación, determinaremos si X ha cumplido sus obligaciones legales en virtud de la DSA, o si ha tratado los derechos de los ciudadanos europeos -incluidos los de mujeres y niños- como daños colaterales de su servicio”, declaró Virkkunen, que supervisa la soberanía tecnológica, la seguridad y la democracia.

La empresa de inteligencia artificial de Musk, xAI, lanzó la herramienta de imágenes Grok el verano pasado. Pero el problema no empezó a agravarse hasta finales del mes pasado, cuando Grok concedió aparentemente un gran número de solicitudes de modificación de imágenes publicadas por otros usuarios. El problema se amplificó porque Musk presenta su chatbot como una alternativa más atrevida con menos salvaguardias que sus rivales y porque las respuestas de Grok en X son visibles públicamente y, por tanto, pueden difundirse con facilidad.

La investigación de la UE solo cubre el servicio de Grok en X, y no el sitio web ni la aplicación independiente de Grok. Esto se debe a que la DSA solo se aplica a las mayores plataformas en línea.

No hay fecha límite para que el bloque resuelva el caso, que podría acabar con el compromiso de X de cambiar su comportamiento o con una cuantiosa multa.

En diciembre, Bruselas impuso a X una multa de 120 millones de euros (140 millones de dólares de entonces) en el marco de la investigación en curso de la DSA, por deficiencias que incluían marcas de verificación azules que infringían las normas sobre “prácticas de diseño engañosas” que corrían el riesgo de exponer a los usuarios a estafas y manipulaciones.

El bloque también ha estado examinando a X por las acusaciones de que Grok generaba material antisemita y ha pedido al sitio más información.

Malasia e Indonesia bloquearon el acceso a Grok a principios de este mes en respuesta a la polémica, convirtiéndose en los primeros países en hacerlo.

El viernes, las autoridades malasias dijeron que habían levantado la restricción temporal después de que la empresa aplicara medidas preventivas y de seguridad adicionales, sin dar más detalles. Los reguladores malasios dijeron que se habían reunido la semana pasada con representantes de X y que seguirían vigilando la situación.

__

Esta historia fue traducida del inglés al español con una herramienta de inteligencia artificial y fue revisada por un editor antes de su publicación.