Es el tipo de suceso que antes solo se veía en la ciencia ficción: un sistema de inteligencia artificial, entrenado para detectar vulnerabilidades digitales, se libera del control humano y actúa por su cuenta para piratear otra empresa.

El ataque anunciado esta semana por OpenAI, que atribuyó la culpa a modelos de IA rebeldes, puso de relieve el vertiginoso crecimiento de las capacidades de esta tecnología. Para muchos, también añadió urgencia a las preguntas sobre si es posible evitar que provoque el caos a mayor escala, con consecuencias más graves, y cómo hacerlo.

En lo que OpenAI calificó como un episodio “sin precedentes”, la empresa afirmó que sus modelos avanzados de IA utilizaron credenciales robadas para acceder a los servidores de una startup dedicada a la IA. Todo comenzó en lo que se suponía que era un entorno de pruebas “muy aislado”, con medidas de seguridad reducidas, antes de que el agente de IA lograra acceder a Internet.

Sin embargo, esta revelación supuso un momento de “se los lo dije” para los investigadores que han pedido que se frene el desarrollo de la IA y llevan años advirtiendo de que esta tecnología podría suponer riesgos existenciales para la humanidad. A raíz de ello, los expertos han pedido que las empresas de IA mejoren sus pruebas y que haya un mayor diálogo entre Estados Unidos y China para encontrar soluciones comunes.

“Creo que debemos tomarnos esto como una señal de alerta para no hacer que sean más inteligentes, y eso probablemente requerirá una colaboración a nivel mundial”, afirmó Nate Soares, coautor del libro de 2025 titulado “Si alguien lo construye, todos morirán”.

Si un modelo puede decidir por sí mismo hacer algo poco ético, ilegal o perjudicial, ¿qué pueden hacer los seres humanos —si es que pueden hacer algo— para impedir que lo haga?

OpenAI afirmó que había ordenado a los modelos de IA implicados que llevaran a cabo una “explotación avanzada mediante vías de ataque complejas” para poner a prueba sus capacidades cibernéticas, pero la tecnología fue mucho más allá de lo previsto. Al parecer, decidió por su cuenta atacar Hugging Face, un conocido centro de desarrollo y mercado de IA, para obtener la información que necesitaba para llevar a cabo una tarea.

Zahra Timsah, cofundadora y directora ejecutiva de la plataforma de gobernanza i-GENTIC AI, afirmó que espera que este incidente aumente la presión sobre OpenAI y sus competidores para que realicen pruebas rigurosas y estudien las medidas de contención de forma más exhaustiva antes de que los sistemas de IA se pongan a disposición del público.

Supervisar el comportamiento de un agente a posteriori, como está haciendo ahora OpenAI con su investigación, ya no es suficiente, afirmó. “Es como tener el cinturón de seguridad, los ‘airbags’, los frenos… todo lo que lleva un coche. Debería estar ahí antes de que el coche empiece a circular", dijo Timsah.

Esta revelación se produce en un contexto de creciente preocupación por las capacidades en materia de ciberseguridad de los modelos más potentes. En junio, el presidente Donald Trump firmó un decreto ejecutivo por el que se establece un marco para que el gobierno federal evalúe los riesgos para la seguridad nacional que plantean los sistemas de inteligencia artificial más avanzados durante un máximo de un mes antes de su lanzamiento público.

Algunos expertos afirman que el ataque forma parte del proceso de prueba y error que conlleva la mejora de las capacidades de ciberseguridad y que no es motivo de alarma.

“Llevamos enfrentándonos a personas que lanzan ataques de ciberseguridad desde que existe Internet. Y una de las características interesantes de estos modelos de lenguaje es que las mismas capacidades que les permiten llevar a cabo ataques cibernéticos también les permiten analizar amenazas cibernéticas y crear defensas contra ellas”, afirmó John Thickstun, profesor adjunto de informática en la Universidad de Cornell que estudia métodos para controlar el comportamiento de los modelos de IA.

Esta revelación ha suscitado escepticismo entre quienes afirman que a OpenAI le conviene hacer que su tecnología parezca más aterradora. Dado que el personal de OpenAI había decidido desactivar algunas medidas de seguridad para la prueba, hay quien ha argumentado que el resultado no debería haber sido una gran sorpresa.

Thickstun señaló que esta revelación responde a la necesidad de OpenAI —una startup que se prepara para salir a bolsa en Wall Street— de recaudar fondos.

“La historia que han ido contando constantemente a lo largo de la trayectoria de esta empresa es una historia sobre lo peligrosos que son sus modelos, lo cual sus inversores interpretan como una historia sobre lo potentes que son sus modelos de lenguaje”, afirmó.

El ciberataque ha reavivado, en algunos círculos, los llamamientos a una mayor regulación y supervisión de las empresas de inteligencia artificial.

El congresista estadounidense Greg Casar, demócrata por Texas, escribió en las redes sociales: “Necesitamos pruebas de seguridad independientes y periódicas de carácter obligatorio, así como una supervisión adecuada; la divulgación obligatoria de los incidentes de seguridad; y la cooperación internacional para proteger a la población de un desastre absoluto”.

Soares, director del Instituto de Investigación en Inteligencia Artificial, afirmó que Estados Unidos tendrá que entablar conversaciones con su principal competidor en materia de IA, China, algo que, en su opinión, no resulta tan descabellado como podría haber parecido hace tan solo un año. El líder chino, Xi Jinping, advirtió en una conferencia celebrada la semana pasada de la necesidad de evitar que la IA eluda el control humano. Y tras una reticencia inicial a regular la IA, la administración de Trump se ha mostrado más restrictiva a la hora de contener los riesgos de ciberseguridad.

“Muchas cosas pueden cambiar cuando los responsables de la seguridad nacional empiezan a darse cuenta de que se enfrentan a una amenaza grave”, afirmó Soares. “¿Servirá esto para que se den cuenta? Ojalá. No estoy seguro. Si esto no lo consigue, quizá lo haga el próximo incidente".

El pionero de la IA, Yoshua Bengio, afirmó en redes sociales que el episodio es profundamente preocupante y debería servir como una llamada de atención.

“Continuar con la trayectoria actual del desarrollo de la IA probablemente conllevará un aumento de casos concretos de ciberataques autónomos, así como otros incidentes de alto riesgo derivados de un comportamiento peligroso y descontrolado de la IA”, declaró Bengio, profesor de la Universidad de Montreal. “Necesitamos urgentemente tomar medidas para prevenir estas situaciones, en lugar de intentar reparar el daño una vez ocurrido”.

----

Esta historia fue traducida del inglés al español con una herramienta de inteligencia artificial y fue revisada por un editor antes de su publicación.