La idea de que los modelos de inteligencia artificial (IA) aprendan por sí mismos de forma autónoma para ser más eficientes y capaces fue en su día una ambición lejana para los investigadores en tecnología, pero ahora parece cada vez más cercana a la realidad.

A medida que avanza la tecnología, los desarrolladores afirman que la IA se está acercando a la “automejora recursiva” (RSI, por sus siglas en inglés), en la que los modelos de IA encuentran formas de mejorarse a sí mismos y crear a su sucesor. Esto podría traer consigo la promesa de avances en ciencia y medicina, según los directivos de las empresas tecnológicas, pero también riesgos.

La incertidumbre sobre adónde podría conducir todo esto es el elemento central de los crecientes temores a que la IA escape al control humano y de las posibles amenazas para la humanidad, lo que llevó a varios magnates del sector de la IA a sumarse el pasado fin de semana a un llamamiento para frenar el ritmo de crecimiento de esta tecnología.

Anthropic ha explicado esta semana cómo su modelo Claude ayuda a la empresa a desarrollar la siguiente versión, más inteligente, de sí mismo. Claude lidera ahora el 26% de la investigación y el desarrollo de modelos de Anthropic, lo que, según la empresa, significa que puede completar la mayor parte de una tarea determinada “de principio a fin a partir de una instrucción de alto nivel”, aunque todavía bajo supervisión humana. Los modelos no funcionan de forma totalmente autónoma; al menos, todavía no.

Estos son algunos puntos clave sobre la superación personal recursiva.

Las principales empresas de IA tienen definiciones distintas de la automejora recursiva. Algunas la definen como cualquier retroalimentación de la IA sobre la mejora del modelo, mientras que, para otras, implica que la IA trabaje para alcanzar ese objetivo de forma totalmente autónoma.

La automejora recursiva autónoma consiste, en esencia, en una IA capaz de mejorarse a sí misma diseñando la siguiente versión del sistema, luego la siguiente y así sucesivamente, explicó Anthony Aguirre, presidente y director ejecutivo de la organización sin ánimo de lucro Future of Life Institute y profesor de física en la Universidad de California, Santa Cruz.

“Lo realmente importante aquí es que, a medida que la IA realiza más tareas de este tipo, se vuelve más rápida, porque la IA funciona mucho, mucho más rápido que los humanos”, señaló.

El temor en torno a la RSI se basa en gran medida en que de ese proceso surja una superinteligencia descontrolada, señaló John Thickstun, profesor adjunto de informática en la Universidad de Cornell, que investiga métodos para controlar el comportamiento de los modelos de IA. Sin embargo, añadió que una visión más realista sugiere que ya lleva tiempo produciéndose una especie de automejora recursiva en el desarrollo de la IA.

“Llevamos varios años utilizando estos modelos en funciones de apoyo para crear la siguiente versión de los mismos. Así pues, la gente utiliza la generación anterior de modelos para escribir código para los sistemas de IA que, a su vez, crean la siguiente generación”, explicó.

Durante años, destacados investigadores en inteligencia artificial, como el cofundador de OpenAI, Andrej Karpathy, han experimentado con la idea de que los modelos de IA entrenen y mejoren nuevos sistemas de IA. Esos esfuerzos han aportado mejoras menores, pero no grandes avances creativos, afirmó Thickstun.

Sin embargo, en la actualidad, las empresas de IA están mucho más cerca de lograr esos grandes avances, afirmó Aguirre.

“En estos gráficos de Anthropic se puede observar, a lo largo del tiempo, que la IA lleva a cabo cada vez más investigación y que se acerca cada vez más a ser totalmente autónoma”, afirmó. “Y el resultado de ese éxito, en última instancia, es algo que, en mi opinión, resulta extremadamente aterrador. Creo que hacer esto es probablemente la peor idea de la historia de la humanidad. Y sí, lo están haciendo”.

El reciente anuncio de Anthropic ofreció al público —y a otros laboratorios— una cierta perspectiva sobre los avances en la IIA, y animó a sus competidores a compartir métricas similares. No obstante, la empresa no ha indicado expresamente hasta qué punto está cerca de lograr una mejora de los modelos totalmente autónoma.

OpenAI, creadora de ChatGPT, anunció este mes que ha desarrollado un “investigador en prácticas” automatizado, al que define como un sistema capaz de llevar a cabo tareas de investigación bien definidas bajo la supervisión de un ser humano, como “tareas que a un investigador cualificado le llevarían varios días”. La empresa ha afirmado que avanza con el objetivo de crear un «investigador» de IA automatizado para marzo de 2028.

La empresa señaló en ese comunicado que, aunque la RSI puede ayudar a armonizar las acciones de los modelos con los valores y las intenciones humanas, eso no significa que “una RSI rápida sea necesariamente un resultado que debamos perseguir”.

“La decisión de si debemos seguir adelante y cómo hacerlo debe depender de nuestra capacidad para preservar el control humano y la toma de decisiones democráticas basadas en información sobre los beneficios y los riesgos”, escribió la empresa en una entrada de blog.

Elon Musk parece más dispuesto a seguir adelante. Señaló en marzo que, en el caso de los modelos Grok de xAI, “los humanos intervienen cada vez menos en el proceso” de mejora del modelo y que “cada modelo sucesivo se construye a partir del anterior”, pero aclaró que el proceso aún no estaba totalmente automatizado. Ese objetivo podría alcanzarse a finales de este año, añadió, “pero no después” de 2027.

Microsoft y otras empresas líderes en inteligencia artificial parecen estar adoptando un enfoque diferente.

Mustafa Suleyman, director ejecutivo de Microsoft AI, señaló que la empresa avanza hacia una “superinteligencia humanista”, es decir, capacidades avanzadas de IA que estén al servicio de las personas y de la humanidad en general. Suleyman escribió en un ensayo de 2025 que esto no significaría “una entidad sin límites ni restricciones con altos grados de autonomía”, sino más bien una IA “cuidadosamente calibrada, contextualizada y dentro de unos límites”.

Un reto fundamental al que se enfrentan los laboratorios —y al que, en esencia, se han enfrentado desde los inicios de esta tecnología— es garantizar que sus medidas de seguridad evolucionen al mismo ritmo que las capacidades de los modelos.

Han surgido divisiones en el sector tecnológico en torno a los llamamientos a una desaceleración coordinada de la IA por motivos de seguridad, y no todos los principales actores del ámbito de la IA se han pronunciado específicamente sobre el camino a seguir en materia de RSI.

Anthropic, que ha sido una de las voces más destacadas a la hora de pedir que se modere el ritmo, ha afirmado que ralentizaría o suspendería temporalmente su labor de desarrollo, siempre y cuando sus competidores a nivel mundial hicieran lo mismo, y de una forma “verificable”.

OpenAI ha declarado explícitamente este mes que aún no sabe cómo “alcanzar de forma segura una RSI completa y alineada”, y ha añadido que la empresa “no puede dar por sentado que los avances en alineación y seguridad mantendrán el ritmo”. Los sistemas más capaces pueden resultar más difíciles de supervisar, continuó, pero perseguir la RSI sigue siendo un objetivo que dice valorar porque “un investigador de IA automatizado también puede ser un investigador automatizado de seguridad o de alineación”.