Un investigador de Anthropic ha declarado que dimite de la empresa debido a su preocupación por que esta firma de inteligencia artificial y sus competidores no estén actuando de forma responsable en el desarrollo de la IA, haciéndose eco de las inquietudes planteadas tanto dentro como fuera del sector sobre el potencial de esta tecnología para eludir el control humano.

Jacob Coxon, quien afirmó haber pasado tres años investigando tanto en Anthropic como en OpenAI, declaró el martes en la red social X que estas dos empresas de inteligencia artificial están más centradas en superarse mutuamente y en superar a sus competidores globales en el desarrollo del modelo más avanzado posible que en la seguridad.

OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con una semana de diferencia aproximadamente, que sus modelos habían salido de los entornos de prueba y habían obtenido acceso no autorizado a sistemas informáticos reales. Estos anuncios despertaron la preocupación de que los modelos pudieran volverse rebeldes y llevar a cabo otras tareas más perjudiciales. Ambas empresas afirmaron en aquel momento que iban a suspender temporalmente algunas evaluaciones mientras ponían en marcha más medidas de supervisión y controles de seguridad.

El rápido desarrollo de esta tecnología ha llevado a algunas personas en Estados Unidos, así como a líderes mundiales, a pedir un enfoque más prudente. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó esta semana a los países a establecer “garantías inquebrantables en torno a la seguridad y la protección de la IA antes de que sea demasiado tarde”.

Un investigador de Anthropic declaró que renuncia a la empresa debido a su preocupación por que esta firma de inteligencia artificial y sus competidores no estén actuando de forma responsable en el desarrollo de la IA, haciéndose eco de las inquietudes planteadas tanto dentro como fuera del sector sobre el potencial de esta tecnología para eludir el control humano.

Jacob Coxon, quien afirmó haber pasado tres años investigando tanto en Anthropic como en OpenAI, declaró el martes en la red social X que estas dos empresas de inteligencia artificial están más centradas en superarse mutuamente y en superar a sus competidores globales en el desarrollo del modelo más avanzado posible que en la seguridad.

OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos habían salido de los entornos de prueba y habían obtenido acceso no autorizado a sistemas informáticos reales. Estos anuncios despertaron la preocupación de que los modelos pudieran volverse rebeldes y llevar a cabo otras tareas más perjudiciales. Ambas empresas afirmaron en aquel momento que iban a suspender temporalmente algunas evaluaciones mientras ponían en marcha más medidas de supervisión y controles de seguridad.

El rápido desarrollo de esta tecnología ha llevado a algunas personas en Estados Unidos, así como a líderes mundiales, a pedir un enfoque más prudente. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó esta semana a los países a establecer “garantías inquebrantables en torno a la seguridad y la protección de la IA antes de que sea demasiado tarde”.

En sus publicaciones en las redes sociales, Coxon afirmó que Anthropic y su principal rival, OpenAI, “avanzan a toda velocidad hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”. Advirtió de que algunas personas que trabajan en el desarrollo de la IA creen que esta podría suponer una amenaza para la vida humana a finales de esta década.

“No subestimes el poder de esta tecnología”, prosiguió. “Pronto habrá sistemas sobrehumanos capaces de piratear cualquier cosa, revolucionar cualquier ámbito de la noche a la mañana y hacerse con poder y recursos reales. Todos hemos sido testigos de los avances en cada uno de estos ámbitos, y el progreso no se está frenando”.

Sus publicaciones llegaron a más de 100 millones de personas de la noche a la mañana.

Coxon no es el primer experto en IA que plantea públicamente este tipo de preocupaciones. Tanto Anthropic como OpenAI han registrado en los últimos años dimisiones de altos cargos relacionadas con cuestiones de seguridad. Dos empleados actuales de Anthropic también respondieron a la publicación de Coxon mostrando su acuerdo.

El senador Bernie Sanders, un independiente de Vermont que ha defendido medidas de protección y regulación en materia de inteligencia artificial, se mostró de acuerdo con las preocupaciones de Coxon y afirmó que pronto presentaría una propuesta legislativa para detener temporalmente el desarrollo de la inteligencia artificial y prohibir la superinteligencia.

“Los propios creadores de esta tecnología admiten que podría suponer una amenaza para el futuro de la humanidad”, afirmó Sanders el miércoles en las redes sociales.

Las propias empresas de IA han destacado en ocasiones la amenaza que supone esta tecnología para la humanidad, algo que los escépticos han interpretado como parte de una estrategia para hacer que sus productos parezcan todopoderosos. Coxon afirmó que los temores que expuso en su publicación no son un “truco de marketing”.

Coxon no respondió a los mensajes en los que se le pedía que hiciera declaraciones. Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios.

Anthropic se ha presentado desde hace tiempo como la empresa más responsable y preocupada por la seguridad de entre las principales empresas de IA, desde que sus fundadores abandonaron OpenAI para crear esta startup en 2021. La empresa ha declarado recientemente que está tomando medidas para “dar prioridad a la seguridad frente a la rapidez cuando ambas entren en conflicto”.

Tanto Anthropic como OpenAI se están preparando para unas salidas a bolsa que están dando mucho que hablar y mantienen una intensa competencia entre sí. Además, ambas tienen como objetivo superar el ritmo de desarrollo de las empresas chinas de inteligencia artificial, una carrera que la administración Trump está decidida a ganar.