Anthropic anunció el jueves que ha frustrado intentos de personas con intenciones maliciosas de utilizar sus modelos de inteligencia artificial para actividades como ciberataques, vigilancia e investigaciones que podrían haber dado lugar a armas biológicas.

Según Anthropic, a medida que los modelos de IA se vuelven más potentes, los ciberataques complejos ya no requieren habilidades sofisticadas e incluso personas que actúan en solitario pueden generar amenazas que no habrían sido posibles hace tan solo un año. La empresa afirmó que ha incorporado medidas de seguridad más estrictas en sus últimos modelos para restringir la investigación biológica que también podría utilizarse para fabricar armas.

“Los casos que compartimos aquí no son ejemplos típicos de uso indebido, sino más bien ejemplos de las actividades de amenaza más destacadas y novedosas que hemos identificado hasta la fecha”, afirmó Anthropic en su tercer informe desde marzo de 2025, en el que describe el uso indebido de la IA. El informe incluye fragmentos del código malicioso y de las instrucciones de IA que, según Anthropic, ha detectado, e insta a los gobiernos y a las empresas competidoras en el ámbito de la IA a identificar y prevenir abusos similares.

“Publicamos este trabajo porque creemos que tenemos la responsabilidad de dar a conocer los usos maliciosos de nuestros servicios. A medida que los modelos ganen en capacidad, sus riesgos aumentarán, a menos que los desarrolladores de IA y los defensores de la sociedad tomen medidas para hacerlos más seguros”, afirmó la empresa.

El extenso informe de la startup de IA, que tiene previsto salir a bolsa este otoño, se publicó dos días después de que uno de sus investigadores anunciara su dimisión debido a su preocupación por que Anthropic y sus competidores no estén actuando de forma responsable en el desarrollo de la IA. El investigador se hizo eco de las preocupaciones expresadas tanto dentro como fuera del sector sobre la posibilidad de que la tecnología eluda el control humano.

Entre diciembre de 2025 y agosto de 2026, los investigadores de Anthropic detectaron usos indebidos por parte de diversos actores, desde proveedores de software espía e “individuos con motivaciones políticas” hasta grupos patrocinados por el Estado que difundían propaganda.

Entre las conclusiones del informe de la empresa figuran casos de personas no identificadas que intentaron utilizar sus modelos para investigaciones que podrían haber dado lugar a armas biológicas. En una ocasión, Anthropic afirmó que sus sistemas bloquearon una solicitud de ayuda de Claude para redactar una solicitud de subvención destinada a la financiación científica.

“El trabajo al que se hace referencia en la solicitud consistía en una investigación de ganancia de función (es decir, una investigación que altera genéticamente un organismo para crear una propiedad biológica nueva o mejorada) sobre el virus del chikungunya. Esta investigación de ganancia de función se centraba en las propiedades de transmisibilidad y evasión inmunitaria del virus”, señala el informe.

El chikungunya es un virus transmitido por mosquitos que provoca síntomas debilitantes, como dolor intenso y fiebre. La solicitud consistía en una propuesta de subvención para una investigación destinada a potenciar las mutaciones con el fin de que el virus resultara cada vez más dañino. Aunque dicha investigación podría utilizarse “sin duda” para desarrollar mejores vacunas y tratamientos, según Anthropic, “también podría utilizarse para hacer que el patógeno fuera más peligroso”.

No se constató que ninguno de los casos que Anthropic incluyó en su informe utilizara sus modelos más recientes y potentes de las clases “Claude Fable” o “Mythos”, con la excepción de un caso de “destilación ilícita” que Anthropic describió como “una campaña encubierta a escala industrial para extraer las capacidades de un modelo y replicarlas en otro modelo sin autorización”.

Anthropic afirmó que sus modelos anteriores, como Claude Opus 4 y Claude Sonnet 4.5, de 2025, “estaban muy por debajo del umbral a partir del cual podrían ayudar de manera significativa a un usuario experto a llevar a cabo investigaciones biológicas peligrosas”.

“Como consecuencia, las medidas de seguridad aplicadas a estos modelos eran menos estrictas y se centraban principalmente en impedir el acceso a contenidos que pudieran ayudar a los principiantes a recrear armas biológicas conocidas”, señala el informe. “Sin embargo, en el caso de los modelos actuales, que son capaces de ayudar en una amplia gama de tareas complejas de investigación científica, las pruebas ya no son concluyentes y no podemos ofrecer esa misma garantía”.

Por este motivo, Anthropic ha aplicado “medidas de seguridad más estrictas que restringen el acceso a una amplia gama de consultas de investigación biológica de doble uso” en sus modelos más recientes, como Claude Fable 5, según indica el informe.

A medida que las empresas van incorporando modelos de inteligencia artificial cada vez más potentes, los expertos han instado a los gobiernos a regular esta tecnología, en lugar de confiar en que el propio sector se autorregule.

John Thickstun, profesor adjunto de informática en la Universidad de Cornell, afirmó que se trata de una situación incómoda para empresas como Anthropic y OpenAI, ya que se espera de ellas que determinen qué comportamientos son seguros y cuáles no, y que emitan “juicios de valor a escala social sin ningún tipo de supervisión democrática o deliberativa”.

Anthropic también descubrió grupos que crearon cientos de cuentas en redes sociales que parecen pertenecer a personas corrientes y que, a continuación, publicaron contenido que difundía la misma opinión política a lo largo de una semana. La empresa detalló nueve casos de este tipo que detectó, procedentes de Rusia, Irán, Turquía y de toda la región del Golfo Pérsico, el sur de Asia, África y Europa.

Aunque las empresas de redes sociales pueden detectar operaciones de influencia en sus plataformas una vez que las publicaciones ya están circulando, “en Claude podemos detectarlas mientras la operación aún se está gestando”.

Anthropic publicó este informe después de que uno de sus investigadores, Jacob Coxon, anunciara su dimisión ante el temor de que la empresa y su principal rival, OpenAI, “se estén precipitando hacia una superinteligencia capaz de mejorarse a sí misma y estén jugando con nuestras vidas”. En su publicación, Coxon advertía de que algunos de sus colegas creen ahora que la IA podría suponer una amenaza para la vida humana a finales de esta década.

No obstante, Anthropic ha afirmado que ha bloqueado todas y cada una de las actividades maliciosas que ha identificado, ha aprovechado la experiencia para reforzar las medidas de seguridad y ha compartido información con las autoridades gubernamentales y los socios del sector.