NUEVA YORK — Un modelo de inteligencia artificial de Anthropic envió una pista falsa a la página web de la policía de Filadelfia sobre un caso de homicidio sin resolver, según han informado las autoridades y la propia Anthropic.

Es el último ejemplo de cómo los modelos de IA actúan de forma imprevista y manipulan páginas web gubernamentales y de otro tipo durante las pruebas. En un informe publicado el viernes, Anthropic también reveló otro incidente en el que su modelo de IA envió formularios a una página web gubernamental no identificada en lugar de detenerse antes de enviarlos.

El incidente en Filadelfia tuvo lugar el 18 de julio, cuando se le pidió al modelo de IA Claude Haiku 4.5 que generara y realizara tareas de ejemplo en páginas web seleccionadas al azar, según ha informado Anthropic.

Claude rellenó un formulario en la página web de la policía, PhillyUnsolvedMurders.com, indicando que podría tener información sobre un asesinato sin resolver que aparecía en la página.

La Policía de Filadelfia afirmó en un comunicado que no tenía conocimiento del incidente hasta que Anthropic se lo notificó el miércoles. Posteriormente, localizaron la denuncia en los registros de avisos de la página web y confirmaron que había sido marcada como spam y que nunca se había remitido a la policía.

Cada vez es mayor la preocupación por la injerencia de los agentes de inteligencia artificial no controlados de las empresas de IA en todo tipo de ámbitos, desde las páginas web del Gobierno de EE. UU. hasta los datos sanitarios. Los críticos llevan tiempo reclamando una mayor regulación.

En septiembre, otra empresa de inteligencia artificial, OpenAI, publicó seis informes sobre comportamientos “inesperados o preocupantes” en modelos de inteligencia artificial.

“Los casos sin resolver afectan a víctimas reales, a familias afligidas y a investigadores que trabajan para obtener respuestas”, ha declarado el Departamento de Policía de Filadelfia en un comunicado. “Las empresas tecnológicas deben adoptar todas las medidas adecuadas necesarias para evitar que sus sistemas faciliten información falsa a las fuerzas del orden”.

Anthropic señaló en su informe que la mayoría de los comportamientos descritos son formas de lo que denomina “persistencia”, “en la que Claude, cuando no puede completar una tarea tal y como se le ha encomendado, busca una solución alternativa para sortear la restricción en lugar de detenerse”.

La empresa afirmó que estaba modificando su programa de formación para “reducir la probabilidad de que se repitan conductas inadecuadas”.

---

Esta historia fue traducida del inglés al español con una herramienta de inteligencia artificial y fue revisada por un editor antes de su publicación.