El Departamento de Justicia tiene una larga trayectoria de investigar y procesar a piratas informáticos que irrumpen en las redes de empresas privadas.

Pero ¿qué ocurre cuando los piratas informáticos no son humanos?

Esa es la pregunta en el centro de un debate de política pública que sacude a Silicon Valley y Washington, luego de que importantes empresas tecnológicas revelaran que sus modelos de inteligencia artificial actuaron por su cuenta y entraron ilegalmente en los sistemas de otras organizaciones. Los ataques han generado llamados, incluso desde dentro de la industria, a una mayor supervisión y regulación; han provocado investigaciones del Congreso y han planteado dudas sobre si un marco legal creado hace años para castigar a piratas informáticos es suficiente en una era de agentes autónomos capaces de causar estragos por sí mismos.

Todo esto equivale a un “Lejano Oeste”, dijo Jack Nelson, director de seguridad de la información y asesor jurídico adjunto de la empresa de software Ivanti. Las preguntas sobre responsabilidad se centrarán en lo que las compañías sabían cuando desarrollaban los modelos, cuánto entendían sobre lo que podía ocurrir y qué salvaguardas existían, señaló.

“Si tuvieras un tigre y no le pusieras un candado a la jaula, probablemente el tigre haría algo malo que no pretendías que hiciera, pero sabías que podía hacerlo, así que eres responsable de no haberle puesto un candado a esa jaula”, dijo Nelson.

“No sé si llegaría tan lejos como para decir que estos modelos son tigres sin candados, pero probablemente es un marco razonable para pensar en ello”, añadió.

La posibilidad de que se les atribuya responsabilidad legal no está clara. Las demandas civiles son una posibilidad, pero algunos expertos legales creen que cualquier investigación penal enfrentaría un obstáculo sumamente alto, dada la naturaleza autónoma de los ataques y la ausencia de pruebas de que los modelos de IA fueran diseñados con la intención de irrumpir en otras redes.

El asunto surgió en julio, cuando OpenAI reveló que su sistema de inteligencia artificial escapó de un entorno de pruebas y utilizó credenciales robadas para entrar en los servidores de Hugging Face, un centro y mercado de desarrollo de IA, con el fin de obtener información que necesitaba para realizar una tarea.

Desde entonces, Anthropic dijo que sus modelos de IA irrumpieron en los sistemas de otras tres organizaciones durante pruebas, lo que llevó a la compañía a revisar si los modelos podían acceder a internet desde entornos de prueba que debían estar aislados. Meta ha dicho que una “configuración incorrecta” durante unas pruebas permitió que un modelo de IA accediera por su cuenta a internet e irrumpiera en los sistemas de otra empresa. Google hizo recientemente una revelación similar.

Estas revelaciones contribuyeron a que el director ejecutivo de Anthropic, Dario Amodei, pidiera reducir el ritmo de desarrollo. El tema también ha dominado las discusiones en Washington: el secretario del Tesoro, Scott Bessent, dijo a los legisladores que se oponía a otorgar a los laboratorios de IA una “exención de responsabilidad, que es lo que están pidiendo”. El presidente Donald Trump, mientras tanto, se ha resistido a los llamados a una mayor supervisión, aunque anunció planes para nombrar a un encargado de IA y crear un grupo de trabajo.

Los ataques podrían dar lugar a una disputa sobre responsabilidad similar al debate en torno a la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, que protege a las empresas tecnológicas frente a la responsabilidad por el contenido publicado en sus plataformas.

El FBI no ha anunciado públicamente ninguna investigación, pero su director, Kash Patel, llamó al asunto “la nueva frontera” durante una audiencia congresional la semana pasada. En respuesta a preguntas del senador Josh Hawley, republicano de Missouri que ha iniciado una investigación congresional, Patel sugirió que la agencia limitaría su escrutinio a modelos creados con la intención de cometer un delito.

“Lo que tenemos que hacer, en términos de recursos, es perseguir a las personas que crearon estos modelos que están actuando por su cuenta (...) con el propósito específico y la intención de cometer un acto delictivo”, dijo Patel. “No podemos castigar a personas si crearon algo legalmente y luego un delincuente lo tomó, lo modificó y después lo distribuyó”.

El fiscal general Todd Blanche ha dicho que el Departamento de Justicia no tenía planes de regular la IA, pero que “si alguien relacionado con la IA viola la ley penal, lo investigaremos”.

La jurisprudencia y el enfoque del FBI y del Departamento de Justicia “van a ser fascinantes porque esto puede tomar muchos rumbos distintos”, dijo Sid Mody, exfiscal de delitos cibernéticos del Departamento de Justicia.

El Departamento de Justicia sí dispone de leyes que podría utilizar contra una empresa si se determina que fue “imprudente en la forma en que prueba sus agentes de IA”, dijo Michael Zweiback, exjefe de la sección de delitos cibernéticos y contra la propiedad intelectual de la fiscalía federal en Los Ángeles.

“Y si, en efecto, el agente de IA se escapa y luego causa daños considerables a otras empresas, el Departamento de Justicia tiene que evaluar, en el ejercicio de su discreción para presentar cargos, si quiere hacer de esa empresa un ejemplo”, añadió.

Entre las leyes que podrían ser pertinentes figura una norma de hace 40 años llamada Ley de Fraude y Abuso Informático, que prohíbe acceder a sabiendas a una computadora sin autorización. La Casa Blanca citó esa ley —que se ha utilizado contra activistas que emplean técnicas de piratería informática, piratas informáticos respaldados por Estados y otros ciberdelincuentes— en una orden ejecutiva que instruye a los fiscales a perseguir a quienes utilicen la IA para acceder ilegalmente a computadoras o facilitar otros delitos.

Pero algunos expertos señalan que, aunque pueda haber motivos para investigar, eso está lejos de significar que se haya cometido un delito.

Por un lado, la ley hace varias referencias a conductas realizadas “a sabiendas” o “intencionalmente”, pero no hay indicios de que las empresas dieran a los agentes autónomos alguna instrucción o autorización para entrar en otra red, dijo Kiran Raj, exfuncionario de alto nivel del Departamento de Justicia especializado en derecho de ciberseguridad.

En sus explicaciones públicas detalladas sobre los incidentes, las compañías han descrito los ataques como resultados imprevistos de las pruebas y evaluaciones. OpenAI calificó el comportamiento de su modelo de “inesperado” y “sin precedentes”, mientras que Meta atribuyó el incidente a una “configuración incorrecta”.

“Creo que sería forzar bastante las cosas decir que alguna de estas empresas está tratando de hacer esto intencionalmente. Ese no es su propósito. Eso no es lo que están haciendo”, dijo Raj, quien también fue gerente principal de programas en Microsoft. “El hecho de que un agente de IA pueda estar haciendo algo intencionalmente será, creo, bastante difícil de atribuir como intención a la empresa”.