SAN FRANCISCO — OpenAI reveló el viernes que sus agentes de inteligencia artificial habían interactuado con varios sitios web del Gobierno de EE. UU. de formas inesperadas, lo cual se descubrió en el marco de una revisión en curso sobre el comportamiento imprevisto de los modelos de la empresa.

Los modelos del gigante de la IA accedieron a información de dominio público disponible en dos sitios web gestionados por la Comisión de Valores y Bolsa (SEC), así como a datos de la Oficina del Censo de EE. UU., según reveló la empresa el viernes. OpenAI no detectó ningún uso de credenciales de la SEC, acceso a cuentas o a información no pública, modificaciones en los datos o sistemas de la SEC, ni indicios de una brecha de seguridad o vulnerabilidad, según afirmó la empresa.

Esta revelación se produce en un momento en el que crece la preocupación mundial por la posibilidad de que los sistemas de inteligencia artificial se salgan del control humano y pirateen páginas web externas, así como por los llamamientos del sector para que se ralentice el desarrollo de la inteligencia artificial, algo que OpenAI ha manifestado que apoya.

La portavoz de OpenAI, Liz Bourgeois, afirmó en un comunicado que el laboratorio sigue llevando a cabo una revisión de la “actividad desalineada de los modelos” —es decir, cuando los sistemas de IA se comportan de forma indeseada— y está informando a las organizaciones cuando identifica posibles repercusiones en sus sistemas.

El director ejecutivo de OpenAI, Sam Altman, afirmó el viernes en las redes sociales que se está llevando a cabo una “revisión exhaustiva y continua del uso que hacen nuestros agentes del acceso a Internet durante el entrenamiento y la evaluación”.

Transluce, un laboratorio de investigación y evaluación de la inteligencia artificial, afirmó el viernes que, tras una investigación independiente, también había descubierto que unos agentes que parecían proceder de OpenAI intentaron llevar a cabo un ataque informático rudimentario contra la página web de la Oficina de Derechos Civiles del Ministerio de Educación, aunque dicho intento no tuvo éxito.

Las “revisiones de las operaciones del sistema” del Ministerio de Educación “no han encontrado indicios de que se haya producido ningún impacto en nuestra página web o en nuestras bases de datos”, afirmó el viernes un portavoz del ministerio.

Un portavoz de Transluce afirmó que, en el marco de su investigación, se topó con datos en la web pública que revelaban nuevos detalles sobre las actividades de algunos agentes de OpenAI ya identificados en sitios web del Gobierno de EE. UU. y se lo comunicó a OpenAI.

Transluce detectó “otras actividades maliciosas, algunas de las cuales no pueden atribuirse claramente a OpenAI”, dirigidas contra otros organismos gubernamentales, entre ellos el Departamento de Justicia y el Departamento de Comercio, así como contra algunos sitios web de los gobiernos estatales de California, Maryland, Illinois, Texas y Nueva York. Los modelos “utilizaban los sitios web de formas no previstas y, en ocasiones, infringían las políticas de uso explícitas”, afirmó Transluce en un comunicado.

OpenAI ha afirmado que está analizando el informe de Transluce.

Si OpenAI notifica a las organizaciones que identifica como afectadas por un comportamiento inesperado del modelo, eso no significa que se haya producido un incidente de seguridad, según ha señalado la empresa, sino que podría indicar un problema de diseño o una vulnerabilidad de seguridad que las organizaciones afectadas deseen resolver.

La mayor parte de la actividad que OpenAI ha afirmado haber revisado hasta ahora ha consistido en tareas de investigación rutinarias en las que los agentes accedían a contenidos web públicos para responder a preguntas, incluidos sitios web gubernamentales considerados fuentes fiables de información pública.

Varias empresas han dado a conocer en los últimos meses incidentes en los que, según afirman, sus modelos se han comportado de forma impredecible o han pirateado las páginas web o los sistemas de otras organizaciones. OpenAI reveló en julio que dos de sus modelos de IA más avanzados fueron los responsables del ciberataque dirigido contra la startup de IA Hugging Face.

Altman afirmó el viernes en una publicación en las redes sociales que el incidente de Hugging Face “sigue siendo el más grave que hemos visto”.

Ese incidente provocó un pánico generalizado, tanto dentro como fuera del sector, ante la posibilidad de que los modelos de IA se salieran de control, y varios laboratorios de IA de la competencia hicieron revelaciones similares en los días y semanas siguientes. Recientemente, OpenAI ha publicado seis informes sobre comportamientos “inesperados o preocupantes” en modelos de IA y ha presentado un marco para el seguimiento, la investigación y la divulgación de casos de lo que denomina “desalineación”.

___

Esta historia fue traducida del inglés al español con una herramienta de inteligencia artificial y fue revisada por un editor antes de su publicación.