Sacramento - El gobernador de California, Gavin Newsom, firmó el lunes una ley que tiene como objetivo evitar que las personas utilicen modelos poderosos de inteligencia artificial para actividades potencialmente catastróficas como la construcción de un arma biológica o el cierre de un sistema bancario.

La medida se produce cuando Newsom promocionó a California como líder en la regulación de la inteligencia artificial y criticó la inacción a nivel federal en una conversación reciente con el expresidente Bill Clinton. La nueva ley establecerá algunas de las primeras regulaciones a nivel nacional sobre modelos de inteligencia artificial a gran escala sin perjudicar la industria local del estado, dijo Newsom. Muchas de las principales empresas de inteligencia artificial del mundo están ubicadas en California y tendrán que cumplir con los requisitos.

“California ha demostrado que podemos establecer regulaciones para proteger a nuestras comunidades y al mismo tiempo garantizar que la creciente industria de la IA siga prosperando. Esta legislación logra ese equilibrio”, dijo Newsom en un comunicado.

La legislación exige que las empresas de inteligencia artificial implementen y divulguen públicamente protocolos de seguridad para evitar que sus modelos más avanzados se utilicen para causar daños importantes. Las reglas están diseñadas para cubrir los sistemas de inteligencia artificial si cumplen con un umbral de “frontera” que indica que se ejecutan con una gran cantidad de potencia informática.

Dichos umbrales se basan en la cantidad de cálculos que realizan las computadoras. Quienes elaboraron las regulaciones han reconocido que los umbrales numéricos son un punto de partida imperfecto para distinguir los sistemas de inteligencia artificial generativa de mayor rendimiento de la actualidad de la próxima generación que podría ser aún más poderosa. Los sistemas existentes son en gran medida creados por empresas con sede en California como Anthropic, Google, Meta Platforms y OpenAI.

La legislación define un riesgo catastrófico como algo que causaría al menos $1,000 millones en daños o más de 50 heridos o muertos. Está diseñado para proteger contra el uso de la inteligencia artificial para actividades que podrían causar perturbaciones masivas, como piratear una red eléctrica.

Las empresas también deben informar al estado cualquier incidente de seguridad crítico dentro de los 15 días. La ley crea protecciones para los denunciantes para los trabajadores de la inteligencia artificial y establece una nube pública para los investigadores. Incluye una multa de $1 millón por violación.

Atrajo la oposición de algunas empresas de tecnología, que argumentaron que la legislación sobre inteligencia artificial debería hacerse a nivel federal. Pero Anthropic dijo que las regulaciones son “salvaguardias prácticas” que hacen oficiales las prácticas de seguridad que muchas empresas ya están haciendo voluntariamente.

“Si bien los estándares federales siguen siendo esenciales para evitar un mosaico de regulaciones estatales, California ha creado un marco sólido que equilibra la seguridad pública con la innovación continua”, dijo en un comunicado Jack Clark, cofundador y jefe de política de Anthropic.

La firma se produce después de que Newsom vetó el año pasado una versión más amplia de la legislación, poniéndose del lado de las empresas de tecnología que dijeron que los requisitos eran demasiado rígidos y habrían obstaculizado la innovación. En cambio, Newsom pidió a un grupo de varios expertos de la industria, incluida la pionera de la inteligencia artificial Fei-Fei Li, que desarrollaran recomendaciones sobre medidas de protección en torno a los poderosos modelos de inteligencia artificial.

La nueva ley incorpora recomendaciones y comentarios del grupo de expertos en inteligencia artificial de Newsom y de la industria, dijeron los partidarios. La legislación tampoco impone el mismo nivel de requisitos de presentación de informes a las empresas emergentes para evitar perjudicar la innovación, dijo el senador estatal Scott Wiener, de San Francisco, autor del proyecto de ley.

“Con esta ley, California está dando un paso al frente, una vez más, como líder mundial en innovación y seguridad tecnológica”, dijo Wiener en un comunicado.

La decisión de Newsom se produce cuando el presidente Donald Trump anunció en julio un plan para eliminar lo que su administración considera regulaciones “onerosas” para acelerar la innovación en inteligencia artificial y consolidar la posición de Estados Unidos como líder mundial en IA. Los republicanos en el Congreso intentaron a principios de este año, sin éxito, prohibir a los estados y localidades regular la inteligencia artificial durante una década.

Sin regulaciones federales más estrictas, los estados de todo el país han pasado los últimos años tratando de controlar la tecnología, abordando todo, desde “deepfakes” en las elecciones hasta la “terapia” de la inteligencia artificial. En California, la legislatura aprobó este año varios proyectos de ley para abordar las preocupaciones de seguridad en torno a los “chatbots” de inteligencia artificial para niños y el uso de la inteligencia artificial en el lugar de trabajo.

California también ha sido uno de los primeros en adoptar las tecnologías de inteligencia artificial. El estado ha implementado herramientas de inteligencia artificial generativa para detectar incendios forestales y abordar la congestión de las carreteras y la seguridad vial, entre otras cosas.