Toronto - A sus 77 años, Geoffrey Hinton tiene una nueva vocación en la vida. Como un profeta de los tiempos modernos, el ganador del Premio Nobel está dando la voz de alarma sobre los peligros de la inteligencia artificial no controlada y no regulada.

Frecuentemente apodado el “Padrino de la IA”, Hinton es conocido por su trabajo pionero en el aprendizaje profundo y las redes neuronales que ayudaron a sentar las bases de la tecnología de la IA que se utiliza hoy en día. Sintiéndose “algo responsable”, comenzó a hablar públicamente sobre sus preocupaciones en 2023 después de dejar su trabajo en Google, donde trabajó durante más de una década.

A medida que la tecnología —y los dólares de inversión— que impulsan la IA han avanzado en los últimos años, también lo han hecho las apuestas detrás de ella.“Realmente es como un dios”, dijo Hinton.

Hinton se encuentra entre un número creciente de figuras prominentes de la tecnología que hablan de la IA utilizando un lenguaje que antes se reservaba para lo divino. El director ejecutivo de OpenAI, Sam Altman, se ha referido a la tecnología de su empresa como una “inteligencia mágica en el cielo”, mientras que Peter Thiel, el cofundador de PayPal y Palantir, incluso ha argumentado que la IA podría ayudar a provocar el Anticristo.

Hay muchos escépticos que dudan de que la tecnología merezca este tipo de miedo, incluido Dylan Baker, un antiguo empleado de Google e ingeniero jefe de investigación en el Distributed AI Research Institute, que estudia los impactos dañinos de la IA.

“Creo que a menudo están operando desde un pensamiento mágico y fantástico informado por mucha ciencia ficción que presumiblemente obtuvieron en sus años de formación”, dijo Baker. “Están realmente desapegados de la realidad”.

Aunque los chatbots como ChatGPT sólo han penetrado recientemente en el zeitgeist, ciertos círculos de Silicon Valley han profetizado el poder de la IA durante décadas.

“Estamos tratando de despertar a la gente”, dijo Hinton. “Para que el público entienda los riesgos, para que el público presione a los políticos para que hagan algo al respecto”.

Mientras que investigadores como Hinton están advirtiendo sobre la amenaza existencial que creen que la IA plantea a la humanidad, hay directores ejecutivos y teóricos en el otro lado del espectro que argumentan que nos estamos acercando a una especie de apocalipsis tecnológico que marcará el comienzo de una nueva era de la evolución humana.

En un ensayo publicado el año pasado titulado “Máquinas de la gracia amorosa: Cómo la IA podría transformar el mundo para mejor”, el director ejecutivo de Anthropic, Dario Amodei, expone su visión de un futuro “si todo sale bien con la IA”.

El empresario de la IA predice “la derrota de la mayoría de las enfermedades, el crecimiento de la libertad biológica y cognitiva, el levantamiento de miles de millones de personas de la pobreza para compartir las nuevas tecnologías, un renacimiento de la democracia liberal y los derechos humanos”.

Mientras que Amodei opta por la frase “IA poderosa”, otros utilizan términos como “la singularidad” o “inteligencia general artificial (AGI)”. Aunque los defensores de estos conceptos no suelen ponerse de acuerdo sobre cómo definirlos, se refieren en términos generales a un punto futuro hipotético en el que la IA superará la inteligencia de nivel humano, lo que podría desencadenar cambios rápidos e irreversibles en la sociedad.

El informático y autor Ray Kurzweil ha estado prediciendo desde la década de 1990 que los humanos algún día se fusionarán con la tecnología, un concepto a menudo llamado transhumanismo.

“No vamos a decir realmente lo que viene de nuestro propio cerebro frente a lo que viene de la IA. Todo va a estar incrustado dentro de nosotros mismos. Y va a hacernos más inteligentes”, dijo Kurzweil.

En su último libro, “The Singularity Is Nearer: When We Merge with AI”, Kurzweil redobla sus predicciones anteriores. Cree que para 2045 habremos “multiplicado nuestra propia inteligencia un millón de veces”.

“Sí”, finalmente concedió cuando se le preguntó si considera que la IA es su religión. Informa su sentido de propósito.

“Mis pensamientos sobre el futuro y el futuro de la tecnología y lo rápido que está llegando definitivamente afectan mis actitudes hacia estar aquí y lo que estoy haciendo y cómo puedo influir en otras personas”, dijo.

A pesar de la invocación explícita de Thiel del lenguaje del Libro de Apocalipsis, las visiones positivas de un futuro de la IA son más “apocalípticas” en el sentido histórico de la palabra.

“En el mundo antiguo, apocalíptico no es negativo”, explica Domenico Agostini, profesor de la Universidad de Nápoles L’Orientale que estudia la literatura apocalíptica antigua. “Hemos cambiado completamente la semántica de esta palabra”.

El término “apocalipsis” proviene de la palabra griega apokálypsis, que significa “revelación”. Aunque a menudo se asocia hoy en día con el fin del mundo, los apocalipsis en el pensamiento judío y cristiano antiguo eran una fuente de aliento en tiempos de dificultad o persecución.

“Dios está prometiendo un mundo nuevo”, dijo el profesor Robert Geraci, que estudia religión y tecnología en el Knox College. “Para ocupar ese mundo nuevo, tienes que tener un nuevo cuerpo glorioso que triunfe sobre el mal que todos experimentamos”.

Geraci notó por primera vez que se utilizaba un lenguaje apocalíptico para describir el potencial de la IA a principios de la década de 2000. Kurzweil y otros teóricos finalmente lo inspiraron a escribir su libro de 2010, “Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality”.

El lenguaje le recordó al cristianismo primitivo. “Sólo que vamos a deslizar a Dios y deslizar en... tu elección de leyes científicas cósmicas que supuestamente hacen esto y luego vamos a tener el mismo tipo de futuro glorioso por venir”, dijo.

Geraci argumenta que este tipo de lenguaje no ha cambiado mucho desde que comenzó a estudiarlo. Lo que le sorprende es lo generalizado que se ha vuelto.“Lo que antes era muy raro está en todas partes”, dijo.

Un factor en el creciente culto a la IA es la rentabilidad.“Hace veinte años, esa fantasía, verdadera o no, no estaba generando mucho dinero”, dijo Geraci. Ahora, sin embargo, “hay un incentivo financiero para que Sam Altman diga que la AGI está a la vuelta de la esquina”.

Pero Geraci, quien argumenta que ChatGPT “ni siquiera es remotamente, vagamente, plausiblemente consciente”, cree que puede haber más impulsando este fenómeno.

Históricamente, el mundo de la tecnología ha sido notoriamente carente de religión. Su reputación secular lo había precedido tanto que un episodio de la serie de comedia satírica de HBO, “Silicon Valley”, gira en torno a “sacar del armario” a un compañero de trabajo como cristiano.

En lugar de ver la veneración de la IA por parte del mundo tecnológico escéptico como irónica, Geraci cree que están causalmente vinculadas.

“Los seres humanos somos profunda, profunda e inherentemente religiosos”, dijo, añadiendo que las impresionantes tecnologías detrás de la IA podrían atraer a las personas en Silicon Valley que ya han dejado de lado “los enfoques ordinarios de la trascendencia y el significado”.

No todos los directores ejecutivos de Silicon Valley se han convertido, incluso si quieren participar en la tecnología.

“Cuando la gente en la industria tecnológica habla de construir esta única IA verdadera, es casi como si pensaran que están creando a Dios o algo así”, dijo el director ejecutivo de Meta, Mark Zuckerberg, en un pódcast el año pasado mientras promocionaba la propia aventura de su empresa en la IA.

Aunque las teorías transhumanistas como la de Kurzweil se han vuelto más extendidas, todavía no son ubicuas dentro de Silicon Valley.

“El caso científico para eso no es de ninguna manera más fuerte que el caso de una vida después de la muerte religiosa”, argumenta Max Tegmark, físico e investigador de aprendizaje automático en el Massachusetts Institute of Technology.

Al igual que Hinton, Tegmark se ha pronunciado sobre los riesgos potenciales de la IA no regulada. En 2023, como presidente del Future of Life Institute, Tegmark ayudó a encabezar una carta abierta en la que pedía a los laboratorios de IA poderosos que “pausaran inmediatamente” el entrenamiento de sus sistemas.

La carta recogió más de 33,000 firmas, incluidas las de Elon Musk y el cofundador de Apple, Steve Wozniak. Tegmark considera que la carta ha tenido éxito porque ayudó a “generalizar la conversación” sobre la seguridad de la IA, pero cree que su trabajo está lejos de haber terminado.

Con regulaciones y salvaguardias, Tegmark piensa que la IA puede ser utilizada como una herramienta para hacer cosas como curar enfermedades y aumentar la productividad humana. Pero es imperativo, argumenta, mantenerse alejado de la carrera “bastante marginal” que algunas empresas están corriendo: “la búsqueda pseudorreligiosa para tratar de construir un Dios alternativo”.

“Hay muchas historias, tanto en textos religiosos como en, por ejemplo, la mitología griega antigua, sobre cómo cuando nosotros los humanos empezamos a jugar a los dioses, termina mal”, dijo. “Y siento que hay mucha arrogancia en San Francisco en este momento”.