Estocolmo— El café puede ser servido por manos humanas, pero detrás del mostrador algo mucho menos tradicional toma las decisiones en una cafetería experimental en Estocolmo.

El “startup” Andon Labs, con sede en San Francisco, puso a un agente de inteligencia artificial apodado “Mona” a cargo del restaurante Andon Café, en la capital sueca. Aunque los baristas humanos siguen preparando el café y atendiendo los pedidos, el agente de IA —impulsado por Google Gemini— supervisa casi todos los demás aspectos del negocio, desde contratar personal hasta gestionar el inventario.

No está claro cuánto durará el experimento, pero el agente de IA parece estar teniendo dificultades para generar ganancias en el competitivo mercado cafetero de Estocolmo. La cafetería ha generado más de $5,700 en ventas desde que abrió a mediados de abril, pero quedan menos de $5,000 de su presupuesto original de más de $21,000. Gran parte del dinero se gastó en costos iniciales de instalación y la esperanza es que eventualmente logre estabilizarse y obtener ganancias.

Muchos clientes consideran divertido visitar un negocio administrado por inteligencia artificial. Dentro del café, los clientes pueden levantar un teléfono y hacerle preguntas directamente al agente.

“Es interesante ver qué pasa cuando llevas los límites más allá”, dijo la clienta Kajsa Norin. “La bebida estaba buena”.

Especialistas afirman que existen múltiples preocupaciones éticas, desde el papel de la tecnología en el futuro de la humanidad hasta su uso para realizar entrevistas laborales y evaluar el desempeño de empleados.

Emrah Karakaya, profesor asociado de economía industrial en el KTH Royal Institute of Technology, comparó el experimento con “abrir la caja de Pandora” y aseguró que poner a una IA al mando puede generar muchos problemas. Por ejemplo, cuestionó qué ocurriría si un cliente sufre una intoxicación alimentaria: ¿quién sería responsable?

“Si no tienes la infraestructura organizacional necesaria alrededor de esto y pasas por alto estos errores, puede causar daños a las personas, a la sociedad, al medio ambiente y a los negocios”, dijo Karakaya. “La pregunta es si realmente nos importa ese impacto negativo”.

Fundada en 2023, Andon Labs es un startup de investigación y seguridad en IA que asegura enfocarse en “poner a prueba” agentes de inteligencia artificial en el mundo real dándoles “herramientas reales y dinero real”. La empresa ha trabajado con OpenAI, creadora de ChatGPT; Anthropic, desarrolladora de Claude; Google DeepMind y xAI, de Elon Musk. El startup asegura que se prepara para un futuro donde “las organizaciones sean administradas autónomamente por IA”.

La cafetería sueca es presentada como un “experimento controlado” para explorar cómo podría implementarse la inteligencia artificial en el futuro.

“La IA será una gran parte de la sociedad en el futuro, y por eso queremos hacer este experimento para ver qué preguntas éticas surgen cuando una inteligencia artificial contrata personas y dirige un negocio”, explicó Hanna Petersson, integrante del equipo técnico de Andon Labs.

El laboratorio ya había realizado pruebas piloto en las que la IA Claude, de Anthropic, administró un negocio de máquinas expendedoras y una tienda de regalos en San Francisco. La simulación reveló comportamientos preocupantes: el agente prometía reembolsos a clientes, pero nunca los hacía y además mintió deliberadamente a proveedores sobre los precios de la competencia para obtener ventajas.

Mona comenzó a trabajar tras recibir instrucciones básicas, explicó Petersson. El equipo le indicó que intentara manejar el café de manera rentable, que fuera amigable y relajada, y que resolviera por sí misma los detalles operativos, aunque podía solicitar nuevas herramientas si las necesitaba.

A partir de ahí, el sistema gestionó contratos de electricidad e internet y obtuvo permisos para manipulación de alimentos y mesas al aire libre. Luego publicó anuncios de empleo en LinkedIn e Indeed, además de abrir cuentas comerciales con proveedores mayoristas para pedidos diarios de pan y productos de panadería. También se comunica con los baristas a través de Slack, enviándoles mensajes incluso fuera del horario laboral, algo mal visto en Suecia.

Sin embargo, han surgido otros problemas, especialmente relacionados con el inventario.

El agente de IA llegó a ordenar 6,000 servilletas, cuatro botiquines de primeros auxilios y 3,000 guantes de goma para la pequeña cafetería, además de tomates enlatados que no se utilizan en ningún plato del menú.

Y luego está el pan. Algunos días el sistema pide demasiado, mientras que otros olvidan cumplir con los horarios límite de las panaderías, obligando a los baristas a eliminar sándwiches del menú.

Petersson explicó que estos errores probablemente se deben a la “limitada ventana de contexto” del asistente de IA.

“Cuando los recuerdos antiguos sobre pedidos salen de la ventana de contexto, ella olvida completamente lo que ordenó anteriormente”, señaló Petersson.

El barista Kajetan Grzelczak aseguró que todavía no teme ser reemplazado por la inteligencia artificial.

“Todos los trabajadores están bastante seguros”, afirmó. “Quienes deberían preocuparse por su empleo son los mandos intermedios, la gente de gestión”.