Nueva York - Jueces de todo el mundo están lidiando con un problema creciente: escritos legales generados con la ayuda de la inteligencia artificial y presentados con errores, como citas de casos que no existen, según abogados y documentos judiciales.

La tendencia sirve como advertencia para las personas que están aprendiendo a usar herramientas de ia en el trabajo. Muchos empleadores quieren contratar trabajadores que puedan usar la tecnología para ayudar con tareas como realizar investigaciones y redactar informes. A medida que profesores, contadores y profesionales del marketing comienzan a interactuar con chatbots y asistentes de ia para generar ideas y mejorar la productividad, también están descubriendo que los programas pueden cometer errores.

Un científico de datos y abogado francés, Damien Charlotin, ha catalogado al menos 490 presentaciones judiciales en los últimos seis meses que contenían “alucinaciones”, que son respuestas de ia que contienen información falsa o engañosa. El ritmo se está acelerando a medida que más personas usan la ia, dijo.

“Incluso el jugador más sofisticado puede tener un problema con esto”, dijo Charlotin. “La ia puede ser una bendición. Es maravillosa, pero también existen estos escollos”.

Charlotin, investigador principal de HEC París, una escuela de negocios ubicada a las afueras de la capital de Francia, creó una base de datos para rastrear casos en los que un juez dictaminó que la ia generativa produjo contenido alucinado, como jurisprudencia fabricada y citas falsas. La mayoría de los fallos son de casos de Estados Unidos en los que los demandantes se representaron a sí mismos sin un abogado, dijo. Si bien la mayoría de los jueces emitieron advertencias sobre los errores, algunos impusieron multas.

Pero incluso compañías de alto perfil han presentado documentos legales problemáticos. Un juez federal en Colorado dictaminó que un abogado de MyPillow Inc., presentó un escrito que contenía casi 30 citas defectuosas como parte de un caso de difamación contra la compañía y el fundador Michael Lindell.

La profesión legal no es la única que lucha con las debilidades de la ia. Las descripciones generales de ia que aparecen en la parte superior de las páginas de resultados de búsqueda web con frecuencia contienen errores.

Y las herramientas de ia también plantean preocupaciones sobre la privacidad. Los trabajadores de todas las industrias deben tener cuidado con los detalles que cargan o introducen en las indicaciones para garantizar que están salvaguardando la información confidencial de los empleadores y clientes.

Expertos legales y laborales comparten sus experiencias con los errores de la ia y describen los peligros que se deben evitar.

No confíes en la ia para tomar grandes decisiones por ti. Algunos usuarios de la ia tratan la herramienta como un pasante al que le asignas tareas y cuyo trabajo completado esperas revisar.

“Piensa en la ia como un aumento de tu flujo de trabajo”, dijo Maria Flynn, ceo de Jobs for the Future, una organización sin fines de lucro centrada en el desarrollo de la fuerza laboral. Puede actuar como asistente para tareas como redactar un correo electrónico o investigar un itinerario de viaje, pero no pienses en ella como un sustituto que puede hacer todo el trabajo, dijo.

Al prepararse para una reunión, Flynn experimentó con una herramienta de ia interna, pidiéndole que sugiriera preguntas de discusión basadas en un artículo que compartió con el equipo.

“Algunas de las preguntas que propuso no eran realmente el contexto adecuado para nuestra organización, así que pude darle algunos de esos comentarios... y volvió con cinco preguntas muy reflexivas”, dijo.

Flynn también ha encontrado problemas en el resultado de la herramienta de ia, que todavía está en una etapa piloto. Una vez le pidió que recopilara información sobre el trabajo que su organización había realizado en varios estados. Pero la herramienta de ia estaba tratando el trabajo completado y las propuestas de financiación como lo mismo.

“En ese caso, nuestra herramienta de ia no pudo identificar la diferencia entre algo que se había propuesto y algo que se había completado”, dijo Flynn.

Afortunadamente, ella tenía el conocimiento institucional para reconocer los errores. “Si eres nuevo en una organización, pregunta a tus compañeros de trabajo si los resultados les parecen precisos”, sugirió Flynn.

Si bien la ia puede ayudar con la lluvia de ideas, confiar en ella para proporcionar información objetiva es arriesgado. Tómate el tiempo para verificar la precisión de lo que genera la ia, incluso si es tentador omitir ese paso.

“La gente está asumiendo porque suena tan plausible que es correcto, y es conveniente”, dijo Justin Daniels, un abogado y accionista con sede en Atlanta del bufete de abogados Baker Donelson. “Tener que volver atrás y verificar todas las citas, o cuando miro un contrato que la ia ha resumido, tengo que volver atrás y leer lo que dice el contrato, eso es un poco inconveniente y requiere mucho tiempo, pero eso es lo que tienes que hacer. Por mucho que pienses que la ia puede sustituir eso, no puede”.

Puede ser tentador usar la ia para grabar y tomar notas durante las reuniones. Algunas herramientas generan resúmenes útiles y esbozan los pasos de acción basados en lo que se dijo.

Pero muchas jurisdicciones requieren el consentimiento de los participantes antes de grabar conversaciones. Antes de usar la ia para tomar notas, haz una pausa y considera si la conversación debe mantenerse privilegiada y confidencial, dijo Danielle Kays, socia con sede en Chicago del bufete de abogados Fisher Phillips.

Consulta con colegas en los departamentos legales o de recursos humanos antes de implementar un tomador de notas en situaciones de alto riesgo, como investigaciones, evaluaciones de desempeño o discusiones de estrategia legal, sugirió.

“La gente está afirmando que con el uso de la ia debería haber varios niveles de consentimiento, y eso es algo que se está abriendo camino en los tribunales”, dijo Kays. “Ese es un problema que diría que las compañías deberían seguir observando a medida que se litiga”.

Si estás usando herramientas de ia gratuitas para redactar un memorando o una campaña de marketing, no le digas información de identificación o secretos corporativos. Una vez que hayas cargado esa información, es posible que otros que usen la misma herramienta la encuentren.

Eso es porque cuando otras personas hacen preguntas a una herramienta de ia, buscará información disponible, incluidos los detalles que revelaste, mientras construye su respuesta, dijo Flynn. “No discierne si algo es público o privado”, añadió.

Si tu empleador no ofrece capacitación en ia, intenta experimentar con herramientas gratuitas como ChatGPT o Microsoft Copilot. Algunas universidades y compañías tecnológicas ofrecen clases que pueden ayudarte a desarrollar tu comprensión de cómo funciona la ia y las formas en que puede ser útil.

Un curso que enseñe a las personas cómo construir las mejores indicaciones de ia o cursos prácticos que brinden oportunidades para practicar son valiosos, dijo Flynn.

A pesar de los posibles problemas con las herramientas, aprender cómo funcionan puede ser beneficioso en un momento en que son omnipresentes.

“El mayor escollo potencial al aprender a usar la ia es no aprender a usarla en absoluto”, dijo Flynn. “Todos vamos a necesitar dominar la ia, y dar los primeros pasos para construir tu familiaridad, tu alfabetización, tu comodidad con la herramienta va a ser de vital importancia”.