Una jueza federal dijo el miércoles que está considerando sanciones contra los abogados de una firma de alto precio contratada para defender el sistema penitenciario de Alabama después de que ChatGPT se usó para escribir dos documentos judiciales que incluían citas de casos inexistentes.

La jueza de distrito de los Estados Unidos, Anna Manasco, celebró una audiencia en Birmingham para interrogar a los abogados de la firma Butler Snow sobre los documentos. Dijo que había cinco citas falsas en dos documentos presentados en la corte federal.

Manasco dijo que a nivel nacional, ha habido amplias advertencias de los tribunales sobre el uso de la inteligencia artificial para generar documentos legales debido al potencial de inexactitudes.

Manasco dijo que está considerando una gama de sanciones, incluidas multas. Dio a la firma 10 días para presentar un escrito ante el tribunal.

Los abogados de Butler Snow se disculparon repetidamente durante la audiencia.

Dijeron que un socio de la firma, Matt Reeves, usó ChatGPT para investigar la jurisprudencia de apoyo, pero no verificó la información antes de agregarla a dos documentos presentados ante la corte federal. Esas citas resultaron ser “alucinaciones” —lo que significa citas incorrectas— por parte del sistema de IA, dijeron.

Cuatro abogados firmaron los documentos con la información, incluido Reeves.

“Butler Snow se avergüenza de lo que sucedió aquí, lo cual fue en contra del buen juicio y la política de la firma. No hay excusa para usar ChatGPT para obtener autoridad legal y no verificar las fuentes que proporcionó, incluso si es para respaldar principios de derecho bien fundados”, escribieron los abogados de la firma en respuesta a la jueza.

Reeves le dijo a la jueza que él solo era responsable de las citas falsas y que “espero que su señoría no castigue a mis colegas”.

Alabama ha pagado millones de dólares a la firma para defender al sistema penitenciario estatal y a sus funcionarios en demandas. Eso incluye representar al estado como demandado en una demanda del Departamento de Justicia alegando que los reclusos masculinos viven en condiciones violentas y crueles.

Los documentos en cuestión se presentaron en una demanda presentada por un recluso que fue apuñalado en múltiples ocasiones en la Institución Correccional William E. Donaldson en el condado de Jefferson. Alega que los funcionarios de la prisión no están logrando mantener a los reclusos seguros.

Manasco también interrogó a Bill Lunsford, jefe de la división de Butler Snow que maneja litigios de prisión, quien firmó los documentos. El fiscal general de Alabama ha nombrado a Lunsford como fiscal general adjunto porque representa al estado en la corte.

Lunsford escribió en respuesta a la jueza que escaneó los documentos antes de presentarlos, pero no hizo una revisión detallada ya que había sido revisado por Reeves. Le dijo a la jueza que la firma ha sido proactiva en advertir a los abogados sobre las limitaciones de la inteligencia artificial.