Un abogado estadounidense debió pedir disculpas por haber utilizado el programa de inteligencia artificial ChatGPT para preparar un caso judicial.
El profesional, Steven Schwartz, que ejerce en Nueva York, se disculpó ante un juez esta semana por presentar un informe lleno de falsedades generadas por el chat conversacional de OpenAI.
«Simplemente no tenía idea de que ChatGPT fuera capaz de fabricar citas de casos completos u opiniones judiciales, incluso de una manera que pareciera auténtica», escribió Schwartz.
El error ocurrió en un caso civil ventilado ante un tribunal federal de Manhattan, en el cual la compañía aérea colombiana Avianca fue demandada por una persona que afirmaba haber sufrido lesiones durante un vuelo entre El Salvador y Nueva York en agosto de 2019.
Luego que los abogados de la aerolínea pidieran al tribunal que desestimara el caso, Schwartz presentó una respuesta en la que citaba más de media docena de decisiones anteriores para respaldar su argumento de que el litigio debía continuar.
Pero todos esos fallos no habían existido, porque tampoco los casos evocados eran reales, como pudieron comprobarlo el juez Kevin Castel y los abogados de Avianca.
Schwartz se vio obligado a admitir que ChatGPT lo había inventado todo.
«La corte se enfrenta a una circunstancia sin precedentes», escribió el juez Castel el mes pasado. «Seis de los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citaciones internas falsas», agregó. El juez ordenó a Schwartz y a su socio legal comparecer ante él para enfrentar posibles sanciones.
Fue «un error profundamente lamentable», se disculpó Schwartz ante el tribunal antes de una audiencia ocurrida el martes.
Dijo que sus hijos con educación universitaria le habían presentado ChatGPT y que era la primera vez que lo usaba en su trabajo profesional.
«En el momento en que realicé la investigación legal en este caso, creía que ChatGPT era un motor de búsqueda confiable. Ahora sé que eso era incorrecto», escribió. «Nunca fue mi intención engañar a la corte».
ChatGPT se ha convertido en una sensación global desde que se lanzó a fines del año pasado por su capacidad para producir contenido similar al humano, incluidos ensayos, poemas y conversaciones, a partir de indicaciones simples.
Un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios sobre el error de Schwartz.
La historia fue reportada por primera vez por The New York Times.
Schwartz dijo que él y su firma, Levidow, Levidow & Oberman, habían sido «ridiculizados públicamente» en la cobertura de los medios. «Esto ha sido profundamente vergonzoso tanto a nivel personal como profesional, ya que estos artículos estarán disponibles en los próximos años», escribió.
«Este asunto ha sido una experiencia reveladora para mí y puedo asegurarle a la corte que nunca volveré a cometer un error como este», concluyó.
