Un tribunal de Oregon le impuso una multa de US$10.000 a un abogado que presentó un escrito citando alucinaciones de la IA, según un nuevo informe del Oregonian. Es la multa más alta hasta ahora por citar casos falsos en ese estado, y habría sido mayor, pero los jueces decidieron ser benévolos, según indica el periódico.
El artículo identifica al abogado como Bill Ghiorso de Salem, quien presentó un escrito legal en el tribunal de apelaciones, que contenía 15 casos de referencia que eran falsos y nueve citas, también falsas. Ghiorso culpó a un asistente por las alucinaciones de la IA y en un principio presentó una protesta para pagar la multa.
Ya en diciembre de 2025 el tribunal de apelaciones de Oregón había multado a otro abogado por la misma práctica. El panel de tres jueces determinó que por este tipo de transgresiones se cobrarían US$500 por cada caso falso presentado y US$1.000 por cada cita o declaración de leyes que fueran falsas. Sumando todas las alucinaciones, en el caso de Ghiorso la multa ascendía a US$16.500, pero los jueces decidieron reducirla a US$10.000.
Según los jueces, Ghiorso explicó que su personal había averiguado en Google si los casos citados eran reales, y que la respuesta fue que sí lo eran: “Si uno le pregunta al motor de búsqueda de Google si varios de los casos inventados son reales, utilizará una respuesta para la que usa su motor de búsqueda de inteligencia artificial y afirmará que los casos inventados son reales”.
No confiar
Con frecuencia la gente piensa que puede verificar algo creado con la IA preguntándole al chatbot de IA si es real, pero las herramientas de inteligencia artificial generativa no son confiables para ese fin. Algunos también piensan que pueden asegurarse de que su chatbot de IA no invente información falsa con sólo añadir la instrucción «no alucines”. Pero eso no funciona.
Los jueces escribieron que Ghiorso tendría que haber sabido que “presentar un escrito con citas no verificadas, que son inventos, constituye una violación a los deberes del abogado de ser profesional, veraz y sincero ante el tribunal”.
No se sabe si la oficina de Ghiorso utilizó respuestas de la IA de Google exclusivamente o si utilizó otros chatbots de IA para crear las alucinaciones. Y Ghiorso todavía no respondió a las preguntas que se le enviaron por e-mail el jueves.
En los últimos años ha habido muchas historias de abogados que presentaron documentos legales con alucinaciones de la IA. La mayoría de los abogados acaban siendo advertidos y nada más, pero hay jueces que imponen sanciones monetarias, como la multa que se le impuso a Ghiorso.
Aparentemente el mes pasado y también en Oregon se multó a otro abogado con US$500 por una cita falsa. En Nueva Orleans el mes pasado un panel de tres jueces multó a un abogado con US$2.500 por citar casos falsos.
Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.
