Al reflexionar sobre la evidencia que pasa por su sala del tribunal superior de Phoenix, Arizona, la juez Pamela Gates dice que cada vez confía menos en que la persona promedio pueda discernir lo que es verdad.
Digamos que una víctima presenta una foto en la que se ven lesiones en su brazo, y que el acusado argumenta que se trata de una imagen digitalmente modificada. O que se presente una grabación que incrimina al acusado, y éste proteste diciendo que aunque la voz suena idéntica a la suya, jamás pronunció esas palabras.
Es que en esta era cualquiera puede usar herramientas de IA generativa para crear imágenes, videos y audios convincentes. Por eso los jueces como Gates cada vez están más preocupados porque los tribunales no puedan distinguir lo que es genuino de lo que no lo es.
“En el pasado había mejor capacidad para evaluar, usando el sentido común, la totalidad de las circunstancias, y la posibilidad de verificar lo que era auténtico con tan solo mirarlo”, dijo Gates, que preside un grupo de trabajo en los tribunales del estado para analizar cómo enfrentar la evidencia generada con IA. “Esa capacidad para tomar determinaciones basándonos en mirar, ya no la tenemos”.
Cualquiera puede crear evidencia falsa
La explosión de sistemas de IA generativa a bajo costo ha hecho que algunos estudiosos de la ley pidan cambios en las reglas que han gobernado la evidencia en los tribunales estadounidenses durante 50 años. Han presentado varias propuestas, que revisó un comité consejero federal este mes, con el fin de alivianar la carga de los jurados y darles más responsabilidad a los jueces para diferenciar los hechos de la ficción, antes de que comience el juicio.
“La forma en que funcionan ahora las reglas es que si hay alguna pregunta en cuanto a si la evidencia es auténtica o no, entonces no se debe presentar ante el jurado”, afirmó Maura Grossman, profesora de leyes y ciencias de la computación que junto con el ex juez federal paul Grimm propuso varios cambios a las reglas federales que rigen la evidencia. “Lo que estamos diciendo es que hay que esperar un momento y que sabemos que todo esto impacta en los jurados, que no pueden borrar de su memoria lo que se les presenta. Por eso hay que darle más poder al tribunal. Es un cambio grande”.
Para los jurados la evidencia audiovisual es convincente, y cuesta olvidarla. Rebecca Delfino, decana adjunta y profesora de leyes de la Facultad Loyola, propuso también cambios a las reglas, y señala estudios que demuestran que al ver videos falsos, se puede convencer a la gente para que brinde falso testimonio sobre hechos de los que han sido testigos, y que el jurado que ve evidencia en video además de oír testimonios en forma verbal, tienen seis veces más posibilidades de retener la información que si solo oyeran el testimonio.
