Cuando el fiscal de distrito de Pensilvania, Matthew Weintraub, del condado de Bucks subió al podio el 15 de marzo de 2021, puso en marcha una reacción en cadena de acontecimientos que captarían la atención de millones y manifestarían una serie de angustias enconadas acerca de los peligros de tecnología deepfake.
La policía de Bucks arrestó recientemente a Raffaela Spone, de 50 años, cuya hija de 17 años formaba parte de un equipo de porristas local altamente competitivo. llamados Victory Vipers All-Stars. Weintraub acusó a Spone de usar inteligencia artificial para fabricar imágenes y videos lascivos de los otros adolescentes en el equipo de porristas, una siniestra estratagema para acosar a las chicas, arruinar su reputación y hacer que las expulsen de las Víboras. Weintraub contado esas impactantes acusaciones a la sala y advirtieron de una inminente crisis deepfake que pondría en peligro la naturaleza misma de la verdad.
“Esta tecnología ahora está disponible para cualquiera que tenga un teléfono inteligente”, dijo Weintraub a una sala repleta de periodistas. Es descargar una aplicación y estás fuera de carreras».
Pero la evidencia muestra que la Cassandra deepfake de Weintraub se construyó sobre una mentira.
Un vídeo granulado muestra a Madeline Hime, entonces animadora de Victory Vipers, de 17 años, inhalando lo que parece un vaporizador y soplando un nube de humo. Un clip corto del vídeo primero compartido con Insider Edition de Hime muestra al adolescente rubio, vestido con una sudadera, con los ojos cerrados, tomando un largo tirón de un dispositivo metálico negro azulado en un lugar oscuro habitación durante una fiesta de pijamas con otros miembros del equipo de porristas. El dispositivo se asemeja a un vaporizador Juul. Madeline se ríe y luego inhala Una larga columna de humo blanco en el aire. Otra sección del clip muestra a Madeline sosteniendo brevemente el humo en sus pulmones antes de liberarlo. durante un ataque de risa.
NBC News last month obtained a copy of the so-called deepfake video that purported to make it appear as if a teen had been vaping.
But every single deepfake creator and expert I talked to said it didn't look like a deepfake at all.https://t.co/A9PHBQytpN pic.twitter.com/iTgXMCzJsK
— Mikael Thalen (@MikaelThalen) April 8, 2021
Un número de teléfono misterioso y anónimo envió el vídeo al entrenador en jefe de Hime y los Vipers en julio de 2020, cobrando una nota de documentos. una violación del código de conducta del equipo de porristas y habría provocado que Hime fuera expulsado del equipo. Weintraub, la policía y Hime harían referencia El clip una y otra vez en entrevistas y conferencias de prensa durante los siguientes meses, haciéndolo parecer como la piedra angular de su caso. contra Spone. Hime y su madre repetirían sus afirmaciones deepfake, llevando su historia a El New York Times, Buenos días América, edición interior, y docenas de publicaciones más.
“Estaba impactado, sorprendido y asustado porque no sabía quién sería capaz de manipular un video como ese”, Hime. contado nerviosamente a Inside Edition en 2021 cuando se preguntó sobre los videos.
“Ese no soy yo en el video”, dijo el adolescente en marzo de 2021. entrevista con Good Morning America. “Pensé que si lo decía nadie me creería porque obviamente hay pruebas, hay un video. pero obviamente ese vídeo fue manipulado».
Sin embargo, a pesar de la insistencia de Hime, los medios de comunicación eran falsos, múltiples expertos en deepfake dijo que el vídeo de vapeo era una composición demasiado compleja y matizada para que incluso los modelos de IA más avanzados de Silicon Valley pudieran crearlo. , y mucho menos cualquier herramienta disponible para una madre en los suburbios de Pensilvania.
Es más, otro adolescente en la pijamada le dijo al fiscal del distrito el día de la conferencia de prensa que el video era real, según documentos judiciales obtenidos por Gizmodo. En una declaración jurada después del juicio de Spone, la compañera de equipo dijo que vio cómo se filmaba. Ni Madeline ni ella La madre respondió a las múltiples solicitudes de comentarios de Gizmodo.
I had my reservations about the story of a mom making deepfakes of her daughter's cheerleading rivals.
One of the videos released by abc doesn't appear to be a deepfake, but they still label it as one without substantial proof or analysis.
1/8 pic.twitter.com/8Lc5qV9tRo
— Henry Ajder (@HenryAjder) March 19, 2021
Durante varios meses previos al juicio que comenzó el 23 de marzo de 2022, Weintraub y otros involucrados en el caso continuaron repitiendo el afirmaciones de mala calidad sobre deepfake en apariciones televisivas y destacados periódicos nacionales. Casi de la noche a la mañana, los medios habían etiquetado a Spone como “la mamá animadora de deepfake” con Sports Illustrated. incluso comparándola con Wanda Holloway, una madre animadora de Texas que fue condenada por solicitar asesinato capital en 1991 después de que reclutó a su hermano como sicario para matar la madre de una animadora rival.
El nombre de Spone apareció en titulares de artículos del Washington Post, CNN, The New York Times y cientos de otras publicaciones estadounidenses. medios de noticias como el bbc y la India Tiempos del Indostán También se unió a la acción. En total, se han escrito más de 6.000 artículos sobre cómo Spone la vincula con las acusaciones de deepfake. , según su denuncia.
“Ella es criticada en todas las redes sociales, ya no trabaja”. Ali Spone, la hija de Raffaela, dijo en un 2021 entrevista con Inside Edition “Me siento muy mal porque nadie debería tener que pasar por algo así así.
“Siempre hemos dado por sentado que una foto es una foto y un vídeo es un vídeo”, dijo Weintraub en 2021. entrevista. “Ya no podemos dar esto por sentado”.
Esa sensación de certeza se evaporó el 23 de marzo de 2022, el día del juicio de Spone. En los meses previos al juicio por ciberacoso criminal , varios expertos en deepfake analizaron uno de los videos supuestamente manipulados publicados por los fiscales y no encontraron evidencia que respalde la afirmación de que era digital alterado. Weintraub y su equipo de fiscales aceptado fueron “incapaces de confirmar que el vídeo fue falsificado » durante una audiencia previo al al juicio en mayo de 2021 . Fiscales, incapaces de probar las reclamación deepfake, retiró los cargos de acoso cibernético por completo el día en que se suponía que debían comenzar a probarlos. Spone originalmente había sido acusado de tres adicionales Cargos de acoso cibernético a un niño. Esos cargos contenían acusaciones de manipulación de fotografías y videos. Fueron retirados en mayo de 2021. audiencias previas al juicio. Spone fue finalmente declarado culpable por tres cargos de delito menor de acoso en marzo de 2022, ella envió los mensajes de texto anónimos a los adolescentes. video o fotos; las imágenes y videos que enviaba los textos eran reales. Fue condenada a tres años de libertad condicional. Ella está apelando la convicción Weintraub nunca cumplió su amenaza a la defensa de Spone de producir más evidencia del maestría y mala conducta del deepfake de Spone.
La venganza de Raffaela Spone
La madre, que se convirtió en el rostro de un pánico basado en un deepfake que no lo era, ahora demanda a Weintraub, los agentes que arrestaron ella y los Himes por difamación. Su demanda, presentada en el Distrito Este de Pensilvania el 13 de enero de este año, no ha ha sido denunciada previamente. Si gana la demanda, podría recibir hasta $500,000. Declaraciones juradas recientemente juradas de una animadora y uno de los padres involucrados en el caso compartido con Gizmodo parecen respaldar la afirmación de Spone de que Weintraub, los detectives del condado de Bucks y Hime sabían que el video de vapeo era auténtico pero optó por continuar con las acusaciones de “mamá animadora deepfake” durante meses.
“Las falsas declaraciones de Weintraub provocaron un circo mediático nacional sobre la tecnología deepfake contra [Spone]”, dijo Robert Birch, el abogado de la madre, en el informe de difamación. demanda. “Estas historias falsas han destruido [su] vida». Birch dice que su cliente está bajo atención médica por TEPT y “grave angustia” como resultado de amenazas de muerte y ya no puede trabajar en su campo elegido.
Birch describió la decisión de Weintraub de presentar acusaciones profundamente falsas como un “esfuerzo descarado, audaz y desesperado para avanzar en su carrera política”. Weintraub está preparado reelección este otoño.Él y sus abogados se negaron a hacer comentarios sobre esta historia.
Cómo Raffaela Spone se convirtió en la ‘mamá animadora deepfake’
Más de una docena de documentos judiciales relacionados con el caso de Spone vistos por Gizmodo sugieren que el inicio de las falsas acusaciones de deepfake se remonta a meses antes de su arresto. Dos agentes de policía involucrados en el caso, Matthew Reiss y Louis Bell, habían pasado meses hablando con Madeline Hime y su La madre Jennifer, quien se comunicó con la policía después de que su hija le contara sobre una avalancha de mensajes de texto amenazantes que comenzó a recibir alrededor de junio de 2020, incluidos uno instruyendo al adolescente a “suicidarse”.
Además de los textos escritos, Madeline afirmó que recibió múltiples imágenes que parecían mostrarla bebiendo, vapeando y en varios estados de desnudez. . La adolescente llamó al misterioso número solo para descubrir que estaba fuera de servicio. respuesta automatizada desde la aplicación Pinger, que puede utilizarse para enviar mensajes anónimos. Alrededor de un mes después, Madeline madre le dijo al New York Times La entrenadora de porristas de Viper se acercó a ella y le dijo que también había recibido un mensaje de texto de un número anónimo con “medios manipulados incriminatorios”, que incluía el video de vapeo. Eso fue un problema. El escuadrón de animadoras competitivo respeta un código de conducta que prohíbe las actividades las fotos mostró a Hime involucrado. Weintrab más tarde le contaría a un reportero de Sports Illustrated el objetivo de los videos “era avergonzar [a las porristas] y lograr que los eliminen del equipo”. Madeline aseguró a la policía que nunca antes había fumado ni publicado fotos de desnudos.
“Sentí que si decía algo, nadie confiaría en mí”, dijo Madeline en marzo de 2021. entrevista con Today. “Tenían el video como prueba, aunque el video no era real.»
“No sabía cómo protegerla”, dijo Jennifer en esa misma entrevista.
Reiss y Bell pronto descubrieron que los Himes no eran los únicos que recibían mensajes. Otra adolescente llamada Kayla Ratel recibió un mensaje de texto acusándola de “beber en la orilla, fumar marihuana y usar ‘attentionwhOre69’ como nombre de usuario», según el mismo expediente. Otra animadora más había recibido una foto de ella misma en bikini con las palabras “rasgos tóxicos, venganza, citas con chicos y fumando” escritas en texto encima de según a una denuncia penal presentada contra Spone
La policía dijo que rastrearon los números desconocidos hasta la dirección de Spone en Chalfont, Pensilvania, una pequeña ciudad a unas 35 millas al norte de Filadelfia. obtuvo una orden de registro para la casa. En una redada el 18 de diciembre, la policía rebuscó en la casa de Spone buscando cualquier evidencia que vinculara a la madre a la cadena de textos e imágenes de acoso. Los agentes incautaron múltiples teléfonos móviles, computadoras portátiles, una televisión inteligente, una consola de juegos Xbox y incluso un portal de Facebook. Cuando Spone discutió, uno de los detectives presuntamente Le preguntó cómo se sentiría cuando estuviera “en todos los periódicos y fuera conocida como la mamá del fútbol que acosa a los jóvenes”.
Un abogado que representa a Reiss se negó a comentar esta historia. Bell no respondió a las múltiples solicitudes de comentarios de Gizmodo.
Adolescente revela el verdadero origen del video de vapeo ‘deepfake’
Madeline Hime le dijo al oficial Bell que varias de las imágenes que le enviaron fueron alteradas digitalmente, según la demanda por difamación y las transcripciones judiciales de Spone. juicio por acoso, pero los oficiales supuestamente no lograron preservar esas imágenes retocadas. Meses después, después de múltiples solicitudes por parte de la defensa de Spone para ver el supuestos deepfakes, se descubrió que Hime se había deshecho del teléfono original con los supuestos deepfakes almacenados en él, afirmó Spone en su difamación. Ella también había eliminado varias cuentas de redes sociales durante el proceso de la investigación policial, según muestran las transcripciones del juicio. Kayla Ratel, una amiga. de Madeline, confirmó que la animadora estaba eliminando cuentas de redes sociales en una declaración jurada presentada el 16 de abril de 2023 y vista por Gizmodo. Cuando Ratel le preguntó a Hime por qué eliminó las cuentas, Madeline dijo que era por “razones legales”, según la declaración jurada de Ratel. Las reclamaciones en la declaración jurada no han sido reportados previamente.
“La policía y Weintraub permitieron que el teléfono de Hime fuera destruido para que el experto del demandante no pudiera examinar las pruebas”, alega Birch, el abogado de Spone. en la demanda por difamación. La denuncia alega que la madre de Hime incluso habló sobre la eliminación de pruebas del teléfono con otra madre, describiendo a Jennifer Hime como dispuesto a pagar a alguien” para sacar a la luz pruebas contra Spone.
La declaración jurada de Ratel pone en duda múltiples elementos de la historia de Madeline, que sirvió como base para el caso contra Spone. Ratel dijo que ella Personalmente vi a Madeline fumar “frecuentemente” a pesar de que Hime afirma lo contrario.
Weintraub presunto en múltiples conferencias de prensa que Spone había usado IA para crear fotos desnuda de Hime, que era menor de edad. Spone negó haber manipulado las imágenes en las audiencias previas al juicio y nuevamente más tarde en su demanda por difamación. El fiscal nunca produjo las imágenes durante el procedimiento legal. Sin embargo, las imágenes eran reales, según el tribunal Las transcripciones del juicio de Spone se incluyen en la respuesta de Spone a la moción de desestimación del oficial Bell. Durante el juicio de Spone, la madre de Madeline testificó que una foto de desnudo de Madeline era auténtica, creada por uno de los amigos de Madeline y enviada a la animadora a vía Snapchat, según las mismas transcripciones archivadas en respuesta a la moción de Bell para desestimar.
Las otras imágenes pueden haber venido de una fuente mucho más extravagante: según la demanda por difamación, Hime había estado filmando y vendiendo videos. de sí misma desnuda ante hombres mayores que conoció en Tinder usando el identificador “mads956”; no hay deepfakes involucrados, descubrieron los investigadores. En su declaración jurada, Ratel afirma Hime admitió vendiendo desnudos a hombres mayores en Tinder “numerosas veces». a una transcripción. La propia madre de Hime estaba consciente de que su hija estaba vendiendo desnudos en la aplicación de citas, según las transcripciones judiciales citadas en Spone’s respuesta a la moción de Bell para desestimar.
Quizás lo más condenatorio de todo es que Ratel dijo que ella y la hija de Spone estaban en la habitación durante una pijamada viendo a uno de sus amigos filmar la el mismo vídeo que Madeline más tarde le contaría a la policía era deepfake .
“Lo que Madi le dijo a la policía y las noticias eran todos falsos”, dijeron Ratel y su madre Sherri en una declaración jurada que ambas firmaron. “Madi estaba siendo filmada vapeando la noche de la pijamada cuando se hizo el video y que Madi publicó en las redes sociales”. Gizmodo podría No encuentro este video en particular en los sitios de redes sociales de Hime; la demanda por difamación y la declaración jurada de Ratel alegamos que la ex-animadora borró varias cuentas en los años desde el incidente.
Cuando Gizmodo revisó las cuentas actuales de Hime en las redes sociales, hubo poco reconocimiento de su tango de varios años con Spone. En TikTok, donde Hime tiene 94.000 seguidores, hubo una publicación sobre la saga, creada en febrero pasado pero eliminada desde entonces. Muestra a Madeline en su dormitorio con un título que dice “cuando Lifetime nos envió a mi mamá y a mí un guión de su nueva película”. Se reproduce música dramática y se detiene. justo antes de que ella se aleje de la cámara y pregunte: “Espera, ¿esta maldita obra es sobre nosotros?», una línea recortada del final de EuforiaLa segunda temporada.
https://www.tiktok.com/@user/video/7067619055129300271
En otro TikTok eliminado desde entonces al que se hace referencia en la demanda de Spone, se vio a Madi riendo mientras se desplazaba por una lista de artículos de noticias que acusaban a Spone de usar deepfakes. Casi al mismo tiempo, los Himes crearon un GoFundMe solicitando donaciones para pagar los costos legales de la familia. El GoFundMe, que Tenía el objetivo de recaudar 20.000 dólares y afirmó que Madi era el blanco de deepfakes. Madeline dejó a los Vipers por un equipo de porristas en Nueva Jersey. Cosmos informó; Allie, la hija de Spone, también abandonó los Vipers, y los dos ya no se hablan.
Henry Ajder, experto en IA generativa y deepfake con sede en el Reino Unido, señaló numerosos elementos del vídeo de marzo de 2021 que, según dijo, le hicieron creer. Era “muy improbable” que fuera inventado. Ajder dijo que la baja resolución y la alta saturación del vídeo, así como el movimiento La columna de humo expulsada por el vaporizador eran claras señales de alerta. Aunque es teóricamente posible crear una imagen de este tipo usando IA, dijo Ajder. Requeriría enormes cantidades de datos y habilidades de edición de deepfake que Spone ciertamente no poseía.
The following aspects make it highly unlikely that this video is a deepfake:
1) the vape pen/cloud/hand moving over the girl's face
2) the face moving outside the video frame
3) the awkward facial angles
4) the very low video resolution and high saturation
2/8
— Henry Ajder (@HenryAjder) March 19, 2021
Múltiples creadores prominentes de deepfake entrevistado por The Daily Dot estuvo de acuerdo con la evaluación de Ajder.
“Desde mi perspectiva, no es un deepfake”, dijo a la publicación un creador de deepfake que se llama Shamook. del vaporizador sería demasiado difícil de crear… Simplemente no puedo ver ninguna evidencia plausible de que sea un deepfake”.
Policías crédulos
en su declaración jurada de causa probable, El oficial Reiss afirmó que vio algunos de los videos que recibieron las porristas y determinó que eran obra de un programa deepfake en el que “Se puede mapear una imagen fija en un video existente para alterar la apariencia de la persona en el video y mostrar la semejanza de En su lugar, la imagen de la víctima”. Más tarde le diría a The Daily Dot que confió en su “ojo desnudo” para hacer esa evaluación.
Cuando el abogado de Spone le preguntó si alguna vez había recibido “algún tipo de capacitación para trabajar con deepfakes o detectar deepfakes”, Reiss respondió: “No”, según las transcripciones de su testimonio en el juicio. El escenario más probable, alega Spone, es que Hime afirmara que el material fue manipulado. y Reiss y Bell simplemente tomaron la palabra del adolescente. El trabajo policial de mala calidad, alegan, tuvo consecuencias de largo alcance.
Reiss y su equipo legal se negaron a proporcionar comentarios para esta historia. Sin embargo, en una moción reciente para desestimar la demanda por difamación de Spone, Reiss El abogado dijo que el oficial se había dado cuenta de la “falsedad de las afirmaciones de la Sra. Hime”, aunque no hasta cuatro meses después de la denuncia penal. fue presentada contra Spone.
Un policía pedófilo investiga a adolescentes
La falta de experiencia técnica en el análisis de deepfakes no fue el único factor que complicó la participación de Reiss en el caso. El 16 de abril de 2021 Mientras la investigación sobre Spone estaba en curso, los detectives del condado de Montgomery recibieron un aviso del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). , que mantiene una base de datos de material de abuso sexual infantil (CSAM). El NCMEC dijo que su personal estaba al tanto de un individuo en el área. subiendo dos imágenes sospechosas de CSAM a una cuenta de Gmail. La dirección de correo electrónico pertenecía al Oficial Reiss.
Reiss pidió a varias porristas de Victory Viper involucradas en el caso que entregaran los nombres de usuario y contraseñas de sus cuentas de redes sociales como parte de la investigación sobre las acusaciones contra Spone, según Birch. No queda claro en los documentos judiciales qué pruebas obtuvo de los relatos de las porristas Eso era relevante para el caso. Kayla Ratel, en su declaración jurada, también afirma que Reiss le pidió su contraseña. Los Ratels no respondieron a las solicitudes de comentarios de Gizmodo.
Los detectives obtuvieron una orden de registro e ingresaron a la casa de Reiss el 26 de mayo de 2021, confiscando sus teléfonos celulares y otros dispositivos electrónicos. un análisis forense de los dispositivos y dicho Encontraron 1,437 archivos de imagen y 258 archivos de video que muestran a niños menores de 18 años participantes en actos sexuales o desnudos. Al menos 84 de esos archivos mostraban niños pequeños y bebés. Reiss, quien investigó las fotos de desnudos en el caso Victory Vipers, se declaró culpable a tres cargos de posesión de pornografía infantil a principios de este año.
¿Quién sabía qué y cuándo?
La demanda por difamación de Spone acusa a Weintraub, Reiss y los Himes de saber que las imágenes y videos de las porristas no fueron alterados. El distrito El abogado hizo públicamente por primera vez la acusación de deepfake durante una conferencia de prensa del 15 de marzo de 2021. Promulgó esa misma narrativa en apariciones en los medios públicos para meses, describiendo a Spone como una peligrosa “mamá animadora falsa” en Good Morning America, en The Washington Post y en otros medios destacados. El DA dio un paso más avanzado durante un mayo entrevista 2021 con Sports Illustrated, diciendo: “Como este ejemplo muy claramente señala , no estamos seguros en el ciberespacio. Cualquiera puede captar cualquier imagen lo colocamos allí y manipulamos para que parezca indecoroso”.
Pero, según la declaración jurada de Ratel, Weintraub tenía buenas razones para dudar de la veracidad de las acusaciones de deepfake mucho antes de dirigir su “circo mediático”. ”
Los Ratels, en su declaración jurada, dijeron que no estaban al tanto del alcance total de las acusaciones contra Spone hasta que se les ocurrió Vea a Weintraub hablando en la conferencia de prensa, más de tres meses después de que la policía allanara la casa de Spone. Dijeron que inmediatamente notaron múltiples declaraciones inexactas, incluyendo las acusaciones sobre el deepfake y las afirmaciones de que la policía había realizado una investigación extensa. En realidad, los Ratels dicen que nunca fueron contactados , aunque los textos que hacían referencia al nombre de la línea de Kayla se presentaban como evidencia.
“Estábamos frustrados porque nadie quería hablar con nosotros”, escribieron los Ratels.
Sheri, la madre de Kayla, en su declaración jurada, afirma que llamó a la oficina del fiscal de distrito después de la conferencia de prensa y le dijo al personal que varias declaraciones expresaban por Weintraub eran falsos. A pesar de Kayla atestigua en su declaración jurada haber visto el video de vapeo que fue filmado de primera mano e informó a la oficina del DA de las aparentes declaraciones erróneas momentos después de su conferencia de prensa del 15 de marzo, Weintraub continuó usando el video como una pieza central de evidencia que demuestra la acusaciones deepfake durante alrededor de dos meses.
Ofensa, defensa: Spone presenta una demanda civil y apela su condena penal
Spone está demandando a Weintraub y a los agentes implicados en la investigación por difamación en un tribunal civil. Por otra parte, también está intentando apelar a su criminal condena por acoso. En este último caso, Birch reclama la decisión del fiscal de continuar con la narrativa deepfake en declaraciones públicas hasta el mismo día. del juicio influyó en la forma en que el jurado percibió los cargos menores. En respuestas recientes a las mociones de desestimación de Weintraub, Birch dijo que los jurados habían continuó escuchando las afirmaciones falsas de deepfake incluso después de que la fiscalía retirara el cargo de acoso cibernético. Spone finalmente fue declarado culpable de usar información números de teléfono para enviar mensajes de texto amenazantes a las porristas adolescentes y sentenciados a tres años de libertad condicional.
Los abogados de Weintraub han rechazado la demanda por difamación de Spone. Permitir que los acusados demanden a los fiscales por los comentarios hechos a la prensa “daría derecho a los acusados criminales a autoridad casi infinita para buscar demandas civiles cuando se desestiman los cargos o se absuelven de un delito”, dijeron en una moción reciente. para desestimar la demanda de Spone.
“Con respecto a la demanda por difamación presentada contra Matthew Weintraub”, la defensa legal del fiscal de distrito argumentó en una respuesta reciente a la oposición de Spone a su moción para desestimar, “La demandante ni siquiera refuta las afirmaciones de inverosimilitud , ni las afirmaciones de que la demandante falló rotunda en su demanda producir suficientes acusaciones fácticas para sostener esas afirmaciones”.
La profesora de la Universidad Loyola Marymount, Rebecca Delfino, es una experta en casos legales que involucran deepfakes y ha escrito múltiple artículos académicos destacando sus peligrosas implicaciones para el sistema judicial. Delfino, que ha seguido el caso de Spone, le dijo a Gizmodo que cree que Spone tiene un fuerte reclamo .
“Tuvieron un desprecio imprudente por la verdad”, dijo Delfino. “Creo que ella puede demostrarlo, incluso si la consideran un público”. figura para un propósito limitado, malicia real.
“A pesar de saber que había hecho declaraciones de prensa falsas y había fabricado pruebas, como se desprende de la declaración jurada”, dijo Birch en un En respuesta de abril a la moción de desestimación de Weintraub, “Weintraub todavía procedió en el juicio a utilizar las mismas pruebas inventadas y declaraciones falsas, y presentó una la testigo, Madeline Hime, otra ‘víctima’, para hacer y probar las alegaciones de vídeos modificados para asegurar una condena por acoso simple. ”
¿Qué pasa cuando los deepfakes son reales?
La historia de Spone presenta uno de los ejemplos más claros hasta ahora de la amenaza que plantean los deepfakes, sobre la cual los académicos han advertido durante años. Como IA generativa La tecnología se vuelve más convincente, los abogados que representan a la defensa y la fiscalía tendrán fuertes incentivos para afirmar que la evidencia legítima ha sido alterada digitalmente. El propio Weintraub predijo que el concepto de verdad verificable sería atacado, y así ha sido.
Estos escenarios, que algunos académicos han denominado “el dividendo del mentiroso”, crean situaciones insidiosas en entornos judiciales donde los abogados pueden infundir dudas en un jurado para influir en la consideración de la evidencia. A los abogados a menudo se les permite salirse con la suya y desplegar a sabiendas este engaño, dijo Delfino, porque los tribunales otorgarles una amplia pista para defender ferozmente a sus clientes. Los abogados tienen un incentivo para hacer que los miembros de un jurado desconfíen de lo que pueden ver con sus propios ojos. Ver, en el mundo de los deepfakes, puede que ya no signifique creer.
Esto ya está sucediendo. Los abogados que representan a un alborotador involucrado en los ataques del 6 de enero al Capitolio intentaron convencer a un jurado de que metraje de vídeo presentado en el juicio que mostraba claramente a su cliente saltando una barricada con un arma enfundada era, de hecho, un deepfake. El alborotador fue condenado y sentenciado a siete años de prisión. En otro caso reciente, un abogado que representa a un multimillonario Elon Musk Intentó utilizar la defensa deepfake para poner en duda una entrevista legítima y ampliamente cubierta de Musk en 2016 en la que reclama sus vehículos. puede conducir de forma autónoma “con mayor seguridad que una persona”. El juez en ese caso llamó las maniobras del abogado, que ella llamó una ofuscación “profundamente preocupante” que podría causar un daño duradero al sistema legal.
El profesor Delfino cree que las rápidas mejoras en la tecnología deepfake han chocado con un entorno político excepcionalmente receptivo al pensamiento conspirativo. Esa combinación de avance tecnológico y Las cambiantes fuerzas sociales, dice, hacen que el público y el sistema legal sean particularmente vulnerables a los deepfakes o a las falsas afirmaciones de deepfakes. Delfino teme Es posible que ya vivamos en un mundo donde un grupo aleatorio de 12 jurados puede no creer que una imagen o un vídeo sea auténtico incluso si un tribunal les indica explícitamente que así es.
La responsabilidad, dijo el profesor, recae en los abogados y las autoridades de abstenerse de desplegar argumentos falsos, incluso si creen que así será. avanzar en un caso. Un headfake por parte de un deepfake puede resultar en una victoria en el corto plazo, pero socavar la realidad corre el riesgo de dañar fundamentalmente La confianza del público en el sistema legal, dijo. Esa ruptura de la confianza en el Estado de derecho podría tener consecuencias devastadora a largoplazo . Las nuevas leyes o políticas tecnológicas solo pueden hacer mucho. Por ahora, Delfino dice que el público en general necesita tomar la iniciativa y dar un paso adelante para protegerse contra estos ataques a la verdad.
“Necesitamos que esta sociedad en su conjunto se desarrolle, madure y sea un poco más sofisticada en la forma en que somos pensar en las cosas que vemos y que estamos publicando en el mundo», dijo . “Ser mejores ciudadanos».
Spone y su equipo legal han pasado la mayor parte de este año discutiendo por su día en la corte. Weintraub, Reiss y Bell tienen todas las mociones presentadas para desestimar el caso de difamación.
El sensacional, a veces increíble sabio de la llamada mamá animadora deepfake sirve como una advertencia sobre las profundas consecuencias de una mala Acusación deepfake. Los rápidos avances en la calidad y credibilidad de las imágenes y videos producidos por modelos avanzados en grandes idiomas significan mentirosos y difamadores. tienen más municiones que nunca para sembrar dudas sobre la realidad y distorsionar la verdad en beneficio propio.
falso empresas de deteccióny Legisladores conscientes de la IA están compitiendo para crear estándares de transparencia para el contenido generado por IA, pero por ahora, el campo se asemeja a un salvaje oeste. Para Spone, ese enturbiamiento La realidad se ha manifestado. Independientemente de los hechos, probablemente nunca se despojará del título de “mamá alegre deepfake”.
