En un fallo que marca un precedente para la justicia en tanto a los videos mejorados con IA presentados como pruebas para defender o condenar, un juez de Washington ha tomado una decisión frente al uso de esta tecnología para agrandar resolución y aclarar imágenes evidencia. ¿La IA llegará a absolver acusados en juicios?
En un causa que intenta resolver un crimen que dejó tres muertos en 2021, ocurrido Estado de Washington, un video mejorado con IA ha sido presentado como prueba de legitima defensa del acusado. Sin embargo, el juez ha determinado no admitir la prueba y bloquear el uso de vídeos mejorados con IA como evidencias. El fallo es único y podría significar un importante precedente judicial.
Los abogados de un hombre acusado de asesinato en un triple homicidio habían intentado introducir vídeos de teléfonos móviles mejorados con software de aprendizaje automático.
Te puede interesar: ¡Aterradora! Así es la nueva IA de OpenAI, clona tu voz escuchándote 15 segundos
El mortal enfrentamiento quedó captado en el vídeo del teléfono móvil. Para mejorar el video, los abogados de Joshua Puloka, de 46 años, recurrieron a un productor y editor de videos creativos, según la presentación de los fiscales.
¿Cuál fue la respuesta del juez?
La respuesta fue contundente. En el Centro de Justicia Regional Norm Maleng, que alberga el Tribunal Superior del Condado de King, en Kent, Washington; el juez que supervisa el caso de triple asesinato, prohibió el uso de videos mejorados con inteligencia artificial como prueba; un fallo inédito en tribunales de Estados Unidos.
El togado Leroy McCullogh, consultadopor NBC News, describió la tecnología como novedosa pero que se basa en «métodos opacos para representar lo que el modelo de IA 'piensa' que debería mostrarse».
«Este Tribunal considera que la admisión de esta evidencia mejorada por Al conduciría a una confusión de las cuestiones y a una confusión del testimonio de los testigos oculares, y podría llevar a un juicio que llevaría mucho tiempo dentro de un juicio sobre el proceso no revisable por pares utilizado por el modelo de IA», explica el funcionario en el expediente.
Te puede interesar: Crea videos de personas hablando solo utilizando fotos: Así funciona VLOGGER, IA de Google
La persona es acusada de abrir fuego afuera de un bar del área de Seattle en 2021, matando a tres personas e hiriendo a dos. Algunos videos de teléfonos celulares documental el hecho.
Según un documento presentado en febrero ante el Tribunal, el experto Jonathan Hak, dijo que este era el primer caso del que tenía conocimiento en el que un tribunal penal había intervenido en el asunto. El acusado por su parte, alega defensa propia en los asesinatos del 26 de septiembre, ya que había estado tratando de calmar una situación violenta cuando fue agredido.
Puloka respondió con fuego, hiriendo fatalmente a transeúntes inocentes. El hombre acusado de agredir a Puloka también recibió un disparo mortal, según muestra una declaración. El software de IA utilizado, fue desarrollado por Topaz Labs, con sede en Texas.
La oficina del fiscal dijo que el video mejorado predijo imágenes en lugar de reflejar el tamaño, la forma, los bordes y el color capturados en el video original. Las imágenes mejoradas eran «inexactas, engañosas y poco fiables».
Sí habían cambios en el video ¿Cuáles?
En una declaración para la fiscalía incluida en la presentación, un analista de vídeo forense que revisó las grabaciones originales y mejoradas dijo que la versión mejorada contenía datos visuales que no estaban en el original. Según el experto Grant Fredericks, también se eliminaron datos de la versión mejorada.
Cada píxel "en el video generado por IA es nuevo, lo que da como resultado un video que puede parecer más agradable a la vista de un observador no especializado, pero que contiene la ilusión de claridad y una mayor resolución de imagen que no representa con precisión los eventos del original. escena".
En una presentación separada, los abogados de Puloka respondieron que tales afirmaciones eran «exageradas y exageradas». Una comparación de los dos videos muestra que la versión mejorada es una "representación fiel del original, y eso es lo que importa.»
En su declaración, Fredericks, quien enseñó para el FBI y trabajó como analista de video durante 30 años, dijo que desconocía publicaciones revisadas por pares que establezcan una metodología aceptada para mejorar los videos de IA. El FBI no incluye nada sobre el tema en sus mejores prácticas para el manejo de videos forenses.
Te puede interesar: ¿Cómo te sientes? Hume IA te lo dice y descubre emociones ocultas: Así la puedes probar
George Reis, ex investigador de la escena del crimen y analista de videos forenses desde hace mucho tiempo en el sur de California, dijo que estaba al tanto de un puñado de ejemplos de inteligencia artificial utilizada como posible herramienta de investigación para aclarar imágenes de matrículas.
Una de las empresas que ha desarrollado dicho software, Amped, dijo en una publicación en febrero que la inteligencia artificial no es lo suficientemente confiable como para usarla para mejorar imágenes en un entorno legal. La compañía señaló los resultados opacos de la tecnología y los resultados potencialmente sesgados.
«Es una ciencia nueva», dijo Reis. "Deberían realizarse investigaciones al respecto antes de que alguien lo utilice en un caso real. Debería ser revisado por pares. No estoy seguro de qué nivel será apropiado en algún momento en el futuro para el uso de la IA para aclarar una fotografía o un vídeo, pero en este punto en particular es prematuro".
Imagen: Archivo ENTER.CO