Encarcelado por el fallo de un algoritmo: demandan a un detective que hizo un arresto guiándose solo por la IA
Imagen ilustrativaSergey Tolmachev / Legion-Media
Un juez federal del estado de Kentucky autorizó el avance de una demanda contra el detective Ryan Kilmer, del Departamento de Policía de Florence, acusado de arrestar y encarcelar a un hombre inocente basándose exclusivamente en un fallo de reconocimiento facial generado por IA, recoge Reuters.
El dictamen del juez de distrito S. Chad Meredith rechazó la semana pasada la petición del agente para desestimar el caso y le negó la inmunidad calificada que suele proteger a los funcionarios policiales de demandas civiles.
En su fallo, el magistrado fue tajante al señalar que las protecciones constitucionales prohíben detener a cualquier ciudadano "basándose únicamente en una conclusión no corroborada por una IA de que el individuo en cuestión ha cometido un delito".
El caso se remonta al 2024, cuando el demandante, Alain Vizcay Osorio, fue detenido por un presunto fraude con cheques. Los fiscales tuvieron que retirar todos los cargos en su contra el año pasado después de que Osorio demostrara de forma irrefutable que ni siquiera se encontraba en el banco en el momento en que se presentó el documento fraudulento.
La demanda —que incluye acusaciones por arresto ilegal y persecución maliciosa— sostiene que el detective omitió investigar y verificar adecuadamente la identidad del sospechoso, contraviniendo incluso las propias normas del Departamento de Policía de Florence, las cuales establecen que el reconocimiento facial solo debe usarse como una pista preliminar y nunca como prueba única para identificar a alguien.
Según concluyó el juez Meredith, existen sólidas razones para creer que jamás se habría emitido una orden de arresto si el detective hubiera presentado "un panorama completo" de cómo llegó a incriminar a Osorio.