IA Predice Asesinatos en Reino Unido: ¿Un Paso Hacia 'Minority Report'?
En una jugada sacada directamente de una novela de ciencia ficción distópica, el gobierno del Reino Unido está desarrollando un algoritmo para predecir quién es más probable que cometa un asesinato. Sí, has leído bien. El llamado "Proyecto de Predicción de Homicidios", ahora sutilmente renombrado como "Compartir Datos para Mejorar la Evaluación de Riesgos", tiene como objetivo señalar a los asesinos potenciales antes de que actúen. ¿Qué podría salir mal?
Gracias a las solicitudes de Libertad de Información, sabemos que el Ministerio de Justicia ha estado examinando datos de cientos de miles de personas. Estos datos no se limitan solo a aquellos con antecedentes penales; incluye a sospechosos, víctimas, testigos e incluso personas desaparecidas. También incluye detalles delicados sobre la salud mental, la adicción y las discapacidades. Los funcionarios afirman que solo utilizan datos de personas con al menos una condena penal, pero el alcance del proyecto plantea serias preocupaciones.
El Problema con la Vigilancia Policial Predictiva
No se necesita ser un genio para ver el potencial de abuso aquí. Las herramientas de vigilancia policial predictiva tienen un historial de atacar de manera desproporcionada a las comunidades marginadas. Tomemos, por ejemplo, el Sistema de Evaluación de Delincuentes del Reino Unido. Se utiliza para predecir las tasas de reincidencia, lo que influye en las decisiones de sentencia. Sin embargo, las revisiones han demostrado que a menudo es inexacto, especialmente para los delitos no violentos, y evalúa injustamente a los delincuentes negros en comparación con los delincuentes blancos. Estos sesgos no son exclusivos del Reino Unido. Los sesgos raciales en los datos, derivados de la vigilancia policial excesiva histórica de ciertas comunidades, conducen a resultados sesgados y perpetúan las desigualdades sistémicas. El sistema está amañado y estos algoritmos solo amplifican el problema.
Necesitamos recordar la advertencia de Minority Report. La película no pretendía ser una guía práctica. Era una advertencia sobre los peligros de la justicia preventiva y la erosión de las libertades civiles. Esperemos poder aprender de la ficción antes de que se convierta en nuestra realidad.
Fuente: Gizmodo