¿Puede la policía usar inteligencia artificial para hacer perfiles de predicción criminal?

El Reglamento de Inteligencia Artificial aprobado por el Parlamento Europeo ha regulado una cuestión que venía en discusión al menos desde el año 2021 dejando indicado en su art. 5RIAque está prohibido la creación y utilización de sistemas de Inteligencia Artificial para realizar predicciones de que una persona cometa un delito basándose únicamente en el perfil de esa persona.

La discusión sobre el uso de Inteligencia Artificial para la elaboración de perfiles de criminalidad

El 16 de junio de 2023 el Parlamento Europeo votó a favor de aprobar el texto de la Ley de IA de la UE, una propuesta legislativa emblemática para regular la IA en función de su potencial para causar daños.

El texto final incluye una prohibición de los sistemas de predicción policial y criminal utilizados por las autoridades policiales y judiciales de la Unión Europea.

Los eurodiputados votaron a favor de la prohibición del uso de sistemas de IA para “hacer evaluaciones de riesgo de personas físicas o grupos” con el fin de “evaluar el riesgo de una persona física de delinquir o reincidir”, así como “para predecir la ocurrencia o reincidencia de un delito penal real o potencial”.

Esta prohibición es la primera de este tipo en Europa, y la primera prohibición importante frente a estos sistemas en todo el mundo. Algunas ciudades y municipios de Estados Unidos también han aplicado prohibiciones.

Argumentos del Parlamento Europeo

El debate radica en si el uso de estos sistemas por parte de las fuerzas del orden y las autoridades de justicia penal reproduce y refuerza la discriminación de personas y da lugar a que se detenga, registre, arreste y encarcele de forma desproporcionada a determinados colectivos de personas.

Determinadas plataformas consiguieron demostrar que sistemas de predicción y elaboración de perfiles utilizados por la policía y por la justicia penal pueden dar lugar y han dado lugar a este tipo de discriminación, así como la forma en que los intentos de “predecir” el comportamiento delictivo socavan los derechos fundamentales, incluido el derecho a un juicio justo y la presunción de inocencia.

Los eurodiputados argumentan que el uso de estos sistemas criminaliza repetidamente a las personas, incluso a comunidades enteras, etiquetándolas como delincuentes en función de sus antecedentes.

Consideran además que estos sistemas automatizan la injusticia, exacerban y refuerzan el racismo y la discriminación en la actuación policial y en el sistema de justicia penal, y alimentan la desigualdad sistémica en la sociedad.

Por estos motivos acordaron la prohibición del uso de la Inteligencia Artificial para la elaboración de perfiles predictivos de delincuencia.

Regulación en el Reglamento de Inteligencia Artificial

Estos acuerdos se han regulado en el artículo 5 del Reglamento de Inteligencia Artificial, que en su texto definitivo quedó redactado de la siguiente manera:

Quedan prohibidas las siguientes prácticas de IA:

c) La introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA con el fin de evaluar o clasificar a personas físicas o a grupos de personas durante un período determinado de tiempo atendiendo a su comportamiento social o a características personales o de su personalidad conocidas, inferidas o predichas, de forma que la puntuación ciudadana resultante provoque una o varias de las situaciones de trato perjudicial o desfavorable hacia la persona o el colectivo.

d) la introducción en el mercado, la puesta en servicio para este fin específico o el uso de un sistema de IA para realizar evaluaciones de riesgos de personas físicas con el fin de evaluar o predecir la probabilidad de que una persona física cometa una infracción penal basándose únicamente en la elaboración del perfil de una persona física o en la evaluación de los rasgos y características de su personalidad; esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la evaluación humana de la implicación de una persona en una actividad delictiva que ya se base en hechos objetivos y verificables directamente relacionados con una actividad delictiva;

Patrones biométricos y reconocimiento facial

El Reglamento de Inteligencia Artificial también prohíbe la elaboración de identificaciones biométricas a distancia elaboradas por ejemplo con programas de vigilancia con reconocimiento facial.

En este sentido el Reglamento establece la siguiente prohibición:

e) la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión;

Trascendencia de la regulación

Esta regulación tiene una enorme relevancia jurídica ya que podrá solicitarse la nulidad de cualquier perfil criminal creado por las unidades policiales investigadores que "etiqueten" a la persona investigada por su pertenencia a un colectivo o por razón de sus antecedentes.

Se abre una importante puerta a pedir la nulidad de los informes policiales que apuntan la investigación hacia una persona cuándo se la involucra atendiendo a su "perfil criminal" elaborado con base a sus antecedentes policiales o penales o a su pertenencia a un colectivo u organización sin más pruebas que sustenten su participación en los hechos investigados.

También se abre el debate sobre la seguridad de las personas versus los derechos fundamentales de los investigados pues habrá ciertos sectores de personas -con lógica razón- que consideren que el uso de la Inteligencia Artificial debe permitirse para la creación de esos patrones de predicción delincuencial pues con ello se mejoraría la seguridad de las personas al poder anticiparse a la comisión de determinados delitos.

¿Nos acercamos hacia un "Minority Report"? No lo sabemos, pero lo que es cierto es que la Inteligencia Artificial ha llegado para quedarse y falta mucho por legislar.

¿Qué opinas tú querido lector? .

¡Gracias y hasta el próximo #martesdepenal!

Sobre el autor

Mi nombre es David Macías y como abogado penalista especializado en asesorar a empresas y particulares, puedo ayudarte en la acusación o defensa en diferentes delitos.

Llámame desde el primer momento para que podamos definir juntos la mejor estrategia. #Abogado Penalista