Texto: Jaime Fernández - 16 sep 2021 09:54 CET

Ángel González Prieto, profesor ayudante doctor del Departamento de Álgebra, Geometría y Topología de la Facultad de Ciencias Matemáticas, explica que “desde sus comienzos la idea del proyecto Viogén es predecir el riesgo de reincidencia que ocurre en violencia machista, de tal manera que cuando una mujer va a denunciar a la comisaría una agresión por parte de un hombre se toma un reporte con una serie de características del caso: de la mujer, del agresor, socioeconómicas… Y con todos esos datos el sistema actual ya da una predicción de lo probable que es que esta misma mujer vuelva a sufrir una agresión del mismo agresor”.

Reconoce González Prieto que funciona bastante bien, porque desde que se aplica ha habido un descenso de un 5 o 6% en las reagresiones. El problema, de acuerdo con el profesor de Matemáticas, es que “se utiliza una técnica clásica, que consiste en coger datos psicométricos y analizar las respuestas que se dan a la evaluación inicial. Es decir, que se suman ciertos indicadores para decidir cuál es el riesgo”.

Con la idea de actualizar la técnica y dar un salto al siglo XXI, usando inteligencia artificial y deep learning, José Luis González, teniente coronel de la Guardia Civil, contactó con el profesor de la Universidad Politécnica de Madrid, Juan Carlos Nuño, quien a su vez llamó a Antonio Brú, decano de la Facultad de Matemáticas y experto en Matemática Aplicada, y a González Prieto, quien tras realizar la carrera en la UAM y el doctorado en la UCM estuvo tres años en la UPM, cubriendo una plaza de profesor ayudante y sumergiéndose en el mundo de la inteligencia artificial.

Explica González Prieto que Bru es además experto en predicción de diversos fenómenos, como el cáncer y su dinámica, mientras que Nuño ha hecho predicciones de la evolución de diferentes crímenes, y esa experiencia acumulada es la que hizo que contactara con todos ellos la Guardia Civil.

Adiós a las técnicas psicométricas

El trabajo de los investigadores complutenses ha consistido, usando los mismos datos que ya se usan en Viogén, en relegar las técnicas psicométricas y aplicar inteligencia artificial, machine learning, y “con eso se ha conseguido un sistema de predicción mejor y más robusto, que llega hasta un 10 o un 15% de acierto en las predicciones”.

Explica González Prieto que lo más interesante de este modelo es que no es estático, como si lo es el modelo actual, sino que aprende en tiempo real. “Extrae patrones de cada uno de los casos, características esenciales, y en base a ellas ve cuáles son los otros casos que ya han existido previamente, y compara con lo que ocurrió en otras circunstancias. Con esos datos prevé si existe un riesgo alto de agresión y propone medidas”, aclara.

Esa predicción ocurre mirando toda la historia pasada, así que de forma intrínseca es dinámica, de tal manera que “cuanta más información le metas al sistema, cuanto más tiempo pase, mejor va a ajustar su modelo. El día de hoy puede tener un porcentaje del 15% de acierto, pero dentro de 15 o 20 años se irá reajustando a sí mismo para ser mucho mejor, algo que con un sistema rígido no ocurre”.

Otra ventaja que tiene es que una vez que está implementado “no hay que tocar nada, se reajusta sólo y lo único que requiere es alimentarle con los datos para que se vaya refinando poco a poco”.

Implementación

De momento el trabajo es un artículo que se ha enviado a revisión por pares a una revista de bastante alto impacto, así que “queda pendiente que se evalúe, lo critiquen, lo refinen, lo que siempre es muy positivo, porque mejora el resultado”. El modelo, eso sí, está ya completo y se sabe qué resultados da, así que una vez que esté validado externamente faltaría que los cuerpos de seguridad decidan implementarlo en su propio sistema.

Esto supone un desafío logístico, porque ahora mismo el sistema Viogén ya funciona concurrentemente en todas las comisarías de España, así que habría que meter este modelo nuevo en todas ellas para que siguiera funcionando. Además “hay una cuestión social, una pregunta más de carácter político, que es que ahora mismo ya hay un sistema que funciona, mejor o peor, pero lo hace, y pasar a otro totalmente basado en inteligencia artificial puede crear incertidumbre, porque hasta que no se implemente no se va a ver el resultado real”.

Lo que proponen sus creadores es una manera de transicionar de forma suave desde el modelo actual hasta su modelo de inteligencia artificial, para poder ir calibrando poco a poco qué influencia se le da al nuevo modelo respecto al que ya existe.

De acuerdo con González Prieto, el nuevo sistema iría montado encima del que ya existe, “añadido como un plugin para darle una funcionalidad extra”. Esta pieza de software tendría que ser implementada, pero la guardia civil y la policía tienen expertos en informática que lo podrían hacer sin problema, porque además “todas las herramientas necesarias para hacerlo están descritas en el artículo con todo detalle”. No supone, por tanto, un coste extra y los cuerpos de seguridad del Estado tienen capacidad para añadirlo a su sistema.

Informa el matemático de que “ahora mismo el Ministerio se encuentra en un proceso de transición del sistema actual a un nuevo software que llaman Viogén 2, y quizás en medio de este proceso de migración no sea el momento más adecuado para incidir en el cambio y hay que esperar a que ocurra la transición completa para meterlo”.

Mediación humana

El sistema actual de Viogén ofrece una recomendación, no una orden. El policía a cargo observa la recomendación y si considera que no es apropiada la puede modificar voluntariamente, y lo mismo ocurriría con un sistema de machine learning. De todos modos, según González Prieto, “la experiencia es que incluso cuando media el humano, la predicción del sistema suele ser mejor que la del propio humano. Siempre está bien tener supervisión, pero un ordenador es capaz de mirar miles, cientos de miles de casos, y un humano no puede hacerlo, así que la limitación está clara”.

A pesar de esa afirmación, tiene claro el investigador que siempre tiene que haber una supervisión humana porque surge el dilema ético de qué pasa si la decisión la está tomando un ordenador y no una persona. Como los matemáticos son conscientes de que esta limitación existe, lo que se propone es un sistema híbrido en el que se vaya haciendo una transición del antiguo sistema al nuevo. La idea es que, por ejemplo, se sustituya en un primer momento sólo un 5% del sistema por la opinión de la inteligencia artificial, se monitorizan los casos y si hay un repunte de los casos de reagresiones se ve que eso no funciona y se vuelve para atrás. En caso contrario, si se observa que bajan los casos, se le da un mayor peso, y “eso va a permitir que no haya que confiar ciegamente en la inteligencia artificial de primeras, sino que se le puede ir dando confianza según los resultados que ofrece. Siempre con la vista puesta en una migración total si los resultados son buenos”.

Sobre lo que no tiene ninguna duda González Prieto es que el machine learning, que ya “está muy presente en nuestra sociedad, en el futuro cada vez lo estará más y nos solucionará más la vida a los seres humanos”.