El gobierno español anunció esta semana una importante revisión de un programa en el que la policía se basa en un algoritmo para identificar posibles víctimas reincidentes de violencia doméstica, después de que los funcionarios enfrentaran dudas sobre la efectividad del sistema.
El programa, VioGén, exige que los agentes de policía le hagan una serie de preguntas a la víctima. Las respuestas se ingresan en un programa de software que produce una puntuación (desde ningún riesgo hasta riesgo extremo) destinada a señalar a las mujeres que son más vulnerables a sufrir abusos repetidos. La puntuación ayuda a determinar qué protección policial y otros servicios puede recibir una mujer.
Una investigación del New York Times del año pasado encontró que la policía dependía en gran medida de la tecnología y casi siempre aceptaba las decisiones tomadas por el software VioGén. Algunas mujeres a quienes el algoritmo calificó como sin riesgo o con bajo riesgo de sufrir más daño luego sufrieron más abusos, incluidas docenas que fueron asesinadas, encontró The Times.
Los funcionarios españoles dijeron que los cambios anunciados esta semana eran parte de una actualización planificada desde hace mucho tiempo del sistema, que se introdujo en 2007. Dijeron que el software había ayudado a los departamentos de policía con recursos limitados a proteger a las mujeres vulnerables y reducir el número de ataques repetidos.
En el sistema actualizado, VioGén 2, el software ya no podrá etiquetar a las mujeres como si no corren ningún riesgo. La policía también debe ingresar más información sobre una víctima, lo que, según los funcionarios, conduciría a predicciones más precisas.
Otros cambios tienen como objetivo mejorar la colaboración entre las agencias gubernamentales involucradas en casos de violencia contra las mujeres, incluido facilitar el intercambio de información. En algunos casos, las víctimas recibirán planes de protección personalizados.
“El machismo está llamando a nuestras puertas y lo hace con una violencia que no hemos visto en mucho tiempo”, dijo Ana Redondo, ministra de Igualdad, en una conferencia de prensa el miércoles. “No es el momento de dar un paso atrás. Es hora de dar un paso adelante”.
El uso por parte de España de un algoritmo para guiar el tratamiento de la violencia de género es un ejemplo de gran alcance de cómo los gobiernos están recurriendo a algoritmos para tomar decisiones sociales importantes, una tendencia que se espera que crezca con el uso de la inteligencia artificial. El sistema ha sido estudiado como un modelo potencial para gobiernos de otros lugares que intentan combatir la violencia contra las mujeres.
VioGén se creó con la creencia de que un algoritmo basado en un modelo matemático puede servir como una herramienta imparcial para ayudar a la policía a encontrar y proteger a mujeres que de otro modo podrían pasar desapercibidas. Las preguntas de sí o no incluyen: ¿Se utilizó un arma? ¿Hubo problemas económicos? ¿El agresor ha mostrado conductas controladoras?
Las víctimas clasificadas como de mayor riesgo recibieron más protección, incluidas patrullas periódicas en sus hogares, acceso a un refugio y vigilancia policial de los movimientos de sus abusadores. Aquellos con puntuaciones más bajas recibieron menos ayuda.
En noviembre, España tenía más de 100.000 casos activos de mujeres que habían sido evaluadas por VioGén, y alrededor del 85 por ciento de las víctimas clasificadas como con poco riesgo de ser lastimadas nuevamente por su abusador. Los agentes de policía en España están capacitados para anular las recomendaciones de VioGén si la evidencia lo justifica, pero The Times descubrió que las puntuaciones de riesgo fueron aceptadas alrededor del 95 por ciento de las veces.
Victoria Rosell, jueza en España y ex delegada del gobierno centrada en cuestiones de violencia de género, dijo que era necesario un período de “autocrítica” para que el gobierno mejorara VioGén. Dijo que el sistema podría ser más preciso si extrajera información de bases de datos gubernamentales adicionales, incluidos los sistemas de atención médica y educación.
Natalia Morlas, presidenta de Somos Más, un grupo de derechos de las víctimas, dijo que acogía con agrado los cambios, que esperaba condujeran a mejores evaluaciones de riesgos por parte de la policía.
“Calibrar bien el riesgo de la víctima es tan importante que puede salvar vidas”, afirmó la señora Morlas. Añadió que era fundamental mantener una estrecha supervisión humana del sistema porque una víctima “tiene que ser tratada por personas, no por máquinas”.
