AymurAI: Inteligencia Artificial responsable, para una justicia abierta y con perspectiva de género

AymurAI es un software de Inteligencia Artificial (IA) creado por DataGénero que identifica la información importante en sentencias judiciales y arma sets de datos abiertos de manera semiautomática, haciendo foco en los datos sobre las violencias de género.

¿Qué significa su nombre?

AymurAI en quechua significa cosecha. El objetivo de esta herramienta es “cosechar” datos de resoluciones judiciales en general y especialmente sobre casos de violencia de género.

¿Por qué es una herramienta que funciona de manera “semiautomática”?

Decimos “semiautomática” porque no es autónoma de la intervención y decisión humana. AymurAI permite detectar la información relevante y agilizar la recopilación de las sentencias de los juzgados pero la validación humana de lo detectado por el software es crucial para lograr resultados seguros y acertados.

Entonces, ¿cómo funciona AymurAI?

AymurAI es una aplicación de escritorio que lee la resolución, detecta la información relevante, se la muestra a la persona usuaria para que valide la información y luego la almacena en un dataset que puede ser publicado.

Así se ve:

Si nos ponemos más técnicas, la herramienta utiliza reglas y reconocimiento de entidades nombradas (NER en inglés) para extraer información clave de documentos judiciales. En los casos de violencia de género, las etiquetas pueden representar tipo de violencia, lugar, género, vínculo con el agresor, qué resolvió el juez o jueza en ese caso en particular, entre otros datos relevantes. Estas etiquetas pasan por una pantalla de validación que luego, una vez aprobada, estructura la información recolectada en un set de datos abiertos. Todo esto lo hace en cuatro simples pasos:

Pero… ¿para qué “cosechar” datos sobre violencia de género con Inteligencia Artificial?

El proyecto surgió de la carencia de datos unificados sobre violencia de género en Argentina (la única base de datos abiertos oficiales es la de la Oficina de Violencia Doméstica de la Corte Suprema de Justicia y los informes del Registro Único de Casos de Violencia de Género que tiene datos hasta el 2018) y, a su vez, del bajo nivel de confianza en el poder judicial de nuestro país (según la última encuesta del Latinobarómetro en 2020, el nivel de confianza sobre el poder judicial en América Latina es del 25% y en Argentina, del 16%). Este bajo nivel de confianza en los poderes judiciales tiene muchas causas sobre las cuales AymurAI no puede incidir, pero sí es una herramienta que de ser utilizada en todos los juzgados puede ayudarnos a monitorear y transparentar qué y cómo deciden los jueces y juezas sobre diversos temas.

Si hablamos en particular de los casos de violencia de género, sabemos que existen bajos niveles de denuncia, una alta desconfianza en el sistema de justicia y un menor acceso a esta. Sabemos que utilizando AymurAI no tenemos el panorama completo de cómo operan las violencias de género en su totalidad, pero por algún lado tenemos que empezar a recolectar datos y disponibilizarlos.

Por este motivo, AymurAI agiliza la recolección de datos que, como evidencia concreta, permiten identificar patrones y tendencias que respalden el diseño y desarrollo de nuevas políticas públicas orientadas a prevenir la violencia de género.

Ante las fake news, la desinformación y los avances de intereses que ponen en cuestión la existencia de las violencias de género, o de las desigualdades que vivimos las mujeres y personas LGBTIQNB+, tener datos nos ayuda a combatir estos discursos tan nocivos para los derechos humanos.

Por otro lado, los juzgados y tribunales pueden utilizar la herramienta para mejorar la transparencia en el sistema de justicia; alentando la innovación, la participación ciudadana, la rendición de cuentas y la apertura de datos con perspectiva de género.

De esta manera, la tecnología encuentra un rol de responsabilidad y de cooperación hacia una posible reforma feminista de los poderes judiciales en América Latina. Desde una postura interseccional feminista y anti-solucionista, este proyecto busca sentar un precedente para el diseño, el desarrollo y la implementación feministas de tecnologías de Inteligencia Artificial desde el Sur Global.

¿AymurAI está en uso actualmente?

¡Sí! Además de los motivos señalados anteriormente, la idea que inspiró la creación del software surgió a partir de la experiencia del Juzgado Penal, Contravencional y Faltas N°10 de la Ciudad de Buenos Aires, a cargo del juez Pablo Casas, que desde 2015 publica sus resoluciones organizadas por temáticas, entre las que se encuentran sentencias sobre violencia de género. Actualmente, el Juzgado 10 pasó del desarrollo de esta iniciativa de forma manual al uso de la inteligencia artificial de AymurAI.

¿Es posible acceder a AymurAI?

¡Sí! ¡Y alentamos que así sea! AymurAI ya está disponible para el sistema judicial de Argentina. Si tenés interés en reunirte con el equipo de AymurAI para que este programa sea instalado en tu juzgado, completá el siguiente formulario: https://forms.gle/9D4DWNtrq6ndonae6

Si tenés alguna duda o querés contactarte con el equipo podés escribirnos a aymurai@datagenero.org

Para acceder al repositorio y documentación del software (código abierto) ingresa a github.com/AymurAI

Para acceder a los modelos algorítmicos utilizados ingresa a https://huggingface.co/aymurai/flair-ner-spanish-judicial

Para más información ingresa a www.aymurai.info/

Esta aplicación fue desarrollada en el marco de la convocatoria de la Alianza para Algoritmos Inclusivos (Alliance for Inclusive Algorithms) de la red global A Plus y contó con la coordinación de Ivana Feldfeber, Yasmín Belén Quiroga y Marianela Ciolfi Felice.

• Ivana Feldfeber es la Directora Ejecutiva del Observatorio de Datos con Perspectiva de Género (DataGénero). Es investigadora en el Centro de Inteligencia Artificial y Políticas Digitales, donde realiza investigaciones sobre políticas públicas e inteligencia artificial. Tiene un postgrado en Ciencia de Datos, Aprendizaje Automático y sus Aplicaciones por la Universidad de Córdoba, Argentina.
• Yasmín Belén Quiroga es abogada especializada en género y datos abiertos. Se desempeña como secretaria en el Juzgado Penal 10 de la Ciudad de Buenos Aires, Argentina. Es cofundadora de DataGénero, y dicta el curso de capacitación en género “Ley Micaela” para el Poder Judicial de CABA.
• Marianela Ciolfi Felice es investigadora en Interacción Persona-Ordenador (HCI), doctora en Informática por la Université Paris Saclay. Trabaja como profesora adjunta de diseño de interacción en el KTH Royal Institute of Technology, Suecia. Su investigación incluye el uso de la IA en el marco de la informática crítica feminista. También forma parte de una red de investigadores en HCI de América Latina.