Inteligencia artificial en el sistema de justicia

Carolina Villadiego Burbano
Líder del equipo de América Latina
Comisión Internacional de Juristas

Algunas instituciones del sistema de justicia en Colombia están usando herramientas de inteligencia artificial para brindar servicios a usuarios o para la gestión de casos. Según la base de datos de sistemas de información automatizada en el sector público elaborada por Juan David Gutiérrez, Sarah Muñoz y Michelle Castellanos, hay alrededor de 20 sistemas de este tipo en entidades del sector justicia. La mayoría de ellos en instituciones del Poder Ejecutivo, como las superintendencias y la Agencia Nacional de Defensa Jurídica del Estado, pero también hay algunos en la Rama Judicial, incluyendo la Fiscalía. 

De esta forma y, ante el inminente progreso tecnológico, es necesario reflexionar sobre el desarrollo y uso de estos sistemas en el ámbito de la justicia. Vale la pena preguntarse, ¿qué tanto sabemos de la forma en la que estos sistemas fueron desarrollados y la manera en la que son utilizados? ¿Cuáles son las bases de datos utilizadas para desarrollarlos? ¿Quién los desarrolló y cuál fue el grado de participación de los funcionarios de la entidad en la que son usados? ¿Qué intereses del sector privado están involucrados en el desarrollo de estos sistemas? Y ¿cuáles son las normas, políticas y principios empleados por las entidades del sistema de justicia para desarrollarlos, implementarlos y utilizarlos?

Dado que falta regulación legal sobre el uso de inteligencia artificial en el sector público, incluido el sector justicia, su desarrollo y utilización debe partir de políticas claras que garanticen transparencia y publicidad acerca de los sistemas empleados, el rol que estos tienen en cada entidad, cómo se relacionan con el trabajo de la misma, y un férreo respeto por los derechos humanos en su desarrollo y utilización.

En este sentido, por ejemplo, el análisis debe partir de entender mejor qué hacen los sistemas creados y con qué información cuentan, de modo que puedan analizarse los posibles sesgos o afectaciones a los derechos de las personas, así como sus beneficios o potencialidades. Por ejemplo, no es lo mismo los sistemas que reconocen texto en expedientes y clasifican la información según criterios establecidos por los funcionarios (como PretorIA de la Corte Constitucional), que aquellos que predicen probabilidades de reincidencia de personas imputadas (como Prisma de la Fiscalía). En el primer caso, el sistema puede alivianar la carga laboral en la revisión de expedientes, mientras que, en el segundo, tiene la potencialidad de influir en el derecho a la libertad de una persona. Claro, en ambos casos es necesario revisar periódicamente su funcionamiento y verificar que no se genere discriminación o daño con el uso de la herramienta, pero en los casos de “predicción” de reincidencia, la experiencia internacional ya muestra que han generado daño, discriminación y sobreestimación de reincidencia, es decir son riesgosos y están siendo prohibidos.

Las instituciones del sistema de justicia tienen muchas responsabilidades en el desarrollo y uso de sistemas automatizados, pues tienen un rol central en la protección y garantía de los derechos humanos de las personas, por lo cual no pueden implementar o utilizar sistemas que generan discriminación o violaciones a los derechos fundamentales. Por ello, las instituciones deben adoptar políticas para el desarrollo y la utilización de estos sistemas que sean consistentes con la protección de los derechos humanos y que incluyan mecanismos de transparencia, publicidad, auditoría, revisión periódica, participación ciudadana, rendición de cuentas y posibilidad de no utilizar aquellos que generan daño. También, es importante avanzar hacia una regulación robusta.