¿Jueces deben tener límites al motivar sus fallos con IA generativa?
11 de Abril de 2024
Nuevamente es tendencia el uso que funcionarios judiciales están dando a herramientas de inteligencia artificial (IA) generativa, como ChatGPT, para motivar sus fallos.
Recordemos que un juez en Cartagena utilizó esta herramienta para redactar una sentencia de tutela, aunque la Defensoría del Pueblo y dos magistrados de la Corte Constitucional solicitaron que se examine y se establezcan lineamientos claros para el uso de la IA en el ámbito judicial.
Pero en esta ocasión se hizo viral una sentencia del Tribunal Superior del Distrito Judicial de Pereira que revocó una absolución a un ciudadano y lo condenó por el delito de homicidio culposo, lo cual la hace más relevante, pues se trata de la libertad de un ciudadano.
¿Qué fue lo que sucedió?
Los hechos del proceso penal se remontan al jueves 5 de octubre del 2013, en una zona por la que el ahora condenado conducía en exceso de velocidad, en el sentido Armenia — Pereira, donde arrolló a una mujer que cruzaba la carretera, que como consecuencia de la gravedad de las lesiones falleció. (Lea: ¿Es válido utilizar respuestas generadas por inteligencia artificial para motivar fallos judiciales?)
En primera instancia se emitió sentencia absolutoria, porque para el juez existían serias dudas sobre la responsabilidad penal del investigado y se acreditó la culpa de la víctima, dado que la mujer cruzó la vía sin tomar las precauciones del caso, como mirar en ambos sentidos. Para el juez, los reflejos de la mujer se encontraban afectados cuando cruzó la vía, ya que presentaba cierto grado de alicoramiento, como se detectó en el análisis en el que presentaba 20 miligramos por 100 milímetros de sangre.
El juez expuso que el simple hecho de que el motociclista haya excedido los límites de velocidad permitida no resultaba suficiente para colegir que como consecuencia de ese exceso se produjo el accidente. (Lea: Ética profesional e inteligencia artificial: ¿dos conceptos excluyentes?)
Sentencia motivada con IA
Contra la sentencia de primera instancia tanto la fiscalía como la apoderada de las víctimas interpusieron recurso de apelación, el cual le correspondió resolver al Tribunal de Pereira.
Dentro de la parte motiva de la sentencia (específicamente en sus páginas 22, 23 y 24), que puede descargar al final de esta nota, se pueden leer los insumos tomados de la herramienta tecnológica, a partir de esta pregunta que le hizo el tribunal a ChatGPT: "¿La presencia en sangre de 20 miligramos sobre 100 mililitros de etanol a cuántas copas de vino, de aguardiente, de ron o de cerveza equivalen?".
La Corporación pegó la respuesta dada por la herramienta, señaló que usó ChatGPT y fijó una URL de fuente, sin informar la versión del aplicativo que había usado, si era gratuita (3.5) o de pago (4.0).
Aunque de manera expresa el tribunal no indicó la finalidad de utilizar la IA en su fallo, se puede observar que tomó como fundamento de su decisión la respuesta arrojada por la herramienta para revocar la decisión de absolución para así condenar al investigado. (Lea: ¿ChatGPT es confiable para los abogados?)
La sentencia ha generado toda clase de observaciones, para algunos abogados es un precedente favorable para la administración de justicia y el uso de la tecnología, pero otros critican la manera en la que fue utilizada, indicando que se está usando la IA de manera irresponsable, remplazando sin fundamento algunas pruebas periciales, y que el juez no puede decretar pruebas de oficio porque se vulnera el principio de contradicción.
¿Qué es el principio de contradicción?
Con base en el numeral 4 del artículo 250 de la Constitución Política, el cual establece las características del juicio en el sistema penal acusatorio, junto con la jurisprudencia de la Corte Constitucional, se puede indicar que en materia penal rigen los principios de inmediación y contradicción.
El principio de inmediación indica que el juez debe estar presente en la audiencia.
Por su parte, el principio de la contradicción rige el derecho procesal y expresa que toda persona tiene derecho a confrontar las pruebas que se presenten contra él en un juicio.
Este último es uno de los principios más importantes que comporta el derecho a la prueba, pues este materializa el derecho de defensa y permite que en materia penal se garanticen derechos tan importantes como el de la libertad.
Derecho de defensa
El derecho a la defensa es una de las principales garantías del debido proceso y se encuentra en el artículo 29 de la Constitución Política. (Lea: ChatGPT y rol judicial)
Este derecho fue definido por la Corte Constitucional en la Sentencia C-025/09 como la “oportunidad reconocida a toda persona, en el ámbito de cualquier proceso o actuación judicial o administrativa, de ser oída, de hacer valer las propias razones y argumentos, de controvertir, contradecir y objetar las pruebas en contra y de solicitar la práctica y evaluación de las que se estiman favorables, así como ejercitar los recursos que la otorga”.
De esta manera, es relevante el derecho a la defensa del investigado en materia penal para efectos de disponer de asistencia técnica y tener la oportunidad de ser oído y hacer valer sus argumentos y pruebas en el curso del proceso.
El derecho a la defensa inicia con el acto procesal de informar al acusado de la existencia de un proceso judicial, por medio de las diferentes comunicaciones y notificaciones de las etapas del proceso, para que este pueda ejercer su defensa.
Las garantías constitucionales del debido proceso, de defensa y el acceso a la administración de justicia son de extrema importancia en el curso de un proceso, pues buscan impedir la arbitrariedad de los agentes estatales y evitar la condena injusta, mediante la búsqueda de la verdad, con la activa participación o representación de quien puede ser afectado por las decisiones que se adopten sobre la base de lo actuado.
Algunas reacciones sobre la sentencia en las redes sociales
Ojalá esta sentencia sea anulada, tumbada, revocada y desterrada. Que los jueces no confundan inteligencia artificial, con pereza descomunal. Esta sentencia maltrata seriamente el sistema acusatorio y la carga de la prueba. Qué terrible. https://t.co/iI2Uhfo5S9
— Fabio Humar (@HumarFabio) April 10, 2024
🚨 Atención nueva decisión judicial que en Colombia usa ChatGPT en su parte considerativa.
— Omar Cárdenas C. (@OmarCardenasC) April 10, 2024
Los invito a revisar este hilo donde hago algunas consideraciones sobre este nuevo caso de uso de IA generativa en una decisión judicial.
🧵👇👇 https://t.co/2Npc1PojXJ
Preguntar a inteligencia artificial por el nivel de alcohol en sangre en una sentencia es aplicar conocimientos diferentes al obtenido en prueba practicada en proceso penal y con contradicción por ende es nula . Y además es prueba de oficio prohibida en el sistema penal . Un…
— Iván Cancino (@CancinoAbog) April 10, 2024
Yo soy Millennial, básicamente mi vida gira en torno a la tecnología. Sin embargo, la actuación de este tribunal me parece incorrecta por lo siguiente:
— Penal para Dummies (@ParaPenal) April 10, 2024
1. ChatGPT ha mostrado que falla en diversas ocasiones. Yo mismo he experimentado que menciona sentencias que no existen. https://t.co/SVNMTb3qug
Excelente decisión, bienvenida la tecnología en la justicia. https://t.co/28QsKbu3gD
— Francisco Bernate (@fbernate) April 10, 2024
Interesante. Para debatir. Por lo pronto tengo unas inquietudes académicas: se utilizó IA para que emitiera una opinión en un tema de expertos; creería que es medio probatorio, y si es así, ¿cómo se incorporó? ¿Y la contradicción? Resaltó la transparencia del Tribunal. https://t.co/RQ8mCTD3Fr
— Marco A Álvarez (@marcoalvarezg) April 10, 2024
El tribunal reemplazó una información que puede entregar un perito, por la información entregada por la IA? Y la contradicción de esa información por parte de las partes?
— Dairo Mateus - GMH Abogados (@GMHABOGADOS) April 10, 2024
Si ese argumento fue tomada en cuenta para la decisión y no se garantizó la contradicción, nulidad. https://t.co/z0dpogYagZ
Esperemos que la IA no cite jurisprudencia y dogmatica inexistente. https://t.co/Il2MoiKTU3 pic.twitter.com/2rr1rJyqWf
— Cristian Pereira ® ⚖️ (@PereiraYPereira) April 10, 2024
¿Qué dice el Consejo Superior de la Judicatura sobre el uso de la IA en la administración de justicia?
A principios de este mes, la presidenta de la Corporación, magistrada Diana Alexandra Remolina Botía, en entrevista para ÁMBITO JURÍDICO, comentó que una de las metas que pretende cumplir en su gestión es ‘‘contar con reglas en materia de protocolo de audiencias y pautas de implementación de inteligencia artificial".
Resaltó que el Consejo Superior, en conjunto con la Escuela de Gobierno de la Universidad de los Andes, lanzó el curso virtual "Inteligencia Artificial para la Administración de Justicia: Fundamentos, Aplicaciones y Buenas Prácticas".
Decisiones en otros países
Recientemente, un tribunal norteamericano suspendió a un abogado por presentar un escrito elaborado con IA con precedentes inexistentes, por lo que a nivel mundial ya están quedando precedentes sobre la debida diligencia que se debe tener al momento de utilizarse la IA en el plano jurídico.
Finalmente, se está a la espera de que la Corte Constitucional se pronuncie sobre la tutela a favor de un niño que buscaba atención en salud gratuita por parte de Salud Total EPS, decisión que fue tomada con la con ayuda de ChatGPT.
En su momento, el Juzgado Primero Laboral de Cartagena resolvió una acción de tutela, en segunda instancia, con base en algunos insumos generados por ChatGPT, pero sobre ese caso no hay un pronunciamiento oficial por parte del alto tribunal.
Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias y documentos sin límites
Siga nuestro canal Legis Ámbito Jurídico en WhatsApp.
Paute en www.ambitojuridico.com/paute-aqui.
Opina, Comenta