Natalia Ospina Díaz
Directora Jurídica y socia fundadora de www.abogadotic.com

En tan solo tres documentos, dos sentencias y un Acuerdo, la Rama Judicial colombiana ha logrado crear un marco jurídico con principios aplicables que permiten el manejo de la inteligencia artificial (IA) por los operadores jurídicos y abogados relacionados con actividades de la Rama Judicial, bajo el principio de la “no sustitución de la racionalidad humana”, esto es el reconocimiento de la IA como herramienta asistencial no destinada a sustituir por completo el juicio humano.

En el trascurso de estos dos últimos años (2024-2025) se han expedido la Sentencia T-323 de 2024 de la Corte Constitucional, la Sentencia STCI17832-2025 de la Corte Suprema de Justicia y el Acuerdo PCSJA24-12243/2024 del Consejo Superior de la Judicatura.

En las decisiones judiciales y el acuerdo citado encontramos criterios orientadores sobre el uso de la IA en la conformación de decisiones judiciales, tales como la “transparencia”, la “verificación”, la “responsabilidad”, la “prevención de riesgos”, entre otros, que permiten hacer efectivo el derecho fundamental al debido proceso cuando se utilizan en la práctica judicial herramientas de inteligencia artificial generativa (IAG).

Lo anterior ha representado una visión clara de la aceptación que la Judicatura tiene sobre nuevas herramientas tecnológicas y ha operado como guía en las actuaciones judiciales hasta este momento, al punto de que ya se ha establecido la posibilidad de anulación de decisiones judiciales por falsas motivaciones o motivaciones fundadas en las llamadas alucinaciones de la IA, que es el caso tratado en la Sentencia STCI17832-2025 de la Corte Suprema de Justicia.

En esta fase inicial de apropiación de herramientas de IA, consideramos que ahora es el turno de la administración pública. Los rigurosos principios de ética, transparencia y verificación de la información que ha establecido la Rama Judicial para el manejo de herramientas de IA en el ejercicio de las funciones judiciales, deben ser estudiados y, por supuesto, aplicados por las autoridades administrativas en las actuaciones administrativos y en la conformación de los actos administrativos en los que tienen el deber de respetar el derecho al debido proceso administrativo de los ciudadanos.

El estándar judicial establecido en estos dos últimos años guía válidamente las actuaciones administrativas, por tratarse del entendimiento sobre la operatividad y efectividad de un derecho fundamental (debido proceso) y podemos decir que la evaluación de los trámites y la toma de decisiones por parte de la administración pública implica necesariamente la intervención de la racionalidad humana en todos los casos, y que el administrador público no es reemplazable por la máquina.

De acuerdo con lo anterior, los funcionarios públicos no pueden dejar al algoritmo decisiones que transciendan en la vida de los ciudadanos y que puedan afectar sus derechos; la asistencia de la tecnología es fundamental y está aprobada, pero las decisiones que se toman no pueden estar 100 % automatizadas y no pueden carecer de “explicabilidad” (sustento claro) o estar motivadas en citas falsas (alucinaciones), so pena de ser violatorias del derecho fundamental al debido proceso administrativo.

En el ámbito administrativo, las preguntas sobre ¿qué algoritmo tomo la decisión?, ¿qué variables tomó en cuenta?, ¿qué datos sirvieron de entrenamiento al sistema? toman gran fuerza, dado que en la administración pública la decisión de un solo funcionario puede exacerbar condiciones de desigualdad en escala. Pensemos, por ejemplo, en políticas públicas para la entrega de subsidios, decisiones en seguridad social y atención de población vulnerable, multas, entre muchas otras. Todas estas son decisiones en las que el riesgo del “sesgo algorítmico” estará presente en cada paso del proceso de uso de la tecnología y una implementación o uso desmedido o descuidado de una IA puede tener un gran impacto.

Precisamente, para administrar estos riesgos es necesario apropiar en la administración pública el principio de responsabilidad mencionado por la Corte Constitucional en la Sentencia T-323, en el sentido de que todos los funcionarios deben estar capacitados y deben asumir en sus labores del día a día la carga de verificar y responder por el origen, idoneidad y veracidad de la información que usan para sustentar sus decisiones.

Ante el impacto presente que está teniendo la IA considero que el uso de nuevas tecnologías no debe dejarse a la simple iniciativa del funcionario público, sino que debe establecerse una política institucional que rija lo operativo (más allá de lo dicho por la Procuraduría General de la Nación sobre transparencia algorítmica) que establezca una visión clara y ética sobre los principios a aplicar en proyectos o funciones que tienen impacto porque respaldan procesos de toma de decisiones administrativas en los que se vaya a hacer uso de esta nueva herramienta y en la que se acojan las directrices judiciales antes mencionadas de forma oficial, operativa y práctica mientras el Estado decide dar aplicación a las directrices generales del Conpes expedido en esta materia. ¡La tecnología no espera!

Siga nuestro canal de WhatsApp

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.