Jhon De La Cruz
Abogado, especialista en Derecho Administrativo y magíster en Gestión Pública

En Colombia, el avance de la inteligencia artificial (IA) ha dejado de ser una mera especulación o una curiosidad, para llegar a convertirse en un asunto jurídico que requiere de atención urgente. La IA puede tener usos inimaginables, desde la selección como beneficiarios en programas sociales, sistemas de compras públicas con evaluaciones automatizadas, hasta la asignación de turnos prioritarios en servicios de salud o justicia. La promesa del uso de la IA es clara: mayor eficiencia, reducción del error humano, agilidad operativa. No obstante, surge la pregunta: ¿qué ocurre cuando la decisión es errada, incomprensible o injusta?

Hace unos años podíamos afirmar que la IA en el Estado colombiano operaba en un vacío normativo. Hoy eso ya no es cierto, existe una Política Nacional de Inteligencia Artificial (Conpes 4144 de 2025)[1], que proyecta inversiones y define principios. La Superintendencia de Industria y Comercio emitió lineamientos sobre tratamiento de datos personales en sistemas algorítmicos[2]. Adicionalmente, contamos con normas de rango legal que inciden en este campo: la Ley 1581 de 2012, sobre datos personales; la Ley 1712 de 2014, sobre transparencia, y el Código de Procedimiento Administrativo y de lo Contencioso Administrativo (Ley 1437 de 2011) con sus exigencias de motivación y publicidad de las decisiones públicas.

En ese panorama, el problema no es la ausencia total de regulación; el asunto es que aún con estas herramientas, el ciudadano del común se encuentra desnudo ante usos abusivos de la IA en el Estado colombiano.

La IA como cajas negras

Las herramientas basadas en IA operan como cajas negras: Es decir, procesan información, emiten decisiones y recomendaciones, pero rara vez permiten comprender cómo llegaron a esa conclusión. Este fenómeno se contrapone con algunos de los principios fundamentales que guían la Constitución y la ley: la motivación y la transparencia de las actuaciones públicas.

Así, si un ciudadano no puede entender por qué fue excluido de un subsidio, por qué no le fue asignado el turno prioritario, o por qué su puntaje no le permitió acceder a un crédito del Estado y, adicionalmente, esta decisión fue tomada por un sistema imposible de examinar y auditar, estamos frente a la presencia de un abuso de las actuaciones estatales, guiadas a través de la IA.

Inclusive, si la decisión fue firmada por un funcionario para garantizar la “legalidad” de la actuación administrativa, el poder realmente ha sido delegado a una estructura tecnológica, que toma decisiones con modelos matemáticos sin tener en cuenta el componente humano en cada una de ellas.

En pocas palabras, el poder estaría cambiando vertiginosamente de manos, de funcionarios a modelos de lenguaje, sin que el Estado se haya dado cuenta de ello.

Como advirtió Yuval Noah Harari, en el libro 21 lecciones para el siglo XXI, “Quien posee los datos posee el futuro” (2018). Ante eso, si el poder público no interviene con reglas taxativas, el ciudadano podría enfrentar las consecuencias del desborde del uso de la IA.

Una nueva responsabilidad algorítmica en lo público

Frente a este escenario, es necesario adaptar el Derecho hacia una nueva responsabilidad en el uso de la IA, y empezar a trazar unos derroteros mínimos en su utilización, pues la IA, indiscutiblemente se convertirá en un nuevo actor de poder.

Colombia ya tiene una política nacional, principios de ética digital, y normas generales de datos, lo que hace falta no son más criterios generales sino garantías reales que protejan al ciudadano cuando las decisiones son tomadas por la IA.

La primera es el derecho a la explicación algorítmica. Toda providencia u acto administrativo, basado en IA, debe contener una motivación comprensible para el afectado, en la que se señale que criterios se tuvieron en cuenta para llegar a la decisión.

La segunda, es la supervisión humana. Los sistemas de IA no pueden tomar decisiones por sí mismas, se requiere validación y supervisión humana obligatoria, especialmente en casos de discusión de derechos fundamentales. No es suficiente con la firma del funcionario al final, debe existir control y supervisión real.

La tercera es la transparencia de sistemas algorítmicos. Todo sistema de IA usado por el Estado debe estar debidamente registrado, y ser susceptible de control público.

La cuarta es evaluación de impacto de IA.  Se deben evaluar los sesgos, especulaciones e inexactitudes en la entrega de datos del sistema algorítmico a poner en marcha, previo a su utilización.

Estas ideas no son el marco de un futuro distópico. La Unión Europea aprobó el Reglamento 2024/1689 de Inteligencia Artificial (AI Act), el 13 de junio de 2024, en el que se prohíben ciertos usos de IA en las actuaciones públicas, y exige ciertos parámetros para su utilización[3]. En América Latina, países como Brasil[4] y Chile[5] están discutiendo marcos similares. Colombia, en cambio, aún carece de un régimen integral y, sobre todo, de garantías en cada decisión automatizada.

Cuando el poder decide sin explicar

El poder público no puede ser delegado a sistemas que toman decisiones como cajas negras; que nadie entiende y no se controlan. De ser así, el ciudadano dejaría de ser sujeto de derechos, a convertirse en un objeto de clasificación en búsquedas avanzadas.

Regular la IA no se trata solo de una tarea técnica, sino eminentemente política y jurídica, pues en esta diligencia van a estar inmersos los derechos y las garantías mínimas de todos los ciudadanos. Si no lo hacemos, corremos el riesgo a trasladar el poder de manos, donde la IA será un leviatán digital convertido en el nuevo rostro del poder, y el Estado un mero espectador de sus decisiones.  

Siga nuestro canal de WhatsApp

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.