Natalia Ospina Díaz
Especialista y magíster en Derecho Informático y Nuevas Tecnologías
Directora Jurídica de www.abogadotic.com 

Riesgos, contratos y deber de diligencia

La inteligencia artificial (IA) ha dejado de ser una promesa lejana de la tecnología para convertirse en una realidad cotidiana tanto para las empresas como para los ciudadanos. Hoy, la IA está presente en soluciones tan accesibles como una aplicación móvil, y tan estratégicas como herramientas que complementan o transforman procesos empresariales. Se tienen herramientas o sistemas de apoyo a la toma de decisiones que demuestran cómo funciones que antes eran exclusivamente humanas están siendo asumidas por tecnologías capaces de procesar grandes volúmenes de datos con escasa o nula intervención humana. Esta transformación, aunque eficiente, plantea serios desafíos jurídicos, éticos y contractuales que no pueden ser ignorados.

En Colombia, el debate sobre el uso y regulación de la IA en el entorno empresarial aún es incipiente. Aunque existe un marco normativo general que aborda aspectos como el comercio electrónico, las plataformas digitales, los mensajes de datos, la seguridad de la información y la protección de datos personales, ningún texto se refiere de forma específica al uso de IA en procesos de decisión empresarial. No obstante, ello no significa que el fenómeno carezca herramientas legales que permitan estudiar el tema, se tienen normas y principios en la legislación que permiten abordar, tratar y decidir temas de esta índole. En estos casos empresariales, se recurre, en la mayoría de los casos, a principios como la autonomía de la voluntad, lo cual convierte al contrato en un instrumento esencial para la gestión del riesgo en este tipo de relaciones.

El riesgo de delegar decisiones críticas a sistemas automatizados

Uno de los errores más frecuentes en la adopción empresarial de sistemas de IA es asumir que estos son intrínsecamente objetivos, neutrales y seguros desde el punto de vista jurídico. Esta confianza, basada en una percepción errónea de la tecnología como infalible, omite una verdad fundamental: los algoritmos no existen en el vacío. Están diseñados por seres humanos, entrenados con datos que reflejan realidades complejas y, por tanto, replican sesgos, limitaciones y errores. La evidencia internacional lo confirma: desde sesgos discriminatorios hasta decisiones automatizadas erróneas, los riesgos son reales.

En consecuencia, una empresa que delega decisiones estratégicas a sistemas que no entiende ni controla, sin una evaluación previa de los riesgos implicados, incurre en una omisión grave. Tal conducta puede comprometer la calidad del gobierno corporativo y dar lugar a responsabilidades jurídicas no contempladas en el modelo de negocio. De ahí que la elección del proveedor de IA no pueda reducirse a una revisión técnica: debe tratarse como una selección estratégica e informada, que considere también las implicaciones legales del uso de dichas herramientas.

El contrato como barrera de protección jurídica

El contrato celebrado con el proveedor de IA no puede asumirse como un simple contrato de licenciamiento o de prestación de servicios tecnológicos. Se trata, en realidad, de una relación de alto impacto en la estructura decisoria de la empresa, por lo que el contrato debe prever cláusulas que regulen:

Transparencia algorítmica y explicabilidad: el proveedor debe estar obligado a revelar cómo funciona el sistema, qué variables utiliza, cómo procesa los datos y cuáles son los límites de su funcionamiento.

Evaluación de impacto en privacidad: es indispensable realizar un análisis previo sobre cómo la herramienta afecta los datos personales y el cumplimiento de la normativa aplicable.

Mecanismos de suspensión del servicio: deben definirse escenarios de suspensión en caso de errores graves, desviaciones de funcionamiento o fenómenos como las llamadas “alucinaciones” de los modelos de IA generativa.

Régimen de responsabilidad: el contrato debe establecer claramente quién responde por las decisiones derivadas del uso del sistema, reconociendo que esta no es una relación típica de software, sino de corresponsabilidad en la toma de decisiones empresariales.

La debida diligencia como estándar empresarial

Más allá del contrato, la empresa debe asumir una postura activa de control. Esto implica diseñar políticas de adopción tecnológica que prioricen la transparencia, la ética y la continuidad operativa. Antes de implementar herramientas basadas en IA, se recomienda una evaluación rigurosa de riesgos técnicos y legales, con especial énfasis en la privacidad y la protección de datos personales. Una vez en funcionamiento, la trazabilidad de las decisiones automatizadas y la supervisión humana continua deben integrarse como prácticas obligatorias.

En conclusión, la inteligencia artificial es, sin duda, una aliada estratégica para el sector empresarial. Sin embargo, esa alianza solo es viable cuando se construye desde el conocimiento, la responsabilidad y la vigilancia permanente. Ceder decisiones críticas a algoritmos sin comprender su lógica ni prever sus consecuencias es, en la práctica, una forma de operar a ciegas. En un país como Colombia, donde el marco regulatorio específico sobre IA está aún en desarrollo, el contrato emerge como la principal herramienta de defensa jurídica y de gestión empresarial. En esta materia, la prevención no es una opción: es una obligación.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.