Wilson Rafael Ríos Ruiz
Abogado digital, profesor universitario en propiedad intelectual y TIC
Decano de la Facultad de Derecho de la Fundación Universitaria del Área Andina

El texto es presentado por el Gobierno Nacional (Ministerio de Ciencia, Tecnología e Innovación (Minciencias), y Ministerio de Tecnologías de la Información y Comunicaciones, Mintic) ante el Legislativo (Senado) y tiene la categoría de ley estatutaria, pues están en juego varios derechos fundamentales y humanos que merecen una especial atención. El proyecto lleva por título “por medio del cual se regula la inteligencia artificial en Colombia para garantizar su desarrollo ético y sostenible”. En síntesis, el proyecto tiene como objeto promover la generación de conocimiento, el desarrollo de la infraestructura tecnológica y la implementación de la inteligencia artificial (IA) en Colombia, con un enfoque territorial, ético, inclusivo, responsable, sostenible, que fortalezca las capacidades científicas, productivas, institucionales y de innovación, y contribuya a la prevalencia de los derechos fundamentales.

El proyecto está, en líneas generales, muy bien estructurado y logra consolidar los aspectos más relevantes a tener en cuenta en una regulación integral en la materia, y en la exposición de motivos se menciona de manera directa que busca posicionar a Colombia como un líder en la adopción responsable de la IA. 

Vale decir que nuestro país ha venido trabajando desde tiempo atrás en los aspectos éticos, y buscando que la IA sea un vehículo propicio del desarrollo tecnológico en nuestro territorio, estableciendo desde 2019 una política pública en la materia cristalizada en el documento Conpes de ese año, y, en el más reciente, Documento Conpes 4144 del 14 de febrero de 2025 (Política Nacional de Inteligencia Artificial). 

Este proyecto busca en alguna medida concretar, concertar y reunir los distintos proyectos presentados hasta la fecha, y tiene como objetivo llegar y regular el tema frente a todas las personas naturales y jurídicas de carácter público o privado que creen, desarrollen, implementen, comercialicen, importen, representen, distribuyan o usen sistemas de IA desarrollados, implementados y/o utilizados en territorio colombiano o que estando ubicados en el exterior estarán obligados por la ley colombiana, los cuales se denominarán para los efectos de la presente ley “responsable de IA“.

Regulación en Latinoamérica y a nivel mundial

La iniciativa toma como referencias y parámetros las directrices trazadas entre otras desde la Unesco, la OCDE, la Unión Europea, entre otros. Así mismo, tiene en cuenta los proyectos de ley y regulaciones ya en curso y existentes en otros países latinoamericanos y en las demás regiones del mundo.

En Latinoamérica, adicional a Colombia, algunos países como Argentina, Brasil, Chile, Costa Rica, Ecuador, México, Panamá, Perú, y Uruguay, adelantan proyectos de regulación sobre la materia. 

Por supuesto, EE UU, Canadá, la Unión Europea, China y el Reino Unidos hacen lo propio con gran dimensión en su marco regulatorio sobre la AI.

Autoridad nacional para la IA

El presente proyecto establece de manera directa y clara que el Minciencias tendrá las funciones de inspección, vigilancia y control (sanción y acompañamiento técnico) y, por ende, será la autoridad nacional competente en materia de IA, responsable de supervisar el cumplimiento de la presente ley y de establecer, en el marco de sus competencias, las disposiciones necesarias para su implementación. Para ello, podrá adoptar recomendaciones y mejores prácticas nacionales e internacionales relacionadas con el desarrollo, uso, implementación y evaluación de los sistemas de IA.

Así mismo, establece que el Minciencias desempeñará un rol técnico de asesoramiento, coordinación y apoyo, verificando, proponiendo, evaluando y promoviendo la adopción de estándares y mecanismos de autorregulación por parte de los responsables de IA, en articulación con el Mintic y demás entidades con competencias en la materia. Aquí será de suma importancia la articulación y trabajo conjunto que se adelante con todos los estamentos y entes que puedan coadyubar tal propósito, por ejemplo, la Delegatura de Protección de Datos Personales de la Superintendencia de Industria y Comercio (SIC), y la Agencia Nacional Digital entre muchas otras.

Adicional, se establece la creación del Consejo Asesor Nacional de Expertos en Inteligencia Artificial, el cual funcionará como una instancia permanente de alto nivel dentro del Sistema Nacional de Ciencia, Tecnología e Innovación (SNCTI), y será un órgano de carácter consultivo y multisectorial, encargado de brindar asesoría especializada en IA al Gobierno Nacional. Las funciones de este consejo se establecerán mediante decreto reglamentario de la presente Ley, y allí mismo se establecerán las funciones específicas a cargo de este, así como su designación y composición.

Grados y medición de los riesgos en el uso de la IA

Llama poderosamente la atención y resulta de suma importancia que el texto entra a establecer y a determinar responsabilidades desde el punto de vista administrativo, civil, penal y ético. El proyecto entra a determinar y graduar los grados de riesgo permitidos y no permitidos, dependiendo del nivel de impacto que pueda tener el uso de la IA en los derechos fundamentales, los derechos humanos, la discriminación y el denominado riesgo o sesgo algorítmico. Para ello, en alguna medida toma como referencia lo ya regulado y establecido en la legislación europea.

En este punto será menester y se deberá armonizarse esta graduación de riesgos con lo ya dispuesto en el Código Civil (CC) cuando establece los niveles de culpa y dolo, en especial cuando establece la clasificación en culpa grave, culpa leve y culpa levísima.   

Mutatis mutandis, es importante mencionar, explicar y entender los grados de riesgo establecidos en Europa, por ser los mismos casi en su integridad los que retoma el proyecto de ley. Como se recuerda, el denominado AI ACT de la Unión Europea, en aras de garantizar los derechos humanos y garantías civiles, evitar la discriminación y sesgos ha optado por  catalogar y medir los riesgos en el uso de la IA, de modo que no se frene el desarrollo tecnológico y se puedan usar estas herramientas de AI, pero buscando un equilibrio, ha clasificado los riesgos y ha establecido una serie de limitaciones y obligaciones que buscan morigerar y crear un justo medio en la materia. A saber, los riesgos que establece la regulación europea y que retoman el proyecto colombiano pueden resumirse en los siguientes:

1.    Riesgo inaceptable o prohibido, como la manipulación de las opiniones y decisiones de las personas; la explotación de los niños, personas con discapacidad mental y personas vulnerables y que resulte en algún daño físico o sicológico; la clasificación social con base en la conducta de las personas, y la identificación en tiempo real de datos biométricos, con algunas excepciones. El uso de estos sistemas está prohibido de plano.

2.    Riesgo alto, que incluye el uso de IA para la identificación biométrica, el manejo de infraestructura crítica, la educación, la contratación laboral, el acceso a servicios públicos y privados esenciales, la aplicación de la ley, los servicios migratorios, la administración de justicia y de la democracia. Al ser considerados de alto riesgo, estos deben cumplir, en resumen, dos grandes obligaciones: una evaluación de conformidad previo a entrar al mercado, lo que implicaría la adopción de estándares, la adopción de políticas de gobernanza de datos, ética y de privacidad, requisitos de ciberseguridad, etc. También, deberá haber un plan periódico de seguimiento poscomercialización para asegurar el cumplimiento.

3.    Riesgo bajo, como la IA que interactúa con humanos, detecta las emociones, determina categorías con base a información biométrica y genera contenido manipulador. Las empresas que usan, desarrollan y comercializan estas tecnologías deben cumplir algunas obligaciones de transparencia con el público, como poner marcas de agua a los videos Deep fake. 

4.    Riesgo mínimo, que son sistemas de IA que, no estando en las causales anteriores, no están restringidos ni derivan en obligaciones específicas. 

Algunas recomendaciones y sugerencias

El 5 de abril del año 2024, como decano de la Facultad de Derecho Bogotá, por invitación que nos cursó el senador David Luna, tuvimos la oportunidad de intervenir en la Comisión Primera del Senado y presentar nuestra postura sobre la pertinencia o no de regular el tema de IA. Como es conocimiento público, en esa oportunidad señalamos lo siguiente:   

“Wilson Ríos, decano de la facultad de derecho de la Universidad Areandina y abogado digital manifestó que: “Sí debe existir una regulación, pero debe ser general, marcó incluso la autorregulación que hemos visto en el sector privado y la academia. Por ejemplo, en la Universidad Área Andina hemos incluido un decálogo de uso responsable y ético sobre el uso de la IA. Y quiero enfatizar en lo ético, porque es crucial por todas las implicaciones que tiene esta tecnología, la regulación debe ser supra, porque la tecnología avanza y la regulación se quedaría obsoleta si es específica”. En síntesis, la regulación que se piense para un país en vía de desarrollo como Colombia debe ser general, marco y con una visión supra, que no regule todos los asuntos pertinentes en detalle y que no frene el desarrollo tecnológico o se convierta en una barrera al mismo. Por ello el proceso que se adelante por los legisladores colombianos debe ser muy general, neutro y atendiendo el principio de neutralidad tecnológica, y no en detalle para evitar que se desactualice y sea obsoleto rápidamente debido al avance vertiginoso de la materia”.

Por ello, recomendamos que el modelo de regulación nacional se base en una política pública sobre IA, y que el marco jurídico sea fundamentada en principios generales. El modelo europeo puede ser un punto de referencia, pero el reto está en adecuarlo de manera precisa a nuestro entorno, como ya se ha hecho en otros temas tecnológicos, como cuando se utilizaron las normas tipo de la Uncitral sobre comercio electrónico y firmas digitales, lo que a la postre derivó en la Ley 527 de 1999.

Como quiera que la Unión Europea con su denominada AI ACT., es la región que ha tomado la delantera y ha presentado y tiene un marco legal más robusto, adecuado y cercano a nuestro sistema jurídico, en Colombia consideramos acertado que debamos seguir esa misma línea adoptada en el viejo continente.

Fortalecimiento del ecosistema de ciencia, tecnología e innovación de la IA

Sobre este particular se ocupa el artículo 11 del proyecto, y dispone que el Gobierno Nacional promoverá programas y fondos específicos para apoyar la investigación, desarrollo tecnológico e innovación en IA siempre con un compromiso ético, responsable y sostenible en su desarrollo y uso, mediante criterios de inclusión y accesibilidad. De singular importancia e interés para las instituciones de educación superior (IES), en el numeral 11.1., se menciona de manera directa que el financiamiento para proyectos de Investigación, desarrollo tecnológico e innovación, se realizarán en articulación con la academia. Así mismo en los numerales 11.2 y 11.3 nos compete estar involucrados a las IES, pues hablan sobre promover Infraestructura para la investigación, desarrollo tecnológico e innovación en IA, y plataformas e incentivos para la colaboración público-privada e interdisciplinar en el desarrollo de la IA.

Propiedad intelectual e IA

Un tema de singular importancia, que impacta de manera directa el desarrollo tecnológico, y por supuesto el que tiene que ver con IA, es el relacionado con propiedad intelectual (PI, derecho de autor, marcas, patentes, etc.). Por ello, precisamente, el artículo 18 del proyecto se ocupa de manera muy somera y parcial del mismo, y establece el apoyo a la protección de la propiedad intelectual en IA, mediante el Minciencias y la SIC, para brindar apoyo técnico y jurídico a los investigadores, desarrolladores y entidades que desarrollen sistemas de IA para la protección de sus invenciones mediante patentes, derechos de autor y otras formas de propiedad intelectual reconocidas por la legislación nacional e internacional. Sin embargo, no aborda de manera directa el tema central que tiene que ver con los titulares de derechos de PI, quienes se están viendo afectados de manera ostensible, pues los creadores y titulares de tales derechos, y sus activos de PI están siendo seriamente afectados y usados para entrenar y nutrir los sistemas y herramientas de IA en especial la generativa (IAG).

Por ello, encontramos pertinente que sobre este tema se busque generar y propender por una cultura de respeto de los derechos de PI, para que sea un propósito y objetivo directo para equilibrar estos derechos y el desarrollo tecnológico. Sería muy importante involucrar en este propósito a las entidades rectoras de la materia en el país, entre ellas a la Dirección Nacional de Derecho de Autor y la Delegatura de Propiedad Industrial de la SIC, entre otras. 

Como se recordará, hace muy pocos días, la administración del presidente Trump despidió a Shira Perlmutter, directora de la Copyright Office (Oficina de Derechos de Autor de EE UU), y días antes había hecho lo propio con la directora de la Biblioteca del Congreso, Carla Hayden. Vale decir que la Copyright Office está adscrita a la Biblioteca del Congreso.

Se ha especulado mucho alrededor de los motivos que llevaron al despido de las dos funcionarias, pero se rumora que, en gran medida, se debió a la presión que muchas empresas tecnológicas que adelantan proyectos de IAG, frente a la férrea defensa que se hizo desde la Copyright Office, expidiendo directrices claras en favor de los derechos que ostentan los creadores y que están seriamente amenazados con el uso de contenidos y materiales previamente existentes para entrenar y nutrir muchas de las herramientas más populares de IAG. Se rumora, además, que, entre otros, el director del Departamento de Eficiencia Gubernamental de EE UU, Elon Musk puede estar detrás de estas decisiones.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.