Mauricio Velandia
Director del Centro de Estudio de Derecho de los Mercados

Un robot médico en un hospital de Bogotá enciende una alarma y avisa que necesita calibración urgente. Sus sensores lo saben, lo registran y lo anuncian. El dueño, sin embargo, decide ignorar la advertencia. No reporta nada, no actúa. El robot sigue operando, como un bisturí ciego, con riesgo latente para los pacientes. Entonces surge la pregunta de examen y de supervivencia, como lo es, ¿puede ese robot avisar directamente a la Superintendencia de Industria y Comercio (SIC) o a un juez, activando mediante un sensor un proceso preventivo antes de que la tragedia se concrete?

Lo que parece ciencia ficción no es problema de chips, sino de códigos. Es un vacío procesal, que se llena con lo que propongo llamar legitimación funcional preventiva. El robot no se convierte en sujeto de derechos –no es persona ni física ni jurídica, todavía no hemos llegado al esperpento de un “doctor R2D2” litigando en estrados–. Lo que planteo es más sobrio, y es que el robot pueda actuar como sensor jurídico-técnico delegado, enviando un reporte cifrado a la SIC y al representante legal del producto cuando detecte una falla crítica que comprometa la vida o la seguridad pública. Ese reporte no convierte a la máquina en parte procesal, sino que activa, como un disparador, los mecanismos que ya contempla la ley para adoptar medidas cautelares inmediatas. El delegante humano o la empresa siguen siendo responsables y legitimados, pero el delegado electrónico se convierte en gatillo autónomo de un aviso procesal que el sistema jurídico no puede darse el lujo de ignorar. En términos más crudos, es un modo o una herramienta para que la codicia o la negligencia del propietario no silencien la alarma que pone en riesgo a la sociedad.

El derecho colombiano no parte de cero. La Constitución ofrece anclajes claros, por ejemplo, el artículo 11 protege la vida, el 78 exige seguridad en bienes y servicios y el 95 impone el deber de prevenir daños. La Ley 472 de 1998 ya permite acciones populares de carácter preventivo, y el Código General del Proceso (arts. 590 y ss.) contempla medidas cautelares con alcance anticipatorio. El derecho civil reconoce la responsabilidad objetiva en actividades peligrosas y la culpa in vigilando. El derecho de consumo obliga a garantizar la idoneidad y seguridad del producto y hace solidariamente responsables al fabricante, proveedor y operador. Si la SIC puede hoy ordenar el retiro inmediato de un producto riesgoso, ¿por qué no admitir que el reporte inicial venga del propio robot que detecta la falla?

En derecho comparado tampoco sería una excentricidad. La Unión Europea, en su AI Act, obliga a los desarrolladores de inteligencia artificial a implementar sistemas de gestión de riesgos. Japón impone la obligación de reportar fallas en sistemas autónomos. EE UU ha creado protocolos forenses para analizar fallos técnicos. Colombia, aunque rezagada en glamour tecnológico, ya cuenta con tutelas y acciones populares que han servido como válvulas preventivas. La legitimación funcional preventiva no es más que el siguiente eslabón de esa cadena.

El análisis económico del derecho también ayuda a ilustrar la conveniencia de este mecanismo. Un robot defectuoso que sigue operando puede dejar 300 pacientes lesionados en tres semanas y un costo de 25 millones de dólares en indemnizaciones, además de la quiebra reputacional del fabricante. En el escenario con prevención, el sensor detecta la desviación en 12 horas, alerta a la SIC, se inmovilizan dos robots y la factura asciende apenas a 50.000 dólares en reparaciones. No se trata solo de amor a la humanidad, sino que también de un cálculo económico. La prevención es más barata que la morgue y la demanda.

Para hacerlo viable se necesitaría un registro nacional de robots con identificación única, un seguro obligatorio para sistemas autónomos de alto riesgo, auditorías anuales de firmware y modelos y estándares de IA explicable que validen los reportes. Nada extravagante. Lo mismo que exigimos a un conductor con licencia y seguro.

Algunos colegas me dirán que estoy a punto de darle personería jurídica a un tostador inteligente. Mi respuesta es que si ese tostador puede evitar que explote en la cocina de una familia mientras cena, bendita sea la burocracia electrónica. Al fin y al cabo, peor que un Estado vigilante es un Estado indiferente.

La discusión no es si los robots piensan como humanos, sino si los humanos queremos seguir ignorando alarmas. Entre una morgue repleta y un sensor que envía un reporte, la elección es obvia. Y no olvidemos que, ya sea Colombia o cualquier otro país el que implemente este sensor que genera una legitimación funcional preventiva, la propuesta nace acá, como ejercicio de anticipación jurídica en un mundo que no espera.

Siga nuestro canal de WhatsApp

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.