Fernando Andrés Pico Zúñiga
Magíster en Derecho de la Empresa y de los Negocios de la Universidad de Barcelona
Profesor de Derecho de Obligaciones en las universidades Javeriana y de los Andes

Hace pocas semanas fue publicada la más reciente obra de los profesores Cass R. Sunstein (Leyes) y Orean Bar-Gill (Economía y leyes), de la Universidad de Harvard, Algorithmic Harm: Protecting People in the Age of Artificial Intelligence / Lesión algorítmica: la protección de las personas en la era de la inteligencia artificia”, editada por Oxford University Press.

Aunque el libro es una novedad, su temática es el desarrollo de un interesante artículo de investigación, en el marco del Programa sobre Políticas Públicas y Economía Conductual de la Facultad de Derecho de la Universidad de Harvard, que los autores publicaron junto con la profesora Inbal Talgam-Cohen en agosto de 2023 bajo el título: Algorithmic Harm in Consumer Markets / Lesión algorítmica en los mercados de consumo.

El libro parte de una idea fundamental: los algoritmos de la inteligencia artificial (IA), es decir, las reglas y procesos tecnológicos diseñados para permitir que una máquina, con base en datos, aprenda, razone y tome decisiones de manera automática y sin la intervención humana, aun cuando inciden en distintos campos sociales y económicos (entre ellos, laboral y político), tiene mayor impacto en los mercados y en los consumidores. Allí, en dos grandes escenarios: el precio (pricing) y la elección del producto (targeting), de donde pueden desprenderse otros: coordinación entre empresas, discriminación derivada de la raza y el sexo, y percepciones erradas que los algoritmos de la IA pueden mejorar.

De esta manera, la discriminación algorítmica de los precios (pricing) y de la selección de los productos (targeting) depende del nivel de datos con los que un consumidor alimenta el algoritmo de la IA. Así, por ejemplo, si la IA aprende que un consumidor tiene una especial inclinación por Independiente Santa Fe o los artistas de los noventa, la IA puede concluir que dicho consumidor está dispuesto a pagar un precio elevado por unos boletos que le permitan asistir a un partido de su equipo o un evento en el que se presentan sus artistas favoritos. Más, si un carro está conectado a servidores con sistemas de IA, suministrando información constante y en tiempo real sobre su estado al fabricante, comercializador u otros agentes del mercado como aseguradoras, la IA y dichos productores/proveedores pueden construir productos a la medida del consumidor y ofrecer así repuestos, servicios técnicos o pólizas al consumidor, de acuerdo con sus necesidades particulares. 

Ese hecho, aunque varia el que ha venido siendo el estado del mercado, no es per se problemático ni dañino. Es más, bajo un uso apropiado, puede resultar en que el mercado sea más eficiente, producir y comercializar a menores costos. Por esa razón, según Sunstein y Bar-Gill, la lesión algorítmica depende de las desviaciones sobre la información y la racionalidad perfecta. En otros términos, los daños que pueda causar el algoritmo a la persona o el consumidor penden de si el algoritmo tiene el efecto de alterar la información a la que clara y objetivamente se podría acceder sin él, y/o si es capaz de afectar la sensatez y juicio del consumidor en la toma de una determinada decisión. Un sistema de IA que, por cierto, podría ser defectuoso (irrazonablemente inseguro).

Vale recordar que la tesis de los autores, como tuve oportunidad de explicar en otra columna, fue reconocida de manera previa en el todavía novedoso Reglamento de Inteligencia Artificial de la Unión Europea (2024) que, en su literal a), num. 1º, artículo 5º, prohíbe las técnicas subliminales, manipuladoras o engañosas que puedan utilizar un sistema de IA, si perjudica, de manera apreciable, la capacidad de la persona para la toma de decisiones, de modo que altera su comportamiento y causa daño significativo al usuario u otros sujetos de derecho.

Ante ese estado de cosas, Sunstein y Bar-Gill sugieren dividir a los consumidores en dos categorías: los consumidores sofisticados (sophisticated consumers) y los consumidores no sofisticados (sophisticated consumers). Con base en esa segmentación señalan que las políticas públicas y las actuaciones de la administración deberían enfocarse en los mercados más complejos, en términos de información y de características del producto, y, por ende, donde el consumidor resulta poco versado o lego. Es allí donde la discriminación por precio y por producto puede resultar lesiva.

Si bien los autores ofrecen lineamientos normativos para cada uno de los escenarios de discriminación algorítmica, su propuesta de solución se puede resumir en tres ideas reglamentarias: primero, ordenar el aumento de flujo de información sobre los productos dispuestos en el mercado, a fin de reducir el impacto de los sesgos conductuales, a la par que aumentar la privacidad de las personas y el uso de la ley antimonopolio para limitar el poder de los mercados; segundo, regular el derecho a la transparencia algorítmica, lo que supone abrir los diseños de los algoritmos para que las personas y consumidores puedan conocer la causa, naturaleza, uso y consecuencia de los algoritmos que utilizan o aquellos a los que se pueden ver expuestos, y; tercero, regular de manera directa el diseño e implementación de algoritmos usados en los mercados, mediante imposiciones regulatorias mínimas que impidan la discriminación, reduzcan los sesgos o, incluso, prohíban algoritmos que perjudiquen a los consumidores.

En nuestro ámbito, la reciente obra de Sunstein y Bar-Gill nos plantea, nuevamente, una importante reflexión y recomendación sobre la necesidad impostergable de disposiciones normativas que ordenen a la IA en diferentes entornos, particularmente en el mercado; y la cada vez más notoria interrelación del llamado Derecho de los Mercados (consumo, datos, competencia, por mencionar los más importantes) y la Ciencia Económica al momento de abordar el impacto socioeconómico de los algoritmos de la IA. Es evidente que este asunto no puede ni debe ser examinado de manera atomizada, en compartimentos estanco, jurídicos y económicos. El fenómeno exige una lectura y análisis armónico, holístico, que integre a las distintas materias y actores, y que repercuta, ojalá, en una única norma y autoridad de inspección, vigilancia y control, austera, eficiente y eficaz.    

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.