Daniel S. Acevedo Sánchez | Linkedin | Email
Consultor en transformación digital y estrategia – Legal, Finance & Tax

El pasado 2 de agosto, una noticia sacudió el mundo de la tecnología y el Derecho, aunque muchos la vieron solo como otra historia sobre carros eléctricos, pero para quienes trabajamos en la intersección de la ley, los negocios y la innovación, esta noticia es mucho más que eso. Es una llamada de atención monumental.

Me refiero a la reciente condena contra Tesla, que deberá pagar 210 millones a las víctimas de un accidente mortal vinculado a su sistema Autopilot: un jurado de Florida consideró a la compañía parcialmente responsable de un accidente mortal ocurrido en 2019, imponiéndole una multa multimillonaria. Para mí, este caso trasciende a Tesla y a la industria automotriz. Es el primer gran precedente que pone sobre la mesa una pregunta que hasta ahora vivía en el terreno de lo teórico: cuando una inteligencia artificial (IA) falla, ¿quién paga los perjuicios que se pudiesen causar?

Como siempre, el diablo está en los detalles. La defensa de Tesla se ha basado históricamente en que su sistema Autopilot es solo una “asistencia a la conducción” y que el conductor debe permanecer alerta en todo momento. Es un argumento legalmente sólido, en teoría. Sin embargo, el jurado vio algo más. Vio una compañía que, según el abogado de los demandantes, comercializó su tecnología diciéndole al mundo que “conducía mejor que los humanos”, pero que al mismo tiempo no implementó restricciones técnicas para evitar su uso indebido fuera de las autopistas para las que fue diseñado.

Aquí es donde la cosa se pone interesante para cualquier líder de negocio. Esto no es un problema exclusivo de los carros. Es un problema de marketing vs. realidad, de expectativas vs. capacidad técnica. Es como vender un software de contabilidad “infalible” y luego, en la letra pequeña del manual de 500 páginas, advertir que el usuario debe verificar cada cálculo manualmente. ¿Dónde termina la responsabilidad del usuario y dónde empieza la del creador de la tecnología?

Este veredicto sugiere que la balanza se está inclinando. Ya no basta con un simple descargo de responsabilidad. Las empresas que desarrollan y despliegan IA tienen una corresponsabilidad en cómo se percibe, se usa y, en última instancia, en los resultados que produce su tecnología.

Si eres director jurídico o gerente general de cualquier empresa, esto te incumbe, y mucho, porque es fácil pensar: “Bueno, yo no fabrico carros autónomos”. Pero piensa por un segundo en las herramientas de IA que ya estás usando o planeas implementar en tu organización: ¿Qué pasa si el software de IA para revisión de contratos que acabas de implementar omite una cláusula de riesgo crítico? ¿La culpa es del abogado que confió en la herramienta o del proveedor que la vendió como una solución “ultrainteligente”? Si un algoritmo de IA para la gestión tributaria comete un error de cálculo que deriva en una sanción millonaria, ¿quién asume la responsabilidad? ¿El equipo financiero, el departamento de TI que lo implementó o la empresa que lo programó?

El caso Tesla es un presagio. Demuestra que un jurado puede encontrar una “falla en el software” o un defecto en el diseño y la comunicación del producto, incluso cuando el error humano es evidente. Esto crea una nueva dimensión de riesgo corporativo que debemos empezar a gestionar activamente. Este veredicto no solo expone a las empresas, sino también deja en evidencia el enorme vacío regulatorio en el que operamos. Estamos desplegando una de las tecnologías más transformadoras de la historia sin un manual de instrucciones claro sobre responsabilidad, ética y seguridad.

Como siempre digo, no se trata de frenar la innovación. Al contrario, creo firmemente en el poder de la tecnología para mejorar nuestras vidas y negocios. Pero la innovación sin barandillas es un riesgo para todos. Necesitamos marcos regulatorios sólidos y pragmáticos que ofrezcan certidumbre tanto a los desarrolladores como a los usuarios.

Unas reglas de juego claras no ahogan la innovación, la canalizan. Permiten a las empresas como las nuestras invertir y experimentar con un entendimiento claro de los riesgos y las obligaciones.

El veredicto contra Tesla no debería generar pánico, sino acción. Es una oportunidad para que los líderes dejen de ser meros espectadores de la revolución tecnológica y se conviertan en arquitectos conscientes de su implementación.

¿Qué podemos hacer?

- Auditar nuestras herramientas de IA: evaluar no solo su ROI, sino también sus riesgos inherentes y las expectativas que generan.

- Alinear marketing y realidad: asegurarnos de que la forma en que comunicamos los beneficios de una tecnología se corresponde con sus capacidades y limitaciones reales.

- Establecer gobernanza interna: crear políticas claras sobre cómo, cuándo y quién utiliza herramientas de IA en procesos críticos.

La pregunta ya no es si la IA transformará nuestros negocios, sino cómo vamos a gestionar la responsabilidad que inevitablemente conlleva. El caso Tesla nos ha dado la primera respuesta, y es una que ningún líder puede permitirse ignorar.

Siga nuestro canal de WhatsApp

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias, los datos identificadores y los documentos sin límites.