Directrices para usar ChatGPT

Carolina Villadiego Burbano
Líder del equipo de América Latina
Comisión Internacional de Juristas

En estos días, se anunció el último modelo de ChatGPT, llamado GPT-4o, que tiene mayores funcionalidades, permite entablar conversaciones con la herramienta e interactuar con imágenes en tiempo real. Aunque ChatGPT es una de las herramientas más conocidas, hay otros chatbots de uso público que tienen funciones similares. Abogados y jueces alrededor del mundo las utilizan; por esto, es clave regular cómo se pueden emplear en la profesión jurídica.

Tanto los parlamentos como los poderes judiciales deben analizar este asunto y adoptar normas y directrices. Dado el avance de la tecnología, dichas normas tendrían que ser actualizadas de manera continua. Quiero aprovechar este espacio para compartir algunas ideas a partir de las siete Directrices para jueces y empleados judiciales emitidas por el Poder Judicial de Nueva Zelanda sobre el uso de chatbots de acceso público. Dado que dichos chatbots han sido ampliamente utilizados en América Latina, las directrices son útiles para el debate en esta región.

La primera directriz menciona que los jueces y empleados judiciales deben comprender el concepto de inteligencia artificial generativa (IAG) y sus limitaciones. Para ello, establecen que, antes de usar el chatbot, es bueno conocer sus potencialidades y restricciones. Por ejemplo, dicen que estas herramientas no siempre dan respuestas basadas en fuentes de información autorizadas y que fueron usualmente entrenadas con poca información jurídica del país. En otras palabras, sus respuestas no necesariamente reflejan el contexto jurídico nacional.

La segunda directriz establece que al usar la herramienta se debe mantener la confidencialidad y la privacidad de la información que no es pública. Así, explica que varios chatbots recuerdan o se alimentan de la información que los usuarios insertan, por lo cual todo lo que se escribe tiene la potencialidad de hacerse público. Además, dado que su uso puede vulnerar los derechos de autor, se recuerda que los jueces y empleados deben cumplir dichas normas. Esta directriz también menciona que, si al usar el chatbot se colocó información confidencial o privada, el funcionario debe notificarlo de manera inmediata a otros funcionarios en el tribunal. 

La tercera directriz indica que el funcionario que utilice la herramienta debe garantizar la precisión de la información cuando se utiliza para la decisión judicial y asumir la responsabilidad sobre ello. Así, precisan que se debe verificar la veracidad de la información que provee el chatbot antes de usarla en la decisión o de asumir que es cierta, pues puede ser incompleta, inexacta o no estar vigente. Esto puede implicar contrastar la información con distintas fuentes.

La cuarta directriz señala que los jueces y empleados judiciales deben tener conciencia de los problemas éticos que pueden tener los chatbots. En este punto, recuerdan que la herramienta puede reflejar los prejuicios o la desinformación de las fuentes con las que fueron entrenadas. Además, mencionan que estas herramientas usualmente no tienen en cuenta el contexto específico del país ni los valores o prácticas culturales de sus poblaciones étnicas.

La quinta directriz establece que los jueces y empleados deben cumplir las normas generales de seguridad de los tribunales al usar los chatbots. Por ejemplo, deben emplear computadores de trabajo y direcciones de correo electrónico laborales cuando los utilicen y privilegiar el uso de plataformas con suscripción paga, pues son más seguras.

La sexta directriz menciona que los jueces no tienen la obligación de revelar el uso del chatbot mientras que los secretarios y el personal de apoyo sí deben conversar con el juez acerca de cómo lo están utilizando. En mi opinión, esta directriz es muy problemática porque los jueces tienen un deber de transparencia e integridad con las partes, así como una obligación de debida motivación que incluye mencionar el uso de herramientas (así sean de apoyo) para adoptar decisiones judiciales, si su uso no fue solicitado por las partes o son herramientas que no han sido puestas a disposición por el poder judicial. Pero, además, dado el estado actual de este tipo de herramientas y lo poco que sabemos sobre sus sesgos, creo que es necesario que operadores de justicia revelen si la han usado para analizar el caso o para adoptar la decisión judicial.

Por último, las directrices mencionan que los jueces y empleados judiciales deben ser conscientes del uso de chatbots por parte de terceros, en especial de abogados. En este punto, sugieren recordar a los litigantes sus obligaciones profesionales en materia de veracidad de la información y preguntarles si han usado chatbots y si han verificado la información. Creo que es clave debatir sobre los deberes de transparencia de los abogados en este tema; por ejemplo, la Corte Federal de Canadá dijo que si las partes y los intervinientes usan IAG para crear o generar contenido en lo que presentan ante la Corte, deben informarlo.

El uso y desarrollo de IAG se extiende en la profesión jurídica y hay que debatir sobre su regulación en el sistema de justicia. Para ello, es necesario analizar aspectos específicos sobre su regulación y cómo ponerla en práctica en los contextos nacionales. Algunas preguntas claves para ese debate son: ¿cómo garantizar que el uso de chatbots por parte de jueces y empleados judiciales no genere discriminación o daño?, ¿cuáles son las reglas de transparencia que deberían aplicarse a los jueces teniendo en cuenta su rol en la protección de derechos humanos, así como su deber de integridad en la función judicial?, ¿pueden existir usos de chatbots por parte de jueces y empleados que no requerirían ser revelados?, ¿quién(es) deben emitir la regulación en estos temas para el sistema de justicia?, ¿qué directrices específicas para abogados litigantes se deberían desarrollar? Deberíamos abordar estas y otras preguntas en el debate público.

Gracias por leernos. Si le gusta estar informado, suscríbase y acceda a todas nuestras noticias y documentos sin límites.  

Paute en Ámbito Jurídico.

Siga nuestro canal en WhatsApp.