XXVIII Jornadas Iberoamericanas de Derecho Procesal

Relatoría por Uruguay – Gabriel Valentin

Cuarta mesa temática: Inteligencia artificial y proceso judicial

Relatores generales: María Cristina Chen y Renzo Cavani

Moderador: Cassio Scarpinella Bueno

Contraponente: Jordi Nieva Fenoll

Cuestionario para relatoría nacional:

1. En su opinión, ¿cuál es la base constitucional o convencional que permite la introducción de la tecnología en la administración de justicia?

 

1. En lo referente al sistema de justicia la Constitución de la República, de 1967, repite en lo esencial las disposiciones de la Constitución de 1830, que reconocen las garantías que hacen a la idea de proceso debido (12)[1] , a las que se deben añadir todas aquellas que sean inherentes a la personalidad humana o a la forma republicana de gobierno (72)[2]. Aunque las garantías nominadas refieren explícitamente, en su mayor parte, al proceso penal, se proyectan, también, al proceso civil, sea por una interpretación extensiva de esas garantías o mediante la regla residual del art. 72, que en definitiva también convoca, en el entender de la doctrina constitucionalista y procesalista, a las reconocidas en el sistema convencional de derechos humanos.

En el marco específicamente constitucional, por su formulación en el siglo XIX, no existen referencias expresas a la utilización de tecnologías de la información y comunicación (a partir de ahora: TIC), ni en particular a la inteligencia artificial (en adelante: IA), y ni siquiera, en forma general, a la modernización del sistema de justicia o al uso de cualquier tipo de tecnología[3].

Sin embargo, existe una referencia, oblicua pero no por eso menos significativa, a las “exigencias de la más pronta y fácil administración de Justicia” (244)[4] y a los “fines del mejor servicio público” (249)[5], de las que se puede extraer la exigencia de que el servicio de justicia se preste con la mayor eficiencia (“fácil”), economía de tiempo (“pronta”) y calidad (“mejor”), y no se necesitan mayores circunloquios para advertir que las TIC son herramientas claves para lograr esos objetivos y, de hecho, el uso de esas herramientas tiene como condición fundamental el logro de mejoresformas de administrar justicia, no peores[6].

2. A nivel internacional debe tenerse presente, también, que la Resolución 56/183 de 21 de diciembre de 2001, de la Asamblea General de las Naciones Unidas[7], refirió a la necesidad de

(…) promover el inaplazable acceso de todos los países a la información, el conocimiento y la tecnología de las comunicaciones en favor del desarrollo, de manera que se aprovechen todas las ventajas derivadas de la revolución de la tecnología de la información y las comunicaciones (…).

De ese derecho al acceso y aprovechamiento de las TIC deriva, necesariamente, el derecho a relacionarse con el Estado y en particular, en la prestación de servicio de justicia, a través de esas tecnologías.

De esa resolución surgió, posteriormente, un plan de acción que establece objetivos y medidas para el uso de las TIC “en todos los aspectos de la vida”[8], lo que incluye la actividad y servicios que se desarrollan ante y por el Estado.

En el marco de las convenciones internacionales que Uruguay ha ratificado, aunque tampoco existen referencias específicas a la tecnología, también puede encontrarse la idea de una prestación eficiente, pronta y de calidad del servicio de justicia.

El art. 8 de la Convención Americana de Derechos Humanos (CADH) menciona el derecho de cualquier persona “a ser oída, con las debidas garantías y dentro de un plazo razonable, por un juez o tribunal competente, independiente e imparcial” (destacado mío). Esta garantía, que en general se vincula con la idea de tener una respuesta efectiva en tiempos razonables, también puede conectarse con la idea de un sistema de justicia eficiente.

3. A partir de ese marco normativo convencional y constitucional comparto la idea de que la garantía del debido proceso “incluye la posibilidad de utilizar la tecnología necesaria para lograr eficiencia”[9].

Naturalmente que ese marco normativo incluye el elenco de derechos humanos fundamentales y el marco de garantías mínimas que juntas conforman la idea general de proceso debido, ya que cualquier diseño de un sistema procesal basado en la utilización de IA debe respetar este estándar de derechos y garantías mínimas.

En particular, además, en cualquier desarrollo de ese tipo debe tenerse en cuenta la normativa internacional sobre protección de datos personales (por ejemplo, el Convenio N° 108 del Consejo de Europa para la Protección de las Personas con Respecto al Tratamiento Automatizado de Datos de Carácter Personal y su Protocolo Adicional)^[10] y el marco jurídico internacional contra la discriminación, como, a modo de ejemplo, la Convención Internacional sobre la Eliminación de todas las Formas de Discriminación Racial adoptada por la Asamblea General de Naciones Unidas de 21 de diciembre de 1965 y la Convención sobre la eliminación de todas las formas de discriminación contra la mujeraprobada por la Asamblea General de las Naciones Unidas de 18 de diciembre de 1979[11].

2. En la actualidad, ¿podría relatar en qué rubros y a través de qué mecanismos (leyes, reglamentos, etc.) se ha implementado las herramientas tecnológicas en la administración de justicia? De contar con leyes o reglamentos, menciónelos e incluya jurisprudencia relevante de su país, sobre administración de justicia y nuevas tecnologías, si lo considera pertinente.

1. Aunque no existe una regulación sistemática, diversas disposiciones legales y reglamentarias han consagrado un marco suficiente, aunque básico y mejorable, para el uso de las TIC en la administración de justicia[12].

En primer lugar, por su vocación general, debo mencionar el art. 74 de la ley 19.355, de 19 de diciembre de 2015, que reconoció el “derecho de las personas a relacionarse con las entidades públicas por medios electrónicos, sin exclusión de los medios tradicionales”.

Esta disposición, cuya potencialidad normativa en general ha pasado desapercibida, es una herramienta clave para que los usuarios y operadores exijan la implementación práctica de esos medios en todos sus relacionamientos con el Estado, incluso, por cierto, con sus órganos jurisdiccionales.

Sin embargo, en todos estos años, si bien – como veremos – se registraron importantes avances en el régimen de domicilio y notificaciones electrónicas, lo cierto es que los cambios en cuanto a la realización de actos procesales por vía informática o telemática han sido más bien escasos.

En segundo lugar, ya en el ámbito específico de la administración de justicia, debo distinguir entre el impacto de las TIC en el Poder Judicial y el Tribunal de lo Contencioso Administrativo (en adelante: TCA)[13].

2. En el caso del Poder Judicial. la ley 18.237, de 26 de diciembre de 2007, autorizó el uso del expediente electrónico, documento electrónico, clave informática simple, firma electrónica, firma digital, comunicaciones electrónicas y domicilio electrónico constituido en todos los procesos judiciales y administrativos, con idéntica eficacia jurídica y valor probatorio que sus equivalentes convencionales.

Sin embargo, las normas procesales generales (Código General del Proceso, de 1989, a partir de ahora CGP) no prevén demasiadas aplicaciones de las TIC al sistema de justicia.

En primer lugar, en el CGP no se prevé expresamente la posibilidad de realizar actos procesales por medios informáticos o telemáticos. Sin perjuicio de ello, sería posible avanzar en la implementación de un sistema, en aplicación de las disposiciones citadas y de las previsiones generales sobre firma electrónica y digital (ley 18.600, de 21 de setiembre de 2009).

A raíz de la situación generada por la pandemia del Covid-19, la Suprema Corte de Justicia (en adelante: SCJ), a través de la resolución 12/2020, de 16 de marzo, declaró una “feria judicial sanitaria”, por la cual se declararon inhábiles los días desde el 14 de marzo hasta el 3 de abril, y se declaró la suspensión de plazos y actuaciones programadas, sin perjuicio de la posibilidad de habilitar días inhábiles en casos que corra grave riesgo el ejercicio de un derecho. En ese marco, y ante la prolongación de la pandemia, se empezó a analizar la posibilidad de realizar presentaciones por vía telemática.

En esa línea, el Colegio de Abogados del Uruguay elaboró dos proyectos en cuya redacción tuve el honor de participar: uno, destinado a regular la “Feria jurisdiccional extraordinaria y suspensión de plazos”, y otro, sobre “Utilización de tecnologías de la información y comunicación en procesos jurisdiccionales”.

En la exposición de motivos del último anteproyecto que menciono se señaló que las medidas adoptadas y a adoptarse por el sistema de justicia suponían la paralización de una parte muy importante del servicio, sin un horizonte claro de retorno a la actividad normal, lo que sin duda afectaba a los justiciables y a todos los operadores del sistema judicial. En ese contexto, el proyecto buscaba atender la situación habilitando la realización de actos procesales por medio de las TIC.

En síntesis, se preveía una presentación progresiva y en atención a distintas realidades geográficas, de gestión, de personal, etcétera, delegando en los órganos máximos de la jurisdicción la reglamentación de esa implementación, con el asesoramiento preceptivo de una comisión especial que se proyectaba crear al efecto. Asimismo, con la mirada puesta en la aplicación definitiva e integral de las nuevas tecnologías, se proyectaba crear una comisión que proyectara las modificaciones del Código General del Proceso y la Ley Orgánica del TCA, así como otras leyes procesales que sean necesarias para implementar el uso de las TIC.

Ambos proyectos tomaron estado parlamentario, pero solo se aprobó el destinado a para regular la feria extraordinaria y la suspensión de plazos (ley 19.879, de 30 de abril de 2020). El proyecto referido a la regulación de las TIC se mantuvo a estudio del parlamento, en la Comisión de Constitución, Códigos, Legislación General y Administración de la Cámara de Representantes^[14], pero a la fecha de este informe no ha sido probado.

En cuanto a las audiencias, la aplicación de TIC se ha implementado desde hace un buen tiempo^[15].

Hasta fines de 2020, en Uruguay no existían normas legales expresas que permitieran la realización de audiencias por videoconferencia, pero hace unos cuantos años se admite la posibilidad de su implementación, a la luz de una interpretación evolutiva de los textos generales y de la directriz o máxima de inmediación^[16].

En definitiva, la discusión no debería ser entre “videoconferencia sí” o “videoconferencia no”, sino que el debate debería enfocarse en las exigencias mínimas imprescindibles para admitir el uso de esta técnica^[17].

Pues bien: en el Uruguay, aún sin una regla específica, a la luz de las concepciones relevadas, la Suprema Corte de Justicia (en adelante: SCJ) reglamentó la posibilidad de utilizar la videoconferencia, aunque con un alcance limitado.

La reglamentación fue prevista en la Ac. 7784, del año 2013, luego complementada por la Ac. de la SCJ 7902, del año 2017.

La Ac. 7784, que consagró el “Reglamento de Diligenciamiento probatorio por videoconferencia”, definió a esa tecnología como “un sistema interactivo de comunicación que trasmita de forma simultánea y en tiempo real imagen, sonido y datos a distancia de una o más personas que presten declaración en un lugar distinto del tribunal competente” (art. 2º), y reguló detalladamente el servicio “oficial” de la videoconferencia (art. 3º a 8º).

Esta regulación generó un marco muy relevante para el uso de esta tecnología, aunque con un alcance específico. En efecto, estas acordadas solo regularon la posibilidad de producción de prueba por este medio y no desarrollaron otras posibilidades que la técnica ofrece para la realización de audiencias.

De acuerdo con el Reglamento, podían ser diligenciados por videoconferencia los medios probatorios “declaración de parte, testimonial y pericial en lo pertinente, en los supuestos que refieren los arts. 152, 160.6, 183 del CGP, 135 y 198 del CPP, especialmente en materias de relevancia social” (Ac. 7784, art. 1º)^[18].

Los supuestos previstos para el proceso civil eran tres:

• El interrogatorio de parte, formal o informal, en los casos en que según la ley procesal se puede acudir al auxilio judicial, esto es, cuando se tratare de parte que se domicilie en el extranjero o a más de cien kilómetros de la sede del tribunal (CGP: art. 152).
• El interrogatorio de testigos, también en los casos en que la ley habilita el auxilio judicial, o sea, cuando el testigo se domicilie en el extranjero o a una distancia tal de la sede que le haga difícil o gravosa su concurrencia (CGP: art. 160.6).
• El examen del dictamen del perito en audiencia (CGP: art. 183). La Ac. 7902 dispuso la preceptividad del interrogatorio de peritos por el sistema de videoconferencia cuando se encuentren en lugares distantes de la Sede, y el recurso esté disponible (art. 1º). Esta solución es clave, ya que posibilitó que peritos residentes en la capital del país pudieran realizar dictámenes en procesos radicados ante Juzgados del Interior, sin necesidad de concurrir a la sede judicial para el examen de la pericia en audiencia.

La regulación no incluyó otras posibilidades, como el careo de testigos, o de testigos con una parte, o la realización de una inspección judicial, pero la doctrina entendió que la producción de estas pruebas por la vía de la videoconferencia era perfectamente admisible^[19], como ya se entendía cuando no existía una reglamentación expresa.

Sin perjuicio de su alcance limitado, la doctrina sostuvo que esa reglamentación específica no excluía otros posibles usos; y que, por ello, debía admitirse que, aún sin regla expresa, era posible comparecer a cualquier audiencia del proceso por videoconferencia, e incluso a aquellas audiencias para las que se requiere la asistencia personal de las personas físicas (p. ej., la audiencia preliminar del proceso ordinario, art. 340 del CGP)^[20].

En el proyecto del Colegio de Abogados del Uruguay antes mencionado se previó el uso de la videoconferencia o medios técnicos de la comunicación de similares características para la realización de cualquier acto oral, en todos los procesos que se inicien o ya se estén tramitando ante el Poder Judicial y ante el TCA. Este anteproyecto estuvo sujeto a lo que cada uno de ellos reglamente en el ámbito de su respectiva jurisdicción, “siempre que se asegure la comunicación multidireccional y simultánea de la imagen y el sonido, la interacción entre todos los sujetos actuantes y el respeto de los principios del debido proceso y el derecho de defensa”.

Poco después de la presentación de ese proyecto, por resolución de la SCJ 33/2020, de 14 de mayo de 2020, al regular el comienzo de la actividad luego de la finalización de la feria jurisdiccional extraordinaria, se previó la iniciación de un plan piloto para la celebración de audiencias por videoconferencia en los Juzgados Letrados de Primera Instancia en lo Civil y los Juzgados Letrados en lo Contencioso Administrativo con sede en Montevideo (art. 11.1º). En una regulación mínima, se estableció que los jueces de esos órganos jurisdiccionales podían convocar a la realización de audiencias por esos medios, salvo “oposición fundada” de una de las partes (art. 11.1 inc. 2º), y que el juez y la parte o testigo que declararan debían comparecen en forma personal a la sede (art. 11.1 inc. 3º). Asimismo, se previó que en el marco de su independencia técnica, de acuerdo con la disponibilidad de recursos, y a la ausencia de oposición de las partes, los magistrados de las materias no comprendidas en el plan piloto también podrían celebrar las audiencias por videoconferencia (art. 11.2).    Se estableció que ese plan también sería aplicable a los asuntos de competencia de los Tribunales de Apelaciones en lo Civil, salvo oposición fundada de una de las partes, y de la SCJ (art. 11.3). Finalmente, en materia penal se habilitaron audiencias “semipresenciales”, en las que uno de los participantes podía intervenir desde un lugar distinto pero dentro de la sede judicial, para los casos de audiencias que debieran realizarse en forma presencial, cuando no fuera posible hacerlo por razones de infraestructura (art. 12.2); se admitió que el imputado participara desde el centro de reclusión y su defensor desde la sala de audiencias u otro lugar, con ciertos requisitos (art. 12.3); y para las audiencias de juicio oral se previó la posibilidad de que el imputado participara desde el centro de reclusión por videoconferencia, o por el régimen “semipresencial” (art. 12.4).

Al comentar ese régimen señalé que era una gran noticia que el sistema de justicia decidiera avanzar decididamente hacia un régimen de audiencias por videoconferencia; para lo cual, como indiqué antes, no era imprescindible una reforma legislativa. Sin embargo, apunté que en este sistema no quedaba claro cuáles eran las razones “fundadas” para oponerse a la realización de una audiencia por videoconferencia. A mi juicio, esas razones solo podían vincularse con la existencia de una dificultad que en ese caso afectara las garantías básicas de la idea de proceso y, en especial, que impidiera la comunicación multidireccional de la imagen y el sonido en tiempo real, o el adecuado ejercicio del derecho de defensa; aunque anoté que hubiera sido bueno que estas exigencias se establecieran en la regulación, como requisitos imprescindibles para el uso de esta técnica.

Durante la preparación del proyecto de Presupuesto Nacional, a fines de 2020, la SCJ remitió al Parlamento un borrador de artículo sobre la realización de audiencias por videoconferencia. En conocimiento de esa iniciativa, el Colegio de Abogados del Uruguay presentó una nota para impulsar nuevamente el análisis del proyecto presentado en abril de ese año, e incluso propuso un nuevo texto ajustado, con algunas modificaciones, para que fuera considerado en la discusión parlamentaria.

Finalmente, el artículo 539 de la ley 19.924, 18 de diciembre de 2020, correspondiente al “Presupuesto nacional de sueldos gastos e inversiones. Ejercicio 2020-2024”, agregó al Código General del Proceso un artículo 64-BIS con el siguiente texto:

Autorízase en todos los procesos judiciales regidos por este Código, en situaciones excepcionales, la utilización de videoconferencia u otros medios telemáticos idóneos para la realización de cualquier audiencia. La Suprema Corte de Justicia calificará las situaciones de excepción y reglamentará la procedencia y utilización de tales medios. El Tribunal dispondrá la utilización de los referidos medios telemáticos, y proveerá a los efectos de que en las audiencias por videoconferencia se asegure la comunicación multidireccional y simultánea entre todos los sujetos actuantes y el respeto de los principios del debido proceso y el derecho de defensa.

Podrán ser diligenciados por videoconferencia la declaración de parte, la declaración de testigos y el examen en audiencia de la prueba pericial, en los supuestos a que refieren los artículos 152, 160 y 183 de este Código, siempre que la parte, el testigo y el perito declaren en forma presencial ante la Sede o en la comisionada a tales efectos.

En el marco restringido de este aporte me limitaré a realizar algunas reflexiones generales sobre este régimen, que es el actualmente vigente.

Sin duda que es importante que por primera vez la ley autorice en forma expresa la realización de audiencias a través de videoconferencia “u otros medios telemáticos idóneos”. Esta última expresión es interesante, porque deja abierta la posibilidad de aprovechar nuevas aplicaciones que se desarrollen en el futuro.

También entiendo que es muy positiva la determinación del alcance de la regla que se consagra: estas tecnologías pueden utilizarse para la “realización de cualquier audiencia” (destacado mío). De modo que con este marco legal es muy claro que es posible realizar cualquier tipo de audiencia por estos medios, y no solo ciertas audiencias de producción de prueba. Por ejemplo, como sostuvimos algunos autores antes de esta solución legal, sería posible realizar una audiencia preliminar de proceso ordinario, una audiencia complementaria, una audiencia única de un proceso incidental, etc.

Sin embargo, como el artículo se incorpora al CGP, su alcance se restringe a los “procesos judiciales regidos por este Código”. Es decir que quedan fuera del ámbito de aplicación de esta solución todos los procesos excluidos del sistema del CGP. A mi juicio era preferible la solución del anteproyecto del Colegio que autorizaba el uso de la videoconferencia con alcance general.

Desde otra perspectiva, el texto aprobado reduce la aplicación a supuestos excepcionales, y se encarga a la SCJ la calificación de esas situaciones excepcionales y la reglamentación de la procedencia y uso de estas tecnologías. Se descartan así otras posibilidades más amplias, que permitirían explorar formas de coexistencia con el sistema tradicional.

En otro orden, se consagra una solución similar a la que propusimos desde el Colegio, tomada a su vez de algunos modelos comparados^[21], que busca salvaguardar la efectiva posibilidad de comunicación multidireccional y simultánea entre los partícipes del acto, que permita la realización fluida del acto oral, y el respeto del debido proceso y el derecho de defensa.

            Por ejemplo:

• Es muy importante que en todo momento se asegure el derecho de la parte a comunicarse libre y privadamente con su abogado durante todo el transcurso de la audiencia. A ese efecto el sistema debería permitir la comunicación permanente, por canales no accesibles para los demás partícipes del proceso (incluyendo el envío de archivos) salvo en aquellos supuestos en que la ley excluye esa comunicación (ej., durante el transcurso de la declaración de esa parte).
• Se debe controlar adecuadamente el acceso de personas a la sala de audiencias y adoptar medidas tendientes a evitar intromisiones que afecten el regular desarrollo de la audiencia o la correcta práctica de pruebas.
• Se deben tomar definiciones acerca de la forma de publicidad externa de la audiencia (p. ej., la transmisión de la audiencia por plataformas públicas, en vivo o diferidas).

La disposición legal reitera las soluciones reglamentarias anteriores: se puede diligenciar por videoconferencia la declaración de parte, la declaración de testigos y el examen en audiencia de la prueba pericial, en los supuestos a que refieren los artículos 152, 160 y 183 del CGP, siempre que la parte, el testigo y el perito declaren en forma presencial ante la Sede o en la comisionada a tales efectos.

En estos casos no se necesita la calificación de excepcionalidad que establece el primer inciso del art. 64-BIS: basta que se verifique alguno de esos supuestos para que proceda el uso de la tecnología.

A mi juicio, la habilitación expresa de estos supuestos no excluye el uso de la videoconferencia para la producción de otras pruebas como el careo de testigos o de testigos con una parte, o la realización de una inspección judicial o una reproducción con partícipes que estén “a distancia” a través del sistema de comunicación, etc., pero en estos casos siempre que el caso ingrese en alguno de los supuestos de excepcionalidad que defina la SCJ de acuerdo a lo previsto en el primer inciso.

En cualquier caso, esta audiencia también debe respetar las exigencias mínimas que, a modo de ejemplo, señalé antes.

Se establece expresamente la necesaria presencia en la sede judicial de la parte, el testigo o perito declarante. Esta presencia permite un control de identidad más efectivo, y el cumplimiento de las reglas que aseguran la genuinidad de la prueba, pero obviamente desnaturaliza la audiencia a distancia y la convierte en un híbrido, que no permite aprovechar todas las posibilidades de la tecnología. Además, el sistema tiene falencias muy importantes, que a mi juicio afectan gravemente la calidad de la prueba que se obtiene. En efecto, dado que en las salas de audiencia existe un solo equipo con cámara disponible, el foco se dirige hacia el despacho del Juez, y no enfoca al testigo, perito o parte declarante. Por esa circunstancia, el abogado de la parte que interroga no puede ver al declarante, lo que obviamente es un severo condicionante al momento de formular las preguntas o apreciar las respuestas. En muchos casos, además, la distancia entre la silla en la que se encuentra sentado el declarante y el despacho del juez hace dificultosa la audición de la declaración, lo que, nuevamente, afecta la calidad del interrogatorio. A mi juicio, estas condiciones de aplicación del sistema son inaceptables bajo la idea de audiencia, y debería revisarse rápidamente; o suspender la aplicación hasta que se logre contar con salas de audiencia que hagan posible el cumplimiento de las condiciones mínimas para un interrogatorio de calidad.

Desde una mirada más general, a esta altura podría haberse habilitado la declaración del testigo, perito o parte directamente desde un lugar distinto, con algún sistema de control de identidad por medios biométricos o similares, y con ciertas pautas para realizar la declaración que permitan un control adecuado del acto.

Por supuesto que si en el futuro se decidiera habilitar que la parte, testigo o perito declare a distancia se deberían adoptar algunas medidas adicionales. A modo de ejemplo:

• Regular adecuadamente el acceso de los declarantes (testigos, peritos) a la audiencia, y adoptar medidas tendientes a evitar que se comuniquen entre sí durante la audiencia.
• Adoptar medidas que tiendan a excluir cualquier comunicación privada entre las partes y sus abogados y los testigos o peritos declarantes en el curso de la audiencia.
• Establecer medidas que permitan un adecuado control de cumplimiento de las reglas que rigen la declaración. Por ejemplo, exigir el uso de pantallas de ciertas características, con cámaras que enfoquen ampliamente el espacio en el que se encuentra el declarante, etc.

La doctrina ha entendido que sin perjuicio de la existencia de un sistema “oficial”, es perfectamente admisible la producción de prueba utilizando sistemas “no oficiales” de videoconferencia, siempre y cuando  se respeten los principios básicos de la idea de proceso.

Soba postula la admisibilidad de esta forma de producción cuando ambas partes estén de acuerdo con ciertas exigencias mínimas^[22].

Por mi parte, sostuve la misma idea, e incluso sin necesidad de que exista un consentimiento expreso de ambas partes, cuando sea la única vía para lograr la efectiva producción de la prueba en un tiempo razonable y  con ciertas exigencias mínimas que aseguren el respeto de los principios básicos del proceso^[23]. De hecho, existen experiencias prácticas en casos de testigos o partes radicados en el extranjero, cuando la práctica mediante exhorto puede suponer una demora irrazonable e incluso la posibilidad de frustración de la prueba.

Finalmente, el ya mencionado Anteproyecto de ley sobre utilización de tecnologías de la información y comunicación en procesos jurisdiccionales, previó lo siguiente:

Artículo 4. Autorízase a la Suprema Corte de Justicia y al Tribunal de lo Contencioso Administrativo a utilizar sistemas de videoconferencia o medios técnicos de la comunicación de similares características, para la realización de cualquier acto oral, en todos los procesos que se inicien o ya se estén tramitando ante el Poder Judicial o el Tribunal de lo Contencioso Administrativo, y sujeto a lo que aquellos órganos reglamenten, en cuyo caso, si no existiere una regulación legal específica resultará de aplicación lo dispuesto en el art. 64 bis del Código General del Proceso.

El juez o tribunal actuante dispondrá la utilización de los referidos medios telemáticos y proveerá a los efectos de que en las audiencias por videoconferencia se asegure la comunicación multidireccional y simultánea entre todos los sujetos actuantes y el respeto de los principios del debido proceso y el derecho de defensa.

Artículo 5. Los abogados, procuradores, escribanos públicos, contadores públicos y demás profesionales intervinientes son responsables del debido uso de los medios técnicos involucrados en los actos procesales que involucren documentos electrónicos firmados electrónicamente, y actos procesales orales que involucren la utilización de tecnologías de la información y comunicación, siendo pasibles de las consecuencias civiles y penales correspondientes, de comprobarse un uso indebido o fraudulento de los medios técnicos utilizados.

Artículo 6. Son razones de fuerza mayor para que una o ambas partes no presenten un escrito, o no comparezcan a una audiencia cuya incomparecencia tenga consecuencias negativas específicamente previstas para ella por la ley, un obstáculo tecnológico insalvable debidamente justificado que impida la presentación del escrito o la comparecencia de la parte o de su letrado patrocinante a la audiencia dispuesta.

La reglamentación podrá establecer mecanismos especiales para acreditar la existencia de tales causas de fuerza mayor.

Sin embargo, aunque tomó estado parlamentario, como ya dije, el proyecto no fue aprobado.

En cuanto al registro de las audiencias, la ley 19.090, de 14 de junio de 2013, dio un nuevo texto al art. 102 del CGP y ordenó a la SCJ establecer, por vía reglamentaria, las medidas necesarias para crear un sistema de registro de las audiencias a través de las nuevas tecnologías.

A través de la Ac. 7.880, de 24 de octubre de 2016, se aprobó el Reglamento de Registro de Audiencias mediante el uso del “Sistema Audire”, por el cual se graba el audio de la audiencia desde su inicio a su fin, sin interrupción en la grabación durante todo el desarrollo.

Posteriormente, la ley 19.670, de 15 de octubre de 2018, en sus arts. 237 a 244, reguló la forma de documentación, y su valor, ya sea para el caso de registro en audio o video^[24].

En cuanto a las notificaciones, como adelanté, la ley 18.237, de 26 de diciembre de 2007, autorizó las comunicaciones y el domicilio electrónico en el ámbito del Poder Judicial.

Por Ac. 7.637 de la SCJ, de 17 de setiembre de 2008, complementada por la Ac. 7.648 de 20 de abril de 2009, se reglamentaron las notificaciones electrónicas, y se creó la Unidad de Administración de Notificaciones Electrónicas (UANE), que administra el servicio de notificaciones electrónicas). La Ac. 7.768, de 22 de julio de 2013, aprobó los documentos sobre nuevas políticas y declaración de prácticas de certificación, así como un nuevo modelo de contrato para la concesión de certificado digital para firma electrónica. A su vez, la Ac. 7.644, de 20 de febrero de 2009, con la modificación de la Ac. 7.855, de 10 de diciembre de 2015, definió el domicilio electrónico, habilitó la realización de intimaciones electrónicas, y reglamentó su uso. Finalmente, la Ac. 8.017, de 18 de febrero de 2019, reguló la desactivación y reactivación de la cuenta de correo electrónico.

El sistema se empezó a aplicar desde 2009 y se implantó en todas las sedes conectadas a la red nacional judicial.

En el sistema vigente, tanto el actor como el demandado y los demás que comparezcan en el proceso, deben constituir domicilio procesal electrónico (art. 71.1 del CGP, en la redacción dada por la ley 19.090)^[25]. En ese domicilio se practican todas las notificaciones que deben realizarse a domicilio (v. art. 71 del CGP). Esas notificaciones se dirigen a las casillas de correo electrónico constituidas como domicilio electrónico, y pueden ser bajadas a un programa de correo o ser consultadas en el sitio de notificaciones del Poder Judicial^[26].

En la reglamentación se regula la forma de practicar la notificación, el momento en que se considera realizada, y el supuesto en que existen documentos en soporte papel para retirar. Por resolución 307/2021, de 19 de mayo de 2021, se previó la posibilidad de remitir documentación en formato virtual, agilitando y simplificando las comunicaciones procesales.

Por otra parte, la ley autoriza la comunicación a otras autoridades por cualquier medio idóneo (CGP, art. 90).

Por Ac. N° 7.691, de 13 de octubre de 2010, la SCJ aprobó el Sistema de Comunicaciones Electrónicas, que reglamenta el uso de las comunicaciones electrónicas entre sedes y oficinas del Poder Judicial.

A su vez, la Ac. Nº 7.986, de 26 de julio de 2018, estableció el uso obligatorio del correo electrónico institucional de cada Sede judicial como medio a través del cual se podrán intercambiar comunicaciones con los diferentes organismos públicos.

También debe tenerse en cuenta la Ac. 7.768, de 22 de julio de 2013, que como vimos aprobó los documentos sobre nuevas políticas y declaración de prácticas de certificación, así como un nuevo modelo de contrato para la concesión de certificado digital para firma electrónica.

3. En el sistema del TCA, el art. 666 de la ley 18.719, de 27 de diciembre de 2010, autorizó el uso del expediente electrónico, documento electrónico, clave informática simple, firma electrónica, firma digital, comunicaciones electrónicas y domicilio electrónico constituido, con idéntica eficacia jurídica y valor probatorio que sus equivalentes convencionales, y se facultó al referido tribunal para reglamentar su uso y disponer su implantación.

Sin embargo, en el curso de varios años de vigencia de la ley el TCA se limitó a reglamentar la realización de notificaciones e intimaciones por vía electrónica^[27]. En efecto, ese uso fue reglamentado por las acordadas del TCA 43, de 21 de noviembre de 2013, y 18, de 24 de junio de 2014.             En este sistema, para acceder a la notificación, el usuario debe ingresar con su usuario y clave al sistema de notificaciones electrónicas^[28]. Esta circunstancia hace que el sistema sea poco práctico, ya que para controlar las notificaciones recibidas el usuario debe, necesariamente, acceder al sistema en forma periódica. En la reglamentación también se regula la forma de practicar la notificación, que atañe a aspectos como el momento en que se considera realizada y en el supuesto de que existan documentos en soporte papel para retirar^[29].

Recientemente se aprobó el Código de lo Contencioso Administrativo (CCA), ley 20.333, de 11 de setiembre de 2024, redactado por una comisión creada por la ley 20.010 que tuve el privilegio de integrar.

Este Código prevé una amplia utilización de las TIC en el sistema de justicia administrativa.

El art. 77 de este Código, denominado “Tecnologías de la información y la comunicación”, contiene un mandato de optimización: en los procesos ante el TCA debe procurarse la utilización de las referidas tecnologías (en adelante: TIC), en la realización de los actos procesales, y en el desarrollo de las actividades (funciones procesales)[30].

A partir del CCA, como derivación concreta de la regla general del art. 77, se autoriza la realización de actos procesales escritos por medios electrónicos o telemáticos (80).

En cuanto al ámbito de aplicación se aclara que esta autorización comprende a todos los actos escritos, “realizados por cualquier sujeto del proceso”, y sea que se trate del primer acto o de los ulteriores, y para realizar cualquier actividad o función procesal. Por consiguiente, están habilitados a realizar actos escritos mediante estas tecnologías no solo las partes y terceros, y el tribunal, es decir, los sujetos principales, sino también los sujetos secundarios, como podría ser el PECA, un perito, un informante, etc. Pero además, se admite la posibilidad de realizar por estos medios no solo los actos llamados “endoprocesales”, es decir, aquellos que se verifican luego de la primera comparecencia, sino también, precisamente, el acto inicial, como podría ser, por ejemplo, la demanda o la contestación, etc. Por su amplitud, el sistema se asemeja a los sistemas comparados que fueron modelo de esta transformación, como el alemán o italiano^[31].

A los efectos de posibilitar una aplicación seria y planificada, se establece que será el TCA el encargado de reglamentar el sistema, siempre que cuente con las posibilidades de implementación. En efecto, hubiera sido un desatino imponer la aplicación de este sistema sin saber cuándo, y en qué medida, el Tribunal contará con los recursos necesarios y suficientes para realizar la inversión en personal (contrataciones de ser necesarias, capacitación) y los medios tecnológicos necesarios.

La Ac. Nº 69, de 16 de octubre de 2024, estableció que mientras no sea implementado, por vía reglamentaria, el sistema “electrónico”, “todos los actos procesales” (se entiende, escritos) del sistema orgánico TCA, salvo los que sean objeto de una regulación especial, se realizarán en formato papel (num. 5). Esperamos que prontamente se pueda implementar el nuevo sistema, y dar el salto tecnológico que, indudablemente, transformará el sistema de justicia administrativa.

Al igual que las soluciones comparadas recientes, se habilita la presentación del acto escrito mediante documento suscripto con firma del compareciente que puede ser autógrafa y digitalizada, firma electrónica común o firma electrónica avanzada, todo bajo responsabilidad del abogado patrocinante, que firmará con firma electrónica avanzada “o por cualquier otro medio que permita verificar la autenticidad e integridad del acto de acuerdo a lo que se defina en la reglamentación”.

De este modo se opta por el criterio de neutralidad tecnológica y se consagra una solución abierta a la utilización de cualquier tecnología que, actualmente o en el futuro, pueda alcanzar esos umbrales mínimos de regularidad del acto escrito digital: la verificación de su autenticidad, es decir, que el acto se realiza por un autor cierto, por quién dice ser; y la verificación de su integridad, es decir, que el acto se mantiene incólume, que no fue alterado en el “camino”, desde su emisión y hasta su recepción en el sistema.

Por otra parte, se reconoce al abogado patrocinante una función trascendente en el sistema a implementar: será él quien deberá remitir el documento suscripto por el compareciente bajo cualquiera de las modalidades mencionadas, bajo su responsabilidad y por el sistema que se determine. Como ha señalado Picardi para el caso italiano, esta solución valoriza la función del abogado^[32].

A los efectos de la reglamentación del sistema, puede tenerse en cuenta el antecedente del anteproyecto que oportunamente elaboramos desde el Colegio de Abogados del Uruguay ante el advenimiento de la pandemia del Covid-19^[33]. Así, entre otras cosas, hay que resolver cuál será la tecnología a utilizar y su implementación; los días y horarios en que el escrito puede ser presentado; si se admite la presentación en días u horas inhábiles si el escrito se considera presentado el primer día hábil siguiente; la conservación, por el abogado, del escrito original en caso que sea suscripto por el compareciente con firma autógrafa, el deber de presentarlo cuando se le requiera, hasta qué momento debe conservarlo, etc.; la forma de remitir, en su caso, documentos adjuntos o anexos al escrito, y las excepciones para ciertos casos de documentos que, por su volumen, “peso” o características no sea posible anexar a la remisión digital; las soluciones para el caso de dificultades de funcionamiento permanentes o transitorias del sistema; el sistema de confirmación de recepción del escrito y sus anexos a que refiere el art. 85 inc. final; etc.

Debe tenerse presente, además, que en el caso de estas presentaciones electrónicas o telemáticas no será necesaria la presentación de las copias del escrito a que refiere el art. 85 inciso final.

En el caso de sujetos del proceso que no actúen mediante abogado, como podría ser un perito, la reglamentación podrá prever la autorización para realizar estos actos escritos bajo su propia firma electrónica avanzada, o cualquier otra tecnología que satisfaga los umbrales mínimos ya mencionados.

En cuanto a las audiencias, el CCA, a diferencia de los antecedentes referidos al Poder Judicial, habilita el uso de esta técnica para la realización de cualquier audiencia, sin establecer que esa posibilidad sea excepcional, sin limitarla a la práctica de pruebas, y sin exigir la presencia de ninguna persona participante de la audiencia en la sede del tribunal.

De modo que, bajo este sistema, se puede realizar cualquier audiencia del sistema de justicia administrativa, y a esa audiencia cualquiera de los partícipes (abogados, partes, testigos, peritos) puede asistir en forma remota.

O sea que en el sistema del CCA la fijación de audiencias por videoconferencia no es excepcional, por lo que puede acudirse a este sistema en cualquier caso en que sea necesario o conveniente (por ejemplo, en el caso de partes, testigos o peritos domiciliados en el Interior del país o en el exterior). Esto permite que se construya una normal coexistencia de audiencias presenciales y mediante videoconferencia, que a mi juicio llevará, tendencialmente, a la predominancia de esta última.

Por otra parte, si por ejemplo declara un testigo, a diferencia del CGP, no es necesario que el testigo declare desde la sede del tribunal, sino que puede declarar desde su domicilio, lugar de trabajo, o donde se encuentre, bajo las condiciones mínimas que establece la ley.

En efecto, en el inciso segundo se consagra una solución similar a la que propusimos desde el Colegio, tomada a su vez de algunos modelos comparados^[34], que busca salvaguardar la efectiva posibilidad de comunicación continua, multidireccional y simultánea entre los partícipes del acto, que permita la realización fluida del acto oral, y el respeto del debido proceso y el derecho de defensa.

Con relación a las notificaciones, se prevé que en principio todas las providencias que se dicten fuera de audiencia se notificarán en el domicilio procesal electrónico constituido por la parte a notificar (84 y 101). De esa forma se eliminan totalmente las notificaciones en la oficina del Tribunal.

Finalmente, también se prevé la digitalización total del expediente (106).

3. En su país, ¿se lleva a cabo alguna reforma judicial que contemple la utilización de herramientas tecnológicas en la administración de justicia? De ser así, mencione dichos programas y los fundamentos legales utilizados para su implementación.

En Uruguay, en el marco del Programa de Fortalecimiento del Poder Judicial Uruguayo, hace ya varios años se realizó una tarea de normalización y estandarización de documentos, que tuvo como resultado dos libros que se registraron como propiedad intelectual del Poder Judicial. Por medio de esa tarea se buscó, entre otros cometidos, la simplificación y ahorro de tiempo en la elaboración de actos repetitivos.

Actualmente se utiliza el  Sistema de Gestión de Juzgados Multimateria (SGJM), que permite registrar en forma centralizada los actores involucrados en una causa y generar en forma digital toda la documentación asociada a la tramitación del expediente. La registración se realiza mediante una tramitación guiada y la estandarización de los documentos asociados^[35]. El sistema de tramitación guiada a través de un workflow posibilita la gestión con múltiples automatismos, dictar resoluciones a partir de textos normalizados, y generar en forma automática comunicaciones, control de los plazos, alarmas, constancias, etc. Se trata de un uso de la IA en la gestión de los expedientes, que se ha traducido en una importante mejora de los flujos de trabajo y de estandarización de trámites repetitivos.

Asimismo, se utiliza el “Sistema de Ingreso y Distribución de Expedientes” (SIDE), que es interoperativo con el SGTM.

Desde hace unos años también se utiliza el sistema de “Ventanilla Única Judicial”, que tiene como propósito ser el punto de acceso a los servicios web publicados por el Poder Judicial. Ese sistema permite vincular expedientes con el usuario, acceder a la consulta de movimientos de expedientes, agendas de audiencias, acceder a oficios, etc.

Por otra parte, como señalé antes, en el Poder Judicial se implementó la realización de notificaciones y otras comunicaciones por vía telemática y audiencias por videoconferencia, bajo la reglamentación que reseñé, y el TCA desarrolló las notificaciones por vía telemática, y ya ha comenzado a desarrollar la transformación tecnológica prevista en las disposiciones del reciente CCA.

4. ¿Existen leyes y/o reglamentos sobre IA (en general o, en específico, que atañen al sistema de justicia) ya aprobados en su país? ¿Cuáles son sus características principales? ¿Siguieron algún modelo de regulación ya existente fuera de Iberoamérica?

Sin perjuicio del marco normativo general emergente de las convenciones y constituciones que mencioné en la respuesta a la pregunta 1, en un nivel más específico resulta relevante prestar especial atención a los desarrollos de estándares y principios desde algunos organismos internacionales, regionales o estatales, sea para los distintos posibles usos de la IA o, en particular, en el marco de la definición de políticas públicas (y, especialmente, de políticas públicas de justicia).

A su vez, los Estados han trabajado en la definición de grandes líneas de política pública que van por el mismo camino que el marco normativo internacional.

En el caso uruguayo, en 2020 aprobó la Estrategia de Inteligencia Artificial para el Gobierno Digital desarrollada por el gobierno uruguayo en 2020^[36], en la que se enuncian principios similares a los definidos en los instrumentos elaborados por los organismos internacionales.

A su vez, desde junio 2023 Uruguay desarrolla un proceso participativo para la revisión de la referida Estrategia Nacional de Inteligencia Artificial (IA) y la elaboración de la Estrategia Nacional de Datos.

En ese marco, el 8 de junio de 2023 Uruguay se adhirió a la Recomendación sobre la ética de la inteligencia artificial de la UNESCO, de 2021^[37].

Este documento pretende, entre otros objetivos, proporcionar un marco universal de valores, principios y acciones para orientar a los Estados en el diseño de sus leyes, políticas e instrumentos relativos a la IA, de conformidad al marco normativo internacional (num. 8). En su texto se reseñan ciertos valores como el respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana, la prosperidad del medio ambiente y ecosistemas, garantizar la diversidad y la inclusión y vivir en sociedades pacíficas, justas e interconectadas (nums. 13 a 25)^[38]; y algunos principios como la proporcionalidad e inocuidad, seguridad y protección, equidad y no discriminación, sostenibilidad, intimidad y protección de datos, supervisión y decisión humanas, transparencia y explicabilidad, responsabilidad y rendición de cuentas, sensibilización y educación, gobernanza y colaboración entre múltiples partes interesadas (nums. 26 a 47).

Más recientemente, en el marco de la 4ª Asamblea de la Alianza Europea de Inteligencia Artificial (IA) la presidencia española del Consejo de la Unión Europea (UE) promovió una declaración que compromete a los países de Europa, Latinoamérica y el Caribe a avanzar en la cooperación conjunta de políticas y marcos regulatorios de esta tecnología, con el objetivo de regular la IA para garantizar mejores condiciones de desarrollo y uso con foco en derechos humanos. El reglamento define ciertos “requisitos basados sobre los riesgos para la seguridad y los derechos fundamentales que deberán ser respetados por proveedores de sistemas de IA”. Uruguay, y otros países de Latinoamérica, suscribieron este acuerdo[39].

En ese mismo contexto, el art. 74 de la ley 20.212, de 6 de noviembre de 2023[40],    atribuyó a la Agencia para el Desarrollo del Gobierno de Gestión Electrónica y la Sociedad de la Información y el Conocimiento (AGESIC) el cometido de “diseñar y desarrollar una estrategia nacional de datos e inteligencia artificial basada en estándares internacionales, en los ámbitos público y privado”, con la participación la Unidad Reguladora y de Control de Datos Personales (URCDP) en todo lo que tiene que ver con el tratamiento de datos personales.

En esa ley se indica que la estrategia “deberá fundarse en principios de equidad, no discriminación, responsabilidad, rendición de cuentas, transparencia, auditoría e innovación segura, respetando la dignidad humana, el sistema democrático y la forma republicana de gobierno”, y que los principios de la protección de datos personales incluidos en la ley 18.331, de 11 de agosto de 2008, serán parte de la citada estrategia.

Finalmente, el 1º de octubre de 2024 Uruguay se adhirió a la Recomendación del Consejo sobre Inteligencia Artificial (IA) adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económico (OCDE)[41].

El proceso de trabajo de la revisión de la Estrategia Nacional sobre IA está llegando a su fase final este mes.

5. ¿Qué sistemas de IA ya se vienen implementando en la administración de justicia en su país? Para ello tenga en cuenta lo siguiente:
6. Diferencie entre sistemas de automatización, sistemas que sean asistentes legales o sistemas que realizan clasificaciones en general.
7. Diferencie entre sistemas aplicados en la adopción de decisiones judiciales, disposiciones fiscales, sistemas aplicados a actos administrativos o a aspectos de trámite procedimental. Precise, además, si son sistemas concernientes específicamente al proceso judicial o a la administración de justicia en general.
8. Describa el funcionamiento del sistema y, de ser posible, indique qué técnicas de IA fueron empleadas (NPL, machine learning, etc.)

A pesar de todos los desarrollos normativos antes mencionados, como surge del “Relevamiento de casos de uso de aplicación de inteligencia artificial en el Estado”, el Poder Judicial uruguayo declaró no estar entre los organismos que cuentan con casos actuales de aplicación de inteligencia artificial[42].

Como excepción, aunque no se haya relevado en ese documento, los sistemas de gestión de tribunales que mencioné antes: Sistema de Gestión de Juzgados Multimateria (SGJM) y “Sistema de Ingreso y Distribución de Expedientes” (SIDE), que se han desplegado progresivamente en los juzgados de todo el país.

En su estado actual las funcionalidades del sistema son las propias de un sistema de gestión y automatización de algunos pasos del expediente.

6. ¿Existen sistemas de IA que estén siendo entrenados o propuestos en la actualidad o que hayan sido descartados? Tenga en cuenta las diferencias de la pregunta anterior.

No.

7. ¿Existen experiencias específicas (ajenas a una adopción de política pública; por ejemplo: usadas por un juez o fiscal por propia iniciativa) de uso de sistemas de IA que se hayan aplicado en el marco del sistema de justicia de su país? ¿En qué causas fueron utilizadas?

No conozco ninguna experiencia de ese tipo.

8. ¿Existen estadísticas que midan la mejora o impacto de los sistemas de IA que vienen siendo aplicados en su país?

No.

9. ¿Tiene alguna valoración respecto del empleo de los sistemas de IA que vienen siendo aplicados en su país?

Como indiqué antes, no existen supuestos de aplicación, salvo los sistemas de gestión de tribunales. Esos sistemas han supuesto una significativa mejora en cuanto al ingreso y seguimiento del caso, y el acceso a algunos documentos del expediente, y es de esperar que, conjuntamente con el sistema de Ventanilla Judicial Única, sean la base para el desarrollo de un sistema de realización de actos por medios a distancia.

10. ¿Cuáles serían las posibles amenazas que usted visualiza con la aplicación de sistemas de IA en la administración de justicia? Incluya cualquier información adicional que considere relevante para esta investigación.

Entiendo que hay dos grandes líneas a las que debemos prestar atención: la vinculada con el respeto a los derechos humanos y la que refiere al respeto a la propia idea de proceso jurisdiccional.

En la primera línea mencionada es claro que el diseño de un sistema de justicia con IA sólo se puede admitir para lograr mejores formas de administración de justicia: sistemas más eficientes, que den respuestas previsibles y racionales, y que ayuden a evitar decisiones jurisdiccionales contradictorias. Pero de ninguna forma se puede admitir – ni siquiera para lograr esos objetivos – que el sistema resultante se constituya en un instrumento para la vulneración de los derechos humanos fundamentales.

Es que el uso de estos sistemas puede muchas veces funcionar como un instrumento reproductor e incluso acentuador de sesgos inadmisibles, lo que puede potenciar diversas formas de discriminación, prejuicios y estereotipos, o acentuar vulnerabilidades o desigualdades pre-existentes^[43].

Ante ello se han propuesto distintas soluciones y a su vez han surgido nuevos desafíos: se debe prestar atención a los requisitos en la selección del personal que elabora y desarrolla los algoritmos; se plantea la cuestión del control del funcionamiento de esos algoritmos (develar la black box); hay que determinar cuáles son los órganos encargados del control de ese funcionamiento (un moderno “Quis custodiet ipsos custodes?”); etc. Regulación, transparencia, controles, rendición de cuentas, son los temas centrales para el debate sobre este tema.

En directa relación con lo anterior se debe prestar especial atención a que el tratamiento de datos personales en estos sistemas respete los estándares de protección asegurados por la normativa.

Es claro que para evitar la vulneración de personas o grupos de personas no sólo se debe implementar un sistema que permita prevenir el desarrollo e intensificación de cualquier forma de discriminación^[44], sino que también se debe eliminar o neutralizar cualquier forma de discriminación que pueda surgir durante la ejecución del sistema.

En la segunda línea mencionada existen ciertos límites normativos básicos derivados de la idea de proceso reconocida en la normativa internacional y constitucional^[45].

Por ejemplo, un sistema de este tipo no puede traducirse en un obstáculo para el acceso al proceso^[46], especialmente en el caso de las personas que forman parte de sectores o colectivos vulnerables. Por consiguiente, como sociedades organizadas debemos trabajar en la inclusión de estas cuestiones en los sistemas formales de educación (alfabetización informática), la capacitación y entrenamiento específico de los operadores, y el diseño de sistemas sencillos y transparentes.

En otro orden, la opacidad de los sistemas de IA^[47] también se pueden producir graves afectaciones al derecho de defensa (como las denunciadas en el caso “Loomis”, sobre el sistema “COMPAS” y otros similares). Frente a esos posibles problemas también se han pensado distintas soluciones y se han planteado nuevos desafíos: se postula que el algoritmo debe ser necesariamente público; que no puede sustituir la necesidad de motivación de las sentencias^[48]; se resignifica la función de control o impugnación, y por ello se produce un cambio del sentido de la defensa: ahora se trata de saber cómo la máquina ayudó a sentenciar.

Adicionalmente, el derecho a ser juzgado por un tribunal supone una decisión adoptada por una persona o un conjunto de personas humanas, por lo que la función jurisdiccional no debería “cederse” a un sistema de IA^[49]. Este límite excluye la idea de un artificial decision maker que adopte decisiones definitivas: es perfectamente posible utilizar un sistema de IA para apoyar en el cumplimiento de la función jurisdiccional, pero la decisión final debe atribuirse a la persona o personas que ejercen esa función y, por supuesto, la responsabilidad última también debe adjudicarse a ellas^[50].

También se plantean desafíos en el plano de la independencia^[51]: las causas que pueden afectar la independencia del juez no afectan al algoritmo, pero el problema se traslada a quien lo elabora; lo que, nuevamente, nos lleva a la cuestión del diseño, desarrollo y utilización de de estos sistemas.

Finalmente, en un plano más general, la exigencia de un juicio justo excluye la adopción de decisiones que se aparte de la verdad de los hechos y de la utilización del derecho aplicable al caso. La utilización de deepfakes como evidencia[52], o la creación “alucinaciones” acerca del derecho aplicable^[53] son riesgos que afectan aquel derecho fundamental.

Como vemos, casi todas estas exigencias se vinculan, en definitiva, con la forma en que el sistema de IA ayuda al ejercicio de la función jurisdiccional.

En este aspecto es clave que los modelos sean diseñados con enfoques multidisciplinarios, en el que no sólo deben participar ingenieros o expertos en software sino, especialmente, operadores de los sistemas de justicia y expertos en derecho y otras áreas sociales (filósofos, sociólogos, economistas).

En un reporte de 2017, el comité sobre el uso de la IA creado en el seno de la House of Lords del Reino Unido destacó que sólo se deberían licenciar sistemas críticos de IA que satisfagan un conjunto de tests estandarizados, y con un alto grado de inteligibilidad acerca de la forma en que se toman las decisiones; y advirtió que una posible solución sería utilizar códigos de fuente abierta^[54]. Sin embargo, como se indica en la Carta Ética Europea de 2018, la posibilidad de que se implemente un código totalmente abierto es poco probable, ya que las empresas privadas pretenderán que el algoritmo se considere como software comercialmente protegido. De todos modos, sí sería posible exigir que cierto tipo de información sea compartido con los encargados auditar el funcionamiento del sistema y que, en definitiva, exista una certificación pública permanente, basada en auditorías realizadas por expertos o autoridades independientes^[55].

También se ha advertido sobre el riesgo de que a largo plazo un sistema de IA adopte decisiones judiciales estandarizadas basadas no en el razonamiento caso por caso de los jueces sino en cálculos estadísticos^[56]. Para evitar esto, nuevamente, la decisión final siempre debe depender del juez del caso concreto, a quien se atribuye la función jurisdiccional, y que responde por su ejercicio.

Como se advierte en el Libro Blanco sobre IA de la Comisión Europea, el único enfoque que se debe respaldar al momento de diseñar una política pública sobre el tema es el antropocéntrico, es decir, aquél que procura el desarrollo de una inteligencia artificial centrada en el ser humano^[57].

Esa mirada requiere, necesariamente, que pensemos en el uso de la IA para llegar a mejores formas de hacer justicia. Para eso, los expertos en derecho (y de otras disciplinas del área social) debemos estar dispuestos a estudiar, pensar y debatir sobre estos temas junto a los informáticos, matématicos e ingenieros de sistemas.

Para eso debemos estar dispuestos a pensar con cierta dosis de audacia y a la vez de ponderación, pero sobretodo de compromiso; porque pocas veces las puertas de la academia han sido golpeadas tan insistentemente exigiendo respuestas claras en tiempos de definiciones impostergables.

[1] “Nadie puede ser penado ni confinado sin forma de proceso y sentencia legal”.

[2] “La enumeración de derechos, deberes y garantías hecha por la Constitución, no excluye los otros que son inherentes a la personalidad humana o se derivan de la forma republicana de gobierno”.

[3] La única referencia constitucional a la importancia de la “ciencia” y la “técnica” es a su investigación y enseñanza: “El Estado propenderá al desarrollo de la investigación científica y de la enseñanza técnica” (70).

[4] “La ley fijará el número de Juzgados Letrados de la República, atendiendo a las exigencias de la más pronta y fácil administración de Justicia, y señalará los lugares de sede de cada uno de ellos, sus atribuciones y el modo de ejercerlas”

[5] “Los Jueces de Paz durarán cuatro años en el cargo y podrán ser removidos en cualquier tiempo, si así conviene a los fines del mejor servicio público”.

[6] En trabajo reciente señalé que una de las condiciones básicas para el diseño de algunas bases para la aplicación de la IA en los sistemas de justicia es que el uso de esa tecnología “sólo se justifica para lograr mejores formas de administrar justicia (más eficientes, más previsibles),  pero  necesariamente  debe  ser respetuosa de los derechos y libertades reconocidos a todas las personas en el marco normativo internacional y constitucional”. V. Valentin, G., “Algunos apuntes para el diseño de bases normativas mínimas sobre la utilización de la inteligencia artificial en los sistemas de justicia”, Revista Uruguaya de Derecho Procesal, 1-2/2023, p. 74. Recuperado a partir de https://revistas.fcu.edu.uy/index.php/rudp/article/view/4319.

[7] V. texto de la referida resolución en https://www.itu.int/net/wsis/docs/background/resolutions/56_183_unga_2002-es.pdf (consultado 31-10-2024).

[8] V. https://www.itu.int/dms_pub/itu-s/md/03/wsis/doc/S03-WSIS-DOC-0005!!PDF-S.pdf (consultado 31-10-2024).

[9] Aspis, A. (2010), “Las TICs y el Rol de la Justicia en Latinoamérica”, Derecho & Sociedad, (35), p. 331. Recuperado a partir de https://revistas.pucp.edu.pe/index.php/derechoysociedad/article/view/13311.

[10] Uruguay fue el primer país no europeo en adherirse a este Convenio (ley 19.030, de 27 de diciembre de 2012), y Argentina lo ratificó el 25 de febrero de 2019.

[11] Sobre estos límites v. Valentin, G., “Algunos apuntes para el diseño de bases normativas mínimas sobre la utilización de la inteligencia artificial en los sistemas de justicia” cit., pp. 72-76; Valentin, G., “Justitia ex machina: ¿puede la inteligencia artificial ayudarnos en la valoración racional de las pruebas?”, Instituto Colombiano de Derecho Procesal – Universidad Libre (Eds.), El futuro de la administración de justicia y de los métodos de resolucion de conflictos, XLV Congreso Colombiano de Derecho Procesal, 1ª ed., Bogotá D.C., 2024, pp. 121-127.

[12] Sobre este tema v.: Valentin, G., “La aplicación de las TIC a las categorías del proceso jurisdiccional: hacia una transformación del sistema procesal”, Revista Uruguaya De Derecho Procesal, 1-2/2020, 71- 114. Recuperado de https://revistas.fcu.edu.uy/index.php/rudp/article/view/4659.

[13] El sistema orgánico Tribunal de lo Contencioso Administrativo es el sistema de justicia que, según la Constitución, tiene a su cargo la sustanciación y decisión de pretensiones de nulidad de actos administrativos, y otros procesos de derecho público (Constitución: 309 y 313).

[14] “Procesos jurisdiccionales. Utilización de tecnologías de la información y comunicación”, C/138/20. Rep. 41.

[15] V. Valentin, G., “La aplicación de las TIC a las categorías del proceso jurisdiccional: hacia una transformación del sistema procesal” cit., pp. 83-85 y 87-89, y “El impacto de las TIC en el sistema del proceso la realización de audiencias mediante videoconferencia en Uruguay”, en Guerra Pérez, W. (Coord.), Estudios de Derecho Procesal y Litigación : Ponencias del VII Seminario Internacional de Derecho Procesal y Litigación, Asociación Uruguaya de Derecho Procesal Eduardo J. Couture, La Ley Uruguay, Montevideo, 2021.

[16] Garderes,  S. ,  “El  principio  de  inmediación  y las nuevas tecnologías aplicadas al proceso, con  especial  referencia  a  la  ‘videoconferencia’”, XI  Jornadas  Nacionales  y  XVIII  Jornadas Iberoamericanas de Derecho Procesal, 1ª ed., FCU, Montevideo, 2002, pp. 741-759); Valentin, G., “Las nuevas tecnologías en la gestión del Poder Judicial. Su importancia en las  categorías  del  proceso  jurisdiccional  (primera parte)”, Revista Uruguaya de Derecho Procesal, 3/2004, p. 281; Abal Oliú, A. bal  Oliú,  A.  (2016),  Derecho  Procesal,  t.  III,  5ª ed., FCU, Montevideo, p. 21; Umpiérrez Blengio, C. y Almeida Idiarte, R., “La videoconferencia al servicio de la actividad probatoria”, XIX Jornadas Nacionales de Derecho Procesal, FCU, Montevideo, 2019, pp. 145-155.

[17] En particular, como establecen los textos legales comparados, es clave que el sistema permita “a comunicação, por meio visual e sonoro, em tempo real” (Código de Processo Civil portugués, art. 502 num. 1º) o, más ampliamente,  “la comunicación bidireccional y simultánea de la imagen y el sonido y la interacción visual, auditiva y verbal entre dos personas o grupos de personas geográficamente distantes, asegurando en todo caso la posibilidad de contradicción de las partes y la salvaguarda del derecho de defensa” (art. 229 de la Ley Orgánica del Poder Judicial español).

[18] Los artículos del CPP a los que se remite esta acordada son los del CPP de 1980, actualmente derogado. En una interpretación evolutiva, esta remisión debería considerarse realizada a la audiencia de juicio u otras de contenido probatorio (p. ej., una audiencia de prueba anticipada) del nuevo CPP (ley 19.293, de 19 de diciembre de 2014, y modificativas).

[19] Umpiérrez Blengio, C. y Almeida Idiarte, R., “La videoconferencia al servicio de la actividad probatoria” cit., pp. 153-154.

[20] En las XIX Jornadas Nacionales de Derecho Procesal, celebradas en setiembre de 2019, Umpiérrez Blengio y Almeida Idiarte postularon la posibilidad de comparecer por esta vía a la audiencia complementaria (“La videoconferencia al servicio de la actividad probatoria” cit, p. 154). Por mi parte, al realizar el relato general en esas mismas jornadas, sostuve la posibilidad de utilizar esa tecnología para comparecer a cualquier audiencia.

[21] El art. 3.1 del anteproyecto del Colegio de Abogados del Uruguay incluyó el siguiente texto: “Autorízase la utilización de videoconferencias o medios técnicos de la comunicación de similares características, para la realización de cualquier acto oral, en todos los procesos que se inicien o ya se estén tramitando ante el Poder Judicial y ante el Tribunal de lo Contencioso Administrativo, y sujeto a lo que cada uno de ellos reglamente en el ámbito de su respectiva jurisdicción, siempre que se asegure la comunicación multidireccional y simultánea de la imagen y el sonido, la interacción entre todos los sujetos actuantes y el respeto de los principios del debido proceso y el derecho de defensa”. Como ya vimos, el art. 229 de la Ley Orgánica del Poder Judicial español establece que las declaraciones, interrogatorios, testimonios, careos, exploraciones, informes, ratificación de los periciales y vistas “(…) podrán realizarse a través de videoconferencia u otro sistema similar que permita la comunicación bidireccional y simultánea de la imagen y el sonido y la interacción visual, auditiva y verbal entre dos personas o grupos de personas geográficamente distantes, asegurando en todo caso la posibilidad de contradicción de las partes y la salvaguarda del derecho de defensa, cuando así lo acuerde el juez o tribunal”. A su vez, el art. 146 bis del Codice de Procedura Penale italiano, en la redacción modificada en 1998, establece que “Quando è disposta la partecipazione a distanza, è attivato un collegamento audiovisivo tra l’aula di udienza e il luogo della custodia, con modalità tali da assicurare la contestuale, effettiva e reciproca visibilità delle persone presenti in entrambi i luoghi e la possibilità di udire quanto vi viene detto” (num. 3).

[22] Soba  Bracesco,  I.,  “La  declaración  de  testigos  a  través  de  sistemas  de  videoconferencia:  ¿es  posible  la  coexistencia  de  sistemas  “oficiales” y “no oficiales” de videoconferencia?”, XIX  Jornadas  Nacionales  de  Derecho  Procesal, FCU, Montevideo, 2019, pp. 142-143.

[23] Valentin,  G.,  “Prueba  y  tecnología.  Relato  general para las XIX Jornadas Nacionales de Derecho Procesal”, 2019, p. 21.

[24] Sobre este sistema v.: Castro Bejérez, C., “Reflexiones acerca del sistema “Audire” y su adecuación a los principios del Derecho Procesal”, XIX Jornadas Nacionales de Derecho Procesal, FCU, Montevideo, 2019, pp. 167-178.

[25] El domicilio electrónico se provee por el Poder Judicial y consiste en el número de identidad y la extensión @notificaciones.poderjudicial.gub.uy.

[26] http://comunicaciones.poderjudicial.gub.uy.

[27] Acordada del TCA 43/2013. V. texto completo en: http://www.tca.gub.uy/leyes/Acordada43-13.pdf.

[28] https://notificaciones.tca.gub.uy/notificaciones/servlet/wlogine.

[29] V. art. 4º de la Ac. del TCA 43/2013.

[30] “Artículo 77 (Tecnologías de la información y la comunicación)

Deberá procurarse la utilización de las tecnologías de la información y la comunicación en la realización de los actos procesales, así como en el desarrollo de todas las actividades del proceso.

El Tribunal de lo Contencioso Administrativo reglamentará, en cada caso, lo dispuesto en este artículo”.

[31] Valentin, G. (2020b: 74-75 y 77-78).

[32] Picardi, N. (2019: 274).

[33] “Procesos jurisdiccionales. Utilización de tecnologías de la información y comunicación”, C/138/20. Rep. 41.

[34] El art. 3.1 del anteproyecto del Colegio de Abogados del Uruguay incluyó el siguiente texto: “Autorízase la utilización de videoconferencias o medios técnicos de la comunicación de similares características, para la realización de cualquier acto oral, en todos los procesos que se inicien o ya se estén tramitando ante el Poder Judicial y ante el Tribunal de lo Contencioso Administrativo, y sujeto a lo que cada uno de ellos reglamente en el ámbito de su respectiva jurisdicción, siempre que se asegure la comunicación multidireccional y simultánea de la imagen y el sonido, la interacción entre todos los sujetos actuantes y el respeto de los principios del debido proceso y el derecho de defensa”. A su vez, el art. 229 de la Ley Orgánica del Poder Judicial español establece que las declaraciones, interrogatorios, testimonios, careos, exploraciones, informes, ratificación de los periciales y vistas “(…) podrán realizarse a través de videoconferencia u otro sistema similar que permita la comunicación bidireccional y simultánea de la imagen y el sonido y la interacción visual, auditiva y verbal entre dos personas o grupos de personas geográficamente distantes, asegurando en todo caso la posibilidad de contradicción de las partes y la salvaguarda del derecho de defensa, cuando así lo acuerde el juez o tribunal”. En tanto, el art. 146 bis del Codice de Procedura Penale italiano, en la redacción modificada en 1998, establece que “Quando è disposta la partecipazione a distanza, è attivato un collegamento audiovisivo tra l’aula di udienza e il luogo della custodia, con modalità tali da assicurare la contestuale, effettiva e reciproca visibilità delle persone presenti in entrambi i luoghi e la possibilità di udire quanto vi viene detto” (num. 3).

[35] El Poder Judicial explica que se trata de un nuevo modelo de gestión de los despachos judiciales y oficinas de apoyo que impacta en todas las materias e instancias. Es un único sistema para todo el poder judicial que cambia la forma de visualizar y ejecutar las actividades diarias de la oficina. Se señalan como ventajas la seguridad, transparencia, agilidad en la tramitación, uniformización de los despachos judiciales, controles eficaces de los plazos procesales, estandarización de documentos, y consulta web completa y en tiempo real (V. en http://sgt.poderjudicial.gub.uy).

[36] Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento – Presidencia de la República Oriental del Uruguay (2020), Estrategia de Inteligencia Artificial para el Gobierno Digital, https://www.gub.uy/agencia-gobierno-electronico-sociedad-informacion-conocimiento/sites/agencia-gobierno-electronico-sociedad-informacion-conocimiento/files/documentos/publicaciones/Estrategia_IA – versión español.pdf (consultado 19-02-2022).

[37] UNESCO (2021), Recomendación sobre la ética de la inteligencia artificial, https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa(consultado 9-03-23).

[38] V.  Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (2022), Recomendación sobre la ética de la inteligencia artificial, aprobadas en la Conferencia celebrada en París del 9 al 24 de noviembre de 2021,https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa (consultado 9-03-23).

[39] V. el texto en https://www.lamoncloa.gob.es/serviciosdeprensa/notasprensa/asuntos-economicos/Documents/2023/171123-Statement%20on%20AI_EU_LAC_Final.pdf, consultado el 31-10-2024.

[40]    El texto establece lo siguiente:

“Atribúyese a la Agencia para el Desarrollo del Gobierno de Gestión Electrónica y la Sociedad de la Información y el Conocimiento (AGESIC) el cometido de diseñar y desarrollar una estrategia nacional de datos e inteligencia artificial basada en estándares internacionales, en los ámbitos público y privado. En todo lo que respecta al tratamiento de datos personales, será preceptiva la actuación conjunta con la Unidad Reguladora y de Control de Datos Personales (URCDP).

La estrategia deberá fundarse en principios de equidad, no discriminación, responsabilidad, rendición de cuentas, transparencia, auditoría e innovación segura, respetando la dignidad humana, el sistema democrático y la forma republicana de gobierno. Los principios de la protección de datos personales incluidos en la Ley N° 18.331, de 11 de agosto de 2008, serán parte de la citada estrategia.

Como parte de esta estrategia nacional de inteligencia artificial, se establece un plazo de ciento ochenta días para la presentación ante el Poder Legislativo de un informe y recomendaciones para su regulación legal, orientada a su desarrollo ético, la protección de los derechos humanos y, al mismo tiempo, el fomento de la innovación tecnológica.

Para el cumplimiento de sus cometidos, AGESIC podrá establecer grupos de trabajo, comités asesores y otros mecanismos de participación que incluyan las perspectivas de actores del sector público, del sector privado, de la academia y de la sociedad civil organizada.

AGESIC realizará recomendaciones específicas a entidades del sector público y del sector privado para el desarrollo e implementación de los sistemas de inteligencia artificial mencionados, y para la fiscalización de su cumplimiento, sin perjuicio de las competencias propias de la URCDP y de otras entidades públicas en sus respectivos ámbitos de actuación”.

[41] V. el texto en https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449, consultado el 31-10-2024.

[42] V. el documento en https://www.gub.uy/agencia-gobierno-electronico-sociedad-informacion-conocimiento/comunicacion/publicaciones/relevamiento-casos-uso-aplicacion-inteligencia-artificial-estado-0, consultado el 31-10-2024.

[43] El Consejo de Europa ha advertido sobre este riesgo, en particular para el caso de prejuicios raciales o de género (Libro Blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza cit., p. 14). V., sobre este tema, la entrevista a la Ing. Fiorella Haim, gerenta del Plan de Conectividad Educativa de Informática Básica para el Aprendizaje en Línea (conocido como “Plan Ceibal”) de Uruguay: https://enperspectiva.uy/home/como-evitar-que-la-inteligencia-artificial-replique-los-sesgos-de-genero-entrevista-con-la-gerenta-general-de-ceibal-fiorella-haim/, 8 de marzo de 2023.

[44] V. principio 2 de la Carta Ética Europea sobre el uso de la Inteligencia Artificial de 2018.

[45] V. Ronsin, X., Lampos, V. y Mäitrepierre, A. “Estudio en profundidad sobre el uso de la IA en los sistemas judiciales, en particular las aplicaciones de IA que procesan datos y decisiones judiciales”, publicado como Apéndice I de la Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno, adoptado por la European Commission for the Efficiency of Justice (ECEJ) en Estrasburgo, los días 3 y 4 de diciembre de 2018, apartado 8. Sin embargo, no podemos descartar que, en el futuro, se puedan pensar fórmulas de composición de conflictos, formas de hacer “justicia”, distintas a todo lo que actualmente conocemos. A modo de ejemplo sugiero leer las lúcidas y provocadoras reflexiones de Pastor (“¿Jueces penales digitales?”, XXXI Congreso Nacional de Derecho Procesal. Un proceso para una nueva justicia, Poder Judicial de la provincia de Mendoza / Asociación Argentina de Derecho Procesal, Mendoza, 2022, pp. 58-71).

[46] V. principio 1 de la Carta Ética Europea sobre el uso de la Inteligencia Artificial de 2018.

[47] V. ampliamente sobre estos problemas: Julià-Pijoan, M., La computarización del derecho, a partir del proceso y de los procedimientos judiciales, Dykinson S.L., Madrid, 2024, pp. 80-95.

[48] Por ejemplo, no sería aceptable que se declarara la nulidad de un contrato sólo porque el sistema que aplica el algoritmo concluye que el negocio fue simulado: es necesario que la decisión se apoye y justifique en razones objetivamente controlables. Sobre el impacto en la motivación v.: Garín, S., “La motivación de las resoluciones judiciales y las herramientas de Inteligencia Artificial con enfoque predictivo en los sistemas de raíces Latinas”, Tribuna del Abogado, Nº 219, Colegio de Abogados del Uruguay, Montevideo, 2021, pp. 12-19.

[49] Los expertos se han preguntado si existe un consentimiento social para transferir algunas de las funciones de la administración de justicia a un sistema de IA (Siemaszkiewicz, M., “The Application of Artificial Intelligence in Polish Civil Proceedings”, University of Wroclaw, Wroclaw, Poland, 2017, https://nms.kcl.ac.uk/icail2017/dcpdf/siemaszkiewicz.pdf, p. 8; consultado 19-02-2022). Más allá de esta perspectiva, indudablemente válida, es claro que existen límites normativos infranqueables derivados de la idea de proceso que el sistema internacional y nuestras constituciones reconocen.

[50] Como se establece en la Recomendación sobre la ética de la inteligencia artificial de la UNESCO de noviembre de 2021, párrafo 36: “Puede  ocurrir  que,  en  algunas  ocasiones,  los  seres  humanos  decidan  depender  de  los sistemas  de  IA  por  razones  de  eficacia,  pero la  decisión  de  ceder  el  control  en  contextos limitados  seguirá  recayendo  en  los  seres  humanos,  ya  que  estos  pueden  recurrir  a  los sistemas de IA en la adopción de decisiones y en la ejecución de tareas, pero un sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos y su obligación de rendir cuentas. Por regla general, las decisiones de vida o muerte no deberían cederse a los sistemas de IA”.

[51] Nieva Fenoll, J., Inteligencia artificial y proceso, 1ª ed., Marcial Pons, Madrid, 2018, pp. 128-139.

[52] V. Nieva Fenoll, J., “La prueba de los deepfakes pornográficos: I.A. sobre I.A.”, La Ley, Nº 10516, Sección Tribuna, 30 de Mayo de 2024.

[53] Como se indica en el Kit de la UNESCO, “Esto es particularmente peligroso en el sistema judicial: hemos tenido diferentes instancias en los últimos meses de jueces que confían en ChatGPT para dar su opinión sobre la jurisprudencia existente con respecto a la cuestión legal. Esto se informó en Colombia en un caso de seguros, e incluso en la India (juez del Tribunal Superior de Punjab y Haryana). La salida alucinada puede resultar extremadamente problemática, especialmente para la resolución” (UNESCO, Kit de herramientas global sobre IA y el estado de derecho para el poder judicial, 2023, https://unesdoc.unesco.org/ark:/48223/pf0000387331_spa, p. 70; consultado 1-09-2024).

[54] House of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19 AI in the UK: ready, willing and able?, apartados 94 y 95. Aunque, como se reconoce en el mismo informe, ni siquiera la utilización de un sistema de código abierto sería suficiente; ya que no se podría controlar los datos ingresados en cada caso, y de hecho el sistema puede comportarse de modo diferente con diferentes conjuntos de datos.

[55] V. principio 4 de la Carta Ética Europea sobre el uso de la Inteligencia Artificial de 2018, nota al pie 3.

[56] Ronsin, X., Lampos, V. y Mäitrepierre, A. “Estudio en profundidad sobre el uso de la IA en los sistemas judiciales, en particular las aplicaciones de IA que procesan datos y decisiones judiciales” cit., apartado 7.

[57] Comisión Europea, Libro Blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza, Bruselas, 2020, p. 3.