El uso de la inteligencia artificial (IA) genera polémica y esta vez, la controversia se dio por la utilización de esta herramienta en el mundo de las leyes. Un juez utilizó la IA para redactar la parte central de un fallo y cuando la Cámara lo detecto, anuló la resolución.
La decisión fue tomada por los magistrados Hernán Dal Verme, Martín Zacchino y Carina Estefanía que integran la Cámara Penal de Esquel, provincia de Chubt, quienes decidieron dejar sin efecto la disposición que dictaba una condena de dos años y seis meses de cárcel de cumplimiento efectivo contra un hombre por un robo simple.
Pero no solo eso: los jueces también establecieron que se llevará a cabo un nuevo juicio con un juez diferente y remitieron el caso al Superior Tribunal de Justicia de Chubut para que investigue las irregularidades.
- Leer también: Sin estrategia no hay paraíso: la inteligencia artificial es una herramienta, no un fin en sí misma
El caso en el que se usó la inteligencia artificial corresponde al 17 de noviembre de 2023 cuando un hombre efectuó un robo en un departamento ubicado en Esquel y las víctimas denunciaron que se habían llevado $2000 y 400 dólares.
Tras analizar las pruebas: un auto Renault Clio gris y una pericia criminalística sobre imágenes y vestimenta, obtenidas por las cámaras de seguridad del área, el magistrado dictó la sentencia el 4 de junio.
El conflicto se desató cuando la Cámara descubrió que el juez había sumado en la redacción del fallo una frase elaborada por la IA: «Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar». El magistrado nunca aclaró que había usado la inteligencia artificial.
Cuando la mentira es la verdad: «Hipnocracia» y otros nuevos desafíos de la inteligencia artificial
Al momento de votar, la jueza Carina Estefanía sostuvo: «La circunstancia de no dejar constancia del uso de la herramienta y a qué fines, impide controlar cuál ha sido el grado de asistencia requerida y, con ello, el control de las partes en cuanto a la trazabilidad del razonamiento del magistrado. También se presenta como un obstáculo para este Tribunal al examinar la corrección de la sentencia, en todos sus aspectos, en especial con relación a la fundamentación de la misma».
A su turno, el magistrado Martín Eduardo Zacchino remarcó: «No hay forma de conocer la dirección elegida por el juez, extremo que obsta además a su contralor adecuado».
En tanto, el juez Hernán Dal Verme hizo hincapié en que la falta de explicación sobre la manera y alcance de la utilización de la IA en un punto clave impide a las partes ejercer un control efectivo y perjudica el derecho al doble conforme, es decir, la posibilidad de que una condena sea revisada por un tribunal superior.
Por lo tanto, la Cámara determinó en forma unánime anular la sentencia condenatoria y reenviar el caso para que un nuevo magistrado lleve adelante un nuevo juicio.
Este caso no es el único que tuvo lugar en nuestro país. La Sala I de la Cámara de Apelación en lo Civil y Comercial de Morón, Provincia de Buenos Aires, desestimó en septiembre pasado un recurso de apelación porque el escrito de la parte actora contenía casi en su totalidad la cita de fallos no verificables. Situaciones parecidas de presentación de jurisprudencia falsa por parte de abogados ocurrieron en Río Negro y Rosario.
