Un juez de una Audiencia Provincial en España fue sancionado con una multa de mil euros, equivalentes a 20,347 pesos mexicanos, luego de que redactara una sentencia utilizando ChatGPT sin supervisión adecuada, sin informar a sus compañeros y sin proteger los datos personales del caso, informó el Consejo General del Poder Judicial (CGPJ).
Poder Judicial ya había advertido sobre el uso de la IA
El uso de inteligencia artificial en el ámbito judicial ya había sido abordado por el Pleno del Consejo General del Poder Judicial (CGPJ), que en enero aprobó una instrucción en la que estableció límites claros sobre su aplicación en tribunales, en tanto que advirtió que estas herramientas no pueden dictar sentencias, valorar hechos o aplicar el derecho sin supervisión humana.
En ese sentido, el organismo subrayó que cualquier uso de IA debe estar sujeto a un “constante control humano, real, consciente y efectivo”, lo que implica que los jueces deben asumir la responsabilidad directa sobre las resoluciones emitidas, según lo establecido por la propia autoridad judicial.
Te podría interesar
Juez utilizó ChatGPT sin avisar ni proteger datos del caso
De acuerdo con el CGPJ, el juez sancionado elaboró una sentencia apoyándose en ChatGPT, sin informar a sus compañeros y dejando visibles las consultas realizadas a la herramienta, lo que evidenció el uso directo de inteligencia artificial en la redacción del documento judicial.
Asimismo, el magistrado no protegió los datos personales contenidos en la causa, lo que derivó en la apertura de un expediente disciplinario, al considerar que había eludido sus funciones jurisdiccionales al delegar parte del trabajo en la herramienta tecnológica, según señalaron fuentes del órgano judicial.
CGPJ impone multa y descarta suspensión del juez
La Comisión Disciplinaria del CGPJ resolvió sancionar al juez con una multa de mil euros tras determinar que incurrió en una falta grave, prevista en el artículo 418.8 de la Ley Orgánica del Poder Judicial, que sanciona la revelación indebida de datos conocidos en el ejercicio de la función.
No obstante, el órgano descartó imponer una sanción mayor, ya que el instructor del procedimiento había propuesto una suspensión de 15 días por una falta muy grave, aunque finalmente se concluyó que el juez “se valió de la IA como auxilio y complemento, pero no en sustitución de sus funciones judiciales”, lo que influyó en la resolución final.
IA en el ámbito jurídico: riesgos de su uso
El caso se da en un contexto en el que el uso de inteligencia artificial en el ámbito jurídico ha generado preocupación por posibles errores y fallas, conocidas como “alucinaciones”, que pueden afectar la validez de documentos legales y decisiones judiciales.
Además, este episodio pone en evidencia los retos en la implementación de nuevas tecnologías dentro de sistemas judiciales, especialmente en lo relacionado con la confidencialidad de la información y la responsabilidad de los funcionarios encargados de impartir justicia, según lo advertido previamente por autoridades del sector.