Por Alejandro Urueña
Ética e Inteligencia Artificial (IA) - Founder & CEO Clever Hans Diseño de Arquitectura y Soluciones en Inteligencia Artificial. Magister en Inteligencia Artificial.
La evolución del sector judicial se encamina hacia una transformación que requiere un conocer multidisciplinario, en el que la Inteligencia Artificial (IA) promete reconfigurar radicalmente la forma en que se accede, se analiza y se aplica el Derecho. Esta convergencia puede conceptualizarse como la entrega a los operadores del derecho y magistrados de un microscopio de alta potencia para auscultar la inmensa biblioteca de la ley, siendo la jurisprudencia el bien público esencial que debe ser accesible, pues se sufraga con el erario de los ciudadanos.
El fundamento legal para la apertura de esta documentación es incuestionable en España, donde el artículo 13 de la Ley de Propiedad Intelectual excluye expresamente de protección a las resoluciones de los órganos jurisdiccionales. Este mandato se refuerza a nivel europeo con la Directiva (UE) 2019/1024 sobre datos abiertos, que exige el principio de open by design and by default y la provisión de arreglos prácticos que faciliten la búsqueda en formatos legibles por máquina (arts. 7-9), normativa transpuesta en España mediante el Real Decreto-ley 24/2021, de 2 de noviembre. A pesar de este claro deber de apertura, el acceso masivo de la IA se topa con barreras institucionales. Un ejemplo palpable de esta resistencia se observa en el Cendoj (Centro de Documentación Jurídica) en España, cuyo buscador ha implementado un sistema Captcha, bloqueando de facto el uso de agentes de IA para tareas automatizadas.
Este “tapón” se explica por la economía circular de las sentencias en España, un circuito arraigado donde el Cendoj suministra la materia prima a grandes editoriales jurídicas privadas que venden luego sistematización y comentarios, lo que plantea preguntas sobre incentivos y conflictos de interés. Además, el bloqueo se atribuye al miedo real a la auditoría a escala que los modelos de IA podrían realizar, con la capacidad de exponer vaivenes jurisprudenciales y un posible trato asimétrico. Un poder judicial que tiene confianza en su jurisprudencia no debería temer a los datos. De igual forma, la opacidad en los criterios de ordenación (ranking) de los resultados del Cendoj también condiciona y sesga lo que el profesional encuentra y cita. Mientras España levanta este “muro anti-IA”, otros países europeos han avanzado con enfoques de apertura gobernable, como Francia, que publica cientos de miles de decisiones pseudoanonimizadas en Judilibre con API pública bajo una Open Data License 2.0, y el Reino Unido, que opera Find Case Law con API y un marco de computational analysis, utilizando licencias y límites de tráfico proporcionales para gestionar la reutilización.
El reto principal, no obstante, radica en evitar que el “microscopio se vuelva tan inteligente que intente escribir el siguiente capítulo del libro por sí mismo”, es decir, reemplazar al juez humano. El Reglamento Europeo de IA (AI Act), aprobado por el Consejo de la Unión Europea el 21 de mayo de 2024, establece que los sistemas de IA utilizados para asistir a una autoridad judicial en la investigación e interpretación de hechos y derecho, y en la aplicación de la ley a hechos concretos, se clasifican como sistemas de alto riesgo (Anexo III.8). Si bien la IA es muy útil para tareas repetitivas y que consumen mucho tiempo, como las órdenes de pago o los reclamos menores, debe actuar únicamente como soporte automatizado que ofrece sugerencias, y no debe emitir decisiones totalmente automatizadas ni reemplazar la función jurisdiccional, un principio que exige que el caso sea resuelto por un juez-persona. Además, existe el problema de la “caja negra” (black box), o la opacidad, por el cual el algoritmo es difícil de entender por humanos, socavando la capacidad del juez de motivar sus decisiones. Es por ello que el real decreto-ley español de eficiencia en la Justicia limita la referencia a la IA a su uso como apoyo a la función jurisdiccional y a la tramitación de procedimientos.
Sin embargo, la regulación europea promueve los sistemas de IA que están destinados a realizar una tarea de procedimiento limitada, o a mejorar el resultado de una actividad humana previamente realizada, como el acceso a documentación jurídica, los cuales no se consideran de alto riesgo. Los desarrolladores de IA generativa deben ser conscientes de los requisitos y adoptar las medidas necesarias para cumplir con el reglamento. Es fundamental que la implementación de estas tecnologías se rija por la necesidad de asegurar el control humano y evitar la discriminación o la repetición de sesgos, garantizando que la IA sea un instrumento de apoyo que enriquezca la reflexión jurídica, en lugar de un sustituto que socave los principios fundamentales que rigen la justicia.