El pasado 16 de julio la Organización de las Naciones Unidas (ONU) publicó el Informe de la relatora Relatora Especial sobre la independencia de los magistrados y abogados, Margaret Satterthwaite, denominado «La inteligencia artificial en los sistemas judiciales: promesas y escollos».
El documento incluye las siguientes conclusiones:
Los Estados y los profesionales de la justicia no deberían permitir que el “tecnosolucionismo” o las exageraciones sobre lo que puede lograr la IA impulsen la adopción de sistemas que entrañan importantes riesgos para los derechos humanos. Los Estados deberían determinar, desde la perspectiva de quienes experimentan problemas de justicia, objetivos basados en datos en aras de la promoción de los derechos humanos.
En algunas circunstancias, la IA puede ofrecer una vía para alcanzar tales objetivos. Sin embargo, la IA no debería adoptarse sin una evaluación cuidadosa de sus daños potenciales, de si estos pueden eliminarse y de si existen otras soluciones menos arriesgadas y con un menor impacto en el clima. Sea cual sea la opción elegida, es preciso ofrecer formación y orientación para mitigar los riesgos que plantea el uso específico y en marcha de la IA por parte de los profesionales de la justicia.
Cuando se lleve a cabo, el uso de la IA en los sistemas judiciales debe estar regido por los jueces, adaptarse al contexto y respetar las necesidades, las lenguas, la cultura y las tradiciones jurídicas locales. Para ello es necesario dar prioridad a un entorno propicio mediante la recopilación y la digitalización de datos, el desarrollo de infraestructura y la creación de capacidades profesionales.
La Relatora Especial recomienda que:
a) Las decisiones sobre si utilizar o no la IA en los sistemas judiciales, y qué herramientas utilizar, sean tomadas por los jueces;
b) La formación jurídica contenga instrucciones detalladas sobre la IA, incluidos sus usos prácticos y sus riesgos, y la alfabetización digital y en IA se incorpore a los requisitos de formación jurídica continua;
c) La judicatura elabore y apruebe directrices sobre el uso de la IA, teniendo en cuenta las orientaciones internacionales, como las formuladas por la UNESCO88, y los Estados proporcionen recursos a la judicatura para tal fin.
En cuanto a reimaginar el acceso a la justicia, los Estados deberían:
a) Apoyar el desarrollo sostenible de tecnologías de la justicia centradas en las personas y diseñadas para cerrar la brecha de justicia, entre otras cosas:
i) Instituyendo entornos aislados para poner a prueba programas de IA y experimentar con las normativas adecuadas89. Los programas deberían centrarse en cuestiones con un alto nivel de problemas sin resolver, aprovechar interfaces adaptadas para mejorar la accesibilidad y ser interoperables con las plataformas tecnológicas utilizadas en el sistema de justicia formal;
ii) Coordinando e intercambiando información sobre los resultados de estos proyectos piloto con otros Estados;
b) Evaluar el valor añadido y la relación costo-beneficio de la IA en comparación con soluciones de menor tecnología;
c) Mantener o mejorar los medios alternativos y no digitales de acceso a la justicia90.
En lo que respecta a aumentar la igualdad ante los tribunales y reforzar los derechos a un juicio imparcial, los Estados deberían:
a) Defender el derecho a un juez y un abogado humanos;
b) Dar prioridad a la creación de un entorno propicio para una IA eficaz mediante la recopilación y la digitalización de las leyes pertinentes y la creación de bases de datos jurídicas abiertas, gratuitas y públicas;
c) Fomentar políticas de datos abiertos de acuerdo con las leyes nacionales de protección de datos y apoyar la comunicación transfronteriza de datos por medio de iniciativas regionales, a fin de reducir la desigualdad regional en la disponibilidad de datos;
d) Invertir en modelos lingüísticos jurídicos nacionales;
e) Apoyar la creación de un fondo mundial para la IA con el fin de reducir la brecha existente en este ámbito 91 y garantizar que parte de esa financiación se destina a usos jurídicos.
La Relatora Especial recomienda que en los sistemas de justicia penal:
a) Los fiscales eviten basarse en pruebas de la IA para lograr condenas, a menos que tengan la certeza de que las pruebas han sido rigurosamente corroboradas, no son discriminatorias y pueden ser impugnadas de manera significativa por la defensa tras la divulgación obligatoria por parte de la fiscalía;
b) Los análisis predictivos no se utilicen nunca como base para el enjuiciamiento o la detención;
c) Los jueces y los fiscales actúen como vigilantes y solo presenten y admitan pruebas fiables generadas por IA en los juicios penales;
d) Las reglas de prueba no establezcan excepciones a los requisitos de admisibilidad para las herramientas de IA de propiedad privada, y las normas para admitir pruebas producidas por IA sean las mismas que para los métodos forenses tradicionales.
La Relatora Especial también recomienda que los Estados y la judicatura procedan con cautela cuando:
a) Adopten herramientas de IA para la gestión de casos, garantizando que las decisiones se tomen bajo supervisión judicial, beneficiándose de las aportaciones de múltiples partes interesadas y con información completa y transparente sobre la herramienta de IA que se va a desplegar y sus riesgos previstos;
b) Celebren acuerdos público-privados para la prestación de servicios de IA con agentes privados con ánimo de lucro, que pueden cobrar por los servicios o tratar de monetizar los datos extraídos de los sistemas judiciales.
La Relatora Especial recomienda que:
a) Las empresas que desarrollan herramientas comerciales de IA para su uso por los sistemas de justicia cumplan sus obligaciones dimanantes de los Principios Rectores sobre las Empresas y los Derechos Humanos para evitar provocar o contribuir a provocar consecuencias negativas sobre los derechos humanos y hacer frente a esas consecuencias cuando se produzcan, incluso realizando evaluaciones del impacto sobre los derechos humanos y reparando cualquier daño;
b) Los colegios de abogados, los Estados y las empresas tecnológicas consideren la posibilidad de ofrecer herramientas jurídicas especializadas de IA subvencionadas o gratuitas a los bufetes de abogados más pequeños y a los abogados que trabajan por el interés público.
Con respecto al aumento de la independencia y la imparcialidad judiciales, la Relatora Especial recomienda que:
a) Los jueces se encarguen de la adopción de las innovaciones tecnológicas que puedan afectar a su trabajo, con el fin de proteger la independencia individual y de toda la judicatura;
b) Al considerar las herramientas de IA, la judicatura entable consultas con múltiples partes interesadas y participe en programas piloto, actúe con cautela probando, evaluando y afinando, colabore con los tecnólogos y busque la transparencia en relación con los supuestos inherentes a las herramientas y los conjuntos de datos con los que se han entrenado;
c) La información clave sobre los sistemas de IA aplicados a la judicatura se haga pública para permitir que sea impugnada jurídicamente y sea supervisada por la sociedad civil.