José Manuel Beiro Magan, Letrado de la Administración de Justicia
Ponencia presentada en Granada el 12 de marzo de 2020 en las Jornadas sobre “La organización de la OJ y la OF en la transformación tecnológica. Aplicaciones de inteligencia artificial”
Resumen
Este artículo trata, desde una perspectiva de gestión pública, de mostrar los posibles caminos o rutas para la implantación generalizada en el sector justicia español, de tecnologías de automatización de procesos y de software diseñado y capacitado para el aprendizaje profundo. Para ello se pone de manifiesto de modo general el contexto jurídico del que se parte, estatal y comunitario, así como las necesidades de establecer y desarrollar nuevas legislaciones.
1.Introducción
Durante las últimas décadas el crecimiento de la actividad académica e industrial dirigida a la creación de sistemas de software que permitan un mayor o menor grado de autonomía respecto a tareas hasta ahora desempeñadas exclusivamente por seres humanos ha sido enorme y generalizado.
Entre esas tareas figuran no solo las relacionadas con la actividad mercantil, financiera o la industria del ocio en todas sus formas, sino que se ha extendido, especialmente en los últimos diez años al sector público en numerosos estados. La actividad de las administraciones públicas no es ni se ha considerado en ningún país por su propia naturaleza como un ámbito exento o ajeno al desarrollo e implantación de nuevas tecnologías disruptivas.
Así, dentro del sector público (casi de cualquier sector público) es fácil comprobar cómo se dedica una creciente cantidad de recursos a la implementación de este tipo de sistemas, en especial en las administraciones militares y en las policiales, pero también en la investigación universitaria y en la gestión pública en general.
El sector justicia no tiene la necesidad de ser una excepción tecnológica al resto de administraciones o sectores del Estado, ni la justicia española es esencialmente diferente o especial respecto al resto de países miembros de la Unión Europea, cuyas instituciones y producción normativa constituye nuestro marco jurídico, político y geoestratégico.
A partir de este contexto, los dos principales caminos tecnológicos a seguir en el proceso de modernización de la administración de justicia española son la apuesta por la automatización masiva de procesos y por la introducción moderada pero progresiva de software de aprendizaje automático o inteligencia artificial.
2. Diferencias entre automatización e inteligencia artificial
En términos generales y gramaticales la distinción entre ambos conceptos no es difícil. La automatización está referida a procedimientos o series de acciones relacionadas entre sí de modo que una conduce necesariamente a la otra, conducción que se delega total o parcialmente en el uso de un intermediario tecnológico no humano. La inteligencia artificial va más allá, e implica que ese elemento tecnológico no humano pueda trascender total o parcialmente la condición de intermediario y convertirse en agente activo, además de tener capacidad de aprendizaje y de toma de decisiones.
La representación informática por excelencia de los procesos automatizados es el algoritmo, que se puede definir de modo sintético como “Conjunto de reglas que, aplicada sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales”, [Ricardo Peña Marí, “De Euclides a Java, la historia de los algoritmos y de los lenguajes de programación” (Ed.Nívola), y “Matemáticas ¿qué es exactamente un algoritmo” S.Fanjul 24 marzo 2018 El País Retina]
La representación gráfica del algoritmo se suele expresar convencionalmente mediante un gráfico dinámico característico o “diagrama de flujo” en el que se incluye los pasos consecutivos, las diferentes posibilidades y sus consecuencias asociadas, y donde, en definitiva, toda la secuencia y sus posibles resultados están predeterminados.
A diferencia de la pura automatización de procesos materiales, lógicos o industriales, que tiene una larga historia detrás, la llamada inteligencia artificial supone un paso adelante en el diseño de los algoritmos de automatización, haciéndolos operar como redes neuronales que imitan, mediante un modelo matemático, el funcionamiento de las células de un cerebro biológico.
Una definición más amplia y empírica es la que establece la Comisión Europea en el reciente White Paper On Artificial Inteligence-A European approach to excellence and trust de febrero de 2020, conforme al cual la inteligencia artificial (IA) sería una colección de tecnologías que combina datos, algoritmos y capacidad de computación.
La idea central de modelizar matemáticamente el funcionamiento del cerebro (que data de mediados del siglo XX y que se ha ido abandonando y recuperando a medida que los avances tecnológicos en computación lo han ido permitiendo) es la que posibilita que los sistemas de IA sean capaces de “aprender”, bien mediante entrenamiento guiado por agentes humanos (machine learning) o bien a base de procesar los datos de entrada mediante múltiples capas de redes neuronales, lo que permite la obtención de resultados más complejos y abstractos, y con mayor grado de autonomía (aprendizaje profundo o deep learning).
Desde esta perspectiva otra definición es la elaborada por el Grupo de Expertos de Alto Nivel de la Comisión Europea sobre Inteligencia Artificial el pasado 9 de abril de 2019
“…los sistemas que muestran un comportamiento inteligente al analizar su entorno y tomar acciones, con cierto grado de autonomía, para alcanzar objetivos específicos. Los sistemas basados en AI pueden basarse exclusivamente en software, actuando en el mundo virtual (por ejemplo, asistentes de voz, análisis de imágenes), software, motores de búsqueda, sistemas de reconocimiento de voz y de rostro) o AI pueden integrarse en dispositivos de hardware (por ejemplo, Robots avanzados, autos autónomos, drones o aplicaciones de Internet de las Cosas.”
3. Contexto normativo y posibilidades de la automatización en el sector justicia español
Como adelantábamos en el citado artículo Retos tecnológicos de la Administración de Justicia para la tercera década del siglo XXI, “la automatización de procesos aún no ha alcanzado un grado aceptable de optimización y desarrollo de sus posibilidades en el sector justicia español”.
Una mirada superficial basta para encontrar la similitud formal del algoritmo de recorrido y respuestas predeterminadas con los procedimientos administrativos y procesales regulados en nuestro ordenamiento jurídico. Sin embargo, es obvio que la aspiración a convertir todo iter procesal o administrativo en un proceso algorítmico automatizado no responde, hoy por hoy, a un escenario que haya sido lo suficientemente estudiado ni contextualizado normativamente, como para que pueda compatibilizarse plenamente con los principios y garantías constitucionales y jurídicas que constituyen la base de nuestra convivencia democrática.
No obstante, nos preguntamos: ¿Es posible avanzar para las políticas públicas en el sector a partir de la situación existente? Sin duda la respuesta es afirmativa; existen amplias posibilidades de automatizar procesos en el sector justicia español, tanto partiendo de la legislación actualmente vigente, como a partir el desarrollo de la misma.
La primera vez que se puso la mirada en el horizonte de la incorporación de tecnologías de automatización de proceso en el sector justicia español fue en el Plan Estratégico de Modernización de la Justicia 2009-2012 que elaboró el Ministerio de Justicia, así como (más limitadamente) en el Protocolo Marco de actuación de la Oficina Judicial.
También conviene especificar que cuando nos referimos a automatización de procesos, esta expresión no se refiere (únicamente) al concepto técnico jurídico manejado por el derecho procesal, sino a cualquier secuencia predecible y finita de acontecimientos o actos, administrativos o materiales, susceptible de ser automatizada.
De hecho es el ámbito general de las Administraciones Públicas y el derecho administrativo el que ha sido pionero en la regulación de la actuación administrativa automatizada (AAA).
En nuestro ordenamiento jurídico la misma está regulada expresamente y definida por el artículo 41.1 de la Ley 40/2015 de 1 de octubre, de Régimen Jurídico del Sector Público en los siguientes términos:
- Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público.
Seguidamente, y en el artículo posterior, establece los requisitos mínimos de seguridad, interoperabilidad y calidad de dichas actuaciones, considerando como presupuestos de las mismas, entre otros, la utilización de un sello electrónico o de un Código Seguro de Verificación, ya ampliamente regulados en el ámbito de las distintas administraciones públicas.
Jurídicamente, lo que hace este precepto no es otra cosa que recoger y actualizar las previsiones de normas anteriores, como la parcialmente derogada Ley 11/2007 de 22 de junio, de acceso electrónico de los ciudadanos a los servicios públicos y del Real Decreto 1671/2009 de desarrollo parcial de la misma, cuyos principios se adaptan así a las posibilidades materiales que ofrece el estado actual de la tecnología y que ya funcionan en otros sectores.
La previsión de la AAA en España va en la misma dirección de los numerosos trabajos e informes que emitidos en el marco de la Unión Europea y de la OCDE, para la implantación de soluciones tecnológicas en el sector público, el e-Government y el desarrollo del principio digital by default. Como ejemplo, podemos citar las referencias contenidas el trabajo Retos tecnológicos de la Administración de Justicia española para la tercera década del siglo XXI, junio 2019.
Las posibilidades que ofrece la AAA para su desarrollo en el ámbito general de las AAPP van desde la emisión de certificados, hasta la realización de actos de comunicación con la ciudadanía y actos de trámite e impulso.
En cuanto a la administración de justicia, las condiciones para la automatización de procesos están en la Ley 18/2011 de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la administración de justicia. La misma, además de someterla a requisitos como la implantación de sistemas de firma electrónica, define la Actuación Judicial Automatizada (AJA) como:
“Actuación judicial producida por un sistema de información adecuadamente programado sin necesidad de intervención de una persona física en cada caso singular. Incluye la producción de actos de trámite o resolutorios de procedimientos, así como de meros actos de comunicación.”
La previsión expresa ya existe en dicha ley respecto a algunas AAA como la obtención de copias electrónicas digitalizadas de documentos aportados al proceso (art.28.3) o la emisión de justificantes por los registros judiciales electrónicos (art. 31)
El desarrollo de las AAA corresponde, en cuanto a “especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, la auditoría del sistema de información y de su código fuente, incluidos los indicadores de gestión” al Comité Técnico Estatal de la Administración Judicial Electrónica y –en su ámbito- a la Comisión Nacional de Estadística Judicial (art.42)
Las posibilidades que ofrece la generalización de las AJA en el sector justicia son enormes, y solo se ven limitadas por aquellos supuestos en que las actuaciones deban ser motivadas y obviamente en los casos de roce con las garantías de derechos fundamentales, aspecto en el que debe reforzarse especialmente en el esfuerzo legislativo.
Si solo nos atenemos a las enumeradas en el Plan Estratégico de Modernización Judicial 2009-2012, el mismo preveía la automatización en los procesos de puesta en marcha e integración de los Registros administrativos de apoyo a la actividad judicial, en el proceso de generación de informes estadísticos del Registro Civil, en la gestión de identidades digitales, en lo que llamaba la reingeniería de las TIC, entendida como el objetivo de transformar integralmente los sistemas, procesos automatizados para generar avances en su eficiencia, eficacia y tiempos de respuesta, como elemento de la interoperabilidad de sistemas para el traslado de información entre los mismos.
A partir de este contexto, podemos concluir como campos del sector justicia español en los que la automatización de procesos puede generalizarse, los siguientes:
- Certificaciones e integración de los Registros Públicos.
- actos de comunicación.
- actos de documentación.
- actos de impulso procesal de mero trámite o que no requieran motivación.
- atención básica a la ciudadanía.
- tratamiento básico y recopilación de datos estadísticos de gestión e inspección.
En todos estos grupos de actuaciones basta con la automatización simple como medio para optimizar los recursos humanos y materiales, mejorando al mismo tiempo la calidad, agilidad y predictibilidad del servicio público, sin utilizar propiamente sistemas expertos avanzados dotados con software de aprendizaje profundo, es decir, sin la intervención de la que conocemos como inteligencia artificial.
- Contexto normativo y posibilidades de aplicaciones de inteligencia artificial en el sector justicia español.
4.1. Referencia al contexto jurídico y político de la IA en la Unión Europea
El desarrollo normativo de las aplicaciones de inteligencia artificial en el sector justicia español, no se puede concebir desligado de ese mismo desarrollo referido a todas las administraciones públicas y, en último término, del marco regulatorio de la Unión Europea.
La regulación de las aplicaciones de IA en la Unión Europea está en fase de elaboración, en una etapa inicial pero importante, en la que se ha generado el principal consenso sobre objetivos, características y estándares que debe tener la IA europea, así como una primera ruta de elaboración normativa a seguir.
Con fecha 19 febrero de 2020 se ha hecho público el informe de la Comisión Europea White paper On Artificial Intelligence – A European approach to excellence and trust.
En este reciente e importante documento, la Comisión, partiendo de una pragmática definición de la AI como colección de tecnologías, se fija como objetivo político el liderazgo mundial de la UE en innovación en la nueva economía basada en los datos y sus aplicaciones dentro de la -también de gran importancia y publicada de forma simultánea COM (2020) 66 final- propia estrategia europea de datos. Para ello se propone la elaboración de un ecosistema europeo de IA, fundado sobre los valores europeos y el respeto a los derechos fundamentales, en especial sobre la dignidad humana y la protección de la privacidad.
El informe divide las políticas públicas comunitarias a emprender en dos caminos, el de la excelencia o calidad del ecosistema a crear, y el de la confiabilidad del mismo para la ciudadanía, apelando a construir una IA antropocéntrica (“human-centric”) y merecedora de confianza. [COM (2019) 168]
Para hacernos una idea de la magnitud del reto político y presupuestario, pese a que en los últimos tres años la inversión en el ámbito de la UE en investigación e innovación para la AI ha aumentado en un 70%, el informe compara los 3.200 millones de euros de inversión (pública y privada) en los estados de la Unión en 2016, con los 12.100 millones de euros en Norteamérica y los 6.500 millones de euros en Asia.
Como razones que justifican la importancia estratégica de la IA en los próximos años, destacan la prevista nueva y enorme oleada de datos (la cantidad generada mundialmente crecerá desde los 33 zettabytes de 2018 hasta los 175 zettabytes en 2025), la industria 4.0 o avances cualitativos en la automatización de procesos industriales, así como el incremento exponencial que va a suponer la computación cuántica en las capacidades de procesamiento con las que se ha estado trabajando hasta ahora.
Lo que el informe denomina ecosistema de excelencia para la IA se ajusta a la estrategia adoptada por la propia Comisión en abril de 2018 [COM (2018) 237 Artificial Intelligence for Europe] que propone 70 acciones conjuntas a desarrollar hasta 2027, incluyendo al sector público.
Pero el aspecto en que la Comisión quiere centrar su impulso político es en la generación de un ecosistema propio de IA confiable para la ciudadanía. En ese contexto constituyó el Grupo de Expertos de Alto Nivel encargado de elaborar unas líneas maestras o pautas no vinculantes sobre confiabilidad de la IA [abril 2019 COM (2019) 168], documento que actualmente está en proceso de revisión y consultas,
La Comisión por su parte en este informe marca como objetivo prioritario para generar esa confianza, la creación de un marco regulatorio común, actualmente inexistente. De hecho cita algunas regulaciones nacionales (Dinamarca, Malta, Alemania) cuya proliferación o generalización no coordinada podría suponer la indeseada fragmentación del mercado interno.
Ese marco regulatorio de la IA ha de manejar una definición de la misma lo bastante flexible como para adaptarse a los constantes cambios en el estado de la tecnología, y debe concentrarse en el establecimiento de unos estándares obligatorios para lo que llama IA con implicaciones de alto riesgo, tanto en cuanto al sector en que va a operar, como -acumulativamente- en lo referido al modo en que actúe en el mismo. Los estándares o requisitos que fija el informe se refieren a:
- Datos usados para el entrenamiento de la IA
- Mantenimiento de datos y registros
- Información a proporcionar
- Robustez y precisión del sistema
- Supervisión humana
- Requisitos específicos para aplicaciones muy concretas, como es el caso de las destinadas a la identificación biométrica remota de personas.
Este breve pero clarificador informe de la Comisión finaliza con una importante previsión institucional, la de una estructura europea de gobernanza de la IA, entendida como marco de cooperación entre las distintas autoridades nacionales competentes,
Dentro de la creciente producción de trabajos de las instituciones de la Unión Europea sobre IA, conviene destacar dos ámbitos de actividad respecto a los que se presta una especial atención, debido tanto a su trascendencia estratégica como a su capacidad de impacto sobre los derechos fundamentales, como son las tecnologías de reconocimiento facial y de procesamiento del lenguaje natural. Consideramos, además, que en este trabajo merece la pena dedicar algo de atención a estas dos tecnologías dada su previsible generalización en el sector justicia a nivel comunitario, y por tanto también español.
- Tecnologías de Reconocimiento facial
Las implicaciones respecto a los derechos fundamentales de estas tecnologías han sido objeto de un completo Informe de la Agencia Europea de Derechos Fundamentales (FRA) en 2019 (Facial recognition technology: fundamental rights considerations in the context of law enforcement).
Este informe, así como las consideraciones especiales contenidas en el white paper de la Comisión anteriormente citado, hace prever que la futura regulación de la implantación de las mismas a gran escala por los estados miembros tendrá un carácter restrictivo por su impacto en la privacidad y otros derechos fundamentales.
No podemos dejar de hacer referencia al polémico proyecto iBorderCtrl, que mediante el uso de tecnología de reconocimiento biométrico permite al personal de fronteras recopilar dichos datos de la persona migrante a efectos de incorporarlos a la base correspondiente, así como detectar si es o no ciudadano comunitario en el momento de ingresar, o emitir una valoración sobre si dice o no la verdad al personal de migraciones. Este proyecto, que ha costado más de cuatro millones de euros, en 2018 se implantó como piloto en puestos fronterizos de Hungría, Letonia y Grecia, aunque los resultados no han sido concluyentes.
- Tecnologías de Procesamiento de Lenguaje Natural
La tecnología de Procesamiento de Lenguaje Natural (NLP), se pueden definir de forma sencilla como aquellas que tratan de hacer viable la comunicación o interacción entre el ser humano y la máquina intentando que ésta pueda comunicarse en un lenguaje humano. La Unión Europea ha puesto en marcha diversas iniciativas, tanto en el marco del programa de investigación Horizonte 2020, como en el Mecanismo Conectar Europa con el servicio de traducción automática online eTranslation). El Parlamento Europeo también ha desarrollado actividades de estudio de la tecnología NLP a través del Panel para el futuro de la ciencia y la tecnología (STOA). Sería excesivamente extenso el incluir algo más que una referencia a cada uno de los estudios y trabajos en marcha en esta materia pero, sin duda,serán los que marcarán el sentido y la aplicación de las mismas en el ecosistema tecnológico de la administración de justicia, en el que el lenguaje natural es el medio de interacción por excelencia con la ciudadanía y operadores jurídicos, así como -al igual que los metadatos relativos a las tecnologías de reconocimiento facial- en cuanto a la incorporación de materiales audiovisuales a los sistemas de gestión procesal.
4.2. Políticas públicas sobre IA en España
Desde el punto de vista del Derecho Administrativo es recomendable el trabajo del Catedrático de la Universidad de Barcelona Juli Ponce Solé, titulado Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico.
En dicho artículo, publicado por el Instituto Nacional de la Administración pública en abril de 2019, se contienen consideraciones teóricas de interés sobre la naturaleza jurídica del algoritmo y del código fuente, así como sugerencias respecto a transparencia, prevención ante los sesgos, y encaje con la normativa de protección de datos.
También hace referencia a una de las experiencias pioneras en prever el uso de tecnologías de IA en España, en concreto su uso para detectar casos de mala administración y de corrupción administrativa. Se trata de la Ley Valenciana 22/2018, de 6 de noviembre, de Inspección General de Servicios y del sistema de alertas para la prevención de malas prácticas en la Administración de la Generalitat y su sector público instrumental.
En cuanto a la administración de justicia, si bien estrictamente a día de hoy no se puede hablar de sistemas operativos y autónomos dotados con software de aprendizaje profundo, el marco jurídico existente por desarrollar y las perspectivas políticas para su toma en consideración permiten un optimismo moderado.
El pasado 17 de febrero de 2020 el Ministro de Justicia español, Juan Carlos Campo, presentó ante la Comisión de Justicia del Congreso de los Diputados el plan Justicia 2030, uno de cuyos ejes estratégicos es la transformación digital de la justicia. Si bien la justicia española parte de una situación organizativa asimétrica, la previsión de una próxima apuesta por el estudio de tecnologías disruptivas para aplicaciones concretas, como es el caso de la IA puede ser una realidad en los próximos años.
Más aún si tenemos en cuenta la Estrategia Española de I+D+I en Inteligencia Artificial (2019) del Ministerio de Ciencia, Innovación y Universidades, fruto de la labor de un Grupo de trabajo interministerial, que fija como uno de los sectores prioritarios (p.29) el de la Administración pública, su gestión, la tecnología de procesamiento de lenguaje natural para la interacción con la ciudadanía, el valor estratégico para la Seguridad Nacional, la Educación y la gestión de las llamadas ciudades inteligentes y sostenibles.
4.3. Posibles aplicaciones de la IA en el sector justicia
A partir de todo este contexto podemos hacer un pronóstico razonable sobre posibles vías de implantación de aplicaciones de IA en el sector justicia español.
- Bots de atención al público.
- Asistentes inteligentes para resoluciones complejas.
- Asistentes a servicios de inspección y control de calidad.
- Textualización y traducción de archivos audovisuales.
- Asistentes para gestión de recursos humanos.
- Asistentes para la elaboración de políticas públicas (predicción, gestión de crisis).
- Asistentes académicos para la formación y asistentes administrativos para la gestión de esa formación. (‘profesorado virtual’ plus ‘sede formativa virtual’)
El estudio pormenorizado de cada una de ellas, sus antecedentes, implicaciones normativas, e impacto sobre las políticas de gestión pública y la configuración del servicio público prestado son materias que merecen consideración pormenorizada, pero que exceden de la perspectiva general que se intenta ofrecer en este trabajo.
5.Reflexiones finales
Todo ello requiere legislación habilitante, modificación de normas procesales, que es uno de los presupuestos de las políticas públicas a emprender para preparar la entrada masiva de la automatización y la IA en la administración de justicia española. Este marco normativo, con independencia del propio desarrollo de una estrategia española propia y desde una perspectiva geopolítica realista, solo es concebible si se tiene como referencia las directrices y trabajos emanados de la Unión Europea, y de instituciones como el Consejo de Europa, cuyo comité para la eficiencia de la Justicia (CEPEJ) elaboró una Carta Ética Europea sobre la utilización de la IA en los sistemas judiciales y su entorno (la Charte IA).
Además de ello, la propia naturaleza de las tecnologías que examinamos así como de su evolución, hacen prever que las políticas públicas que acompañen a la regulación normativa solo pueden ser plenamente operativas si reúnen estas dos características: flexibilidad (entendida como capacidad de adaptación a múltiples y variables escenarios tecnológicos) y multidisciplinariedad o transversalidad (considerando como cual la necesaria colaboración interinstitucional por una parte, e interprofesional por otra, superando las tradicionales segmentaciones y resistencias corporativas.
Granada 11 marzo 2020