Inteligencia artificial y sector público de la justicia: algunas experiencias de tecnologías disruptivas en el sector justicia (2017)

Autor: José Manuel Beiro Magan, Letrado de la Administración de Justicia

 

Ponencia presentada en las jornadas “Administración de justicia: organización, tecnología y proximidad”, Cádiz 29 junio 2017

 

Resumen

Este trabajo pretende ofrecer una visión sintética, esquemática y superficial sobre el estado de desarrollo e implantación de experiencias basadas en tecnologías llamadas disruptivas en el sector público de la justicia en el primer semestre del año 2017. Por tales tecnologías entenderemos aquellas que son capaces de generar un impacto significativo y profundo en el sector público de la justicia, en especial las relacionadas con la inteligencia artificial en sentido amplio: automatización mediante algoritmos, computación cognitiva, procesamiento del lenguaje natural y manejo de bases de datos a gran escala. Además, se trata de poner de manifiesto, de modo también simplificado, las principales dificultades en dicho proceso y el posible impacto organizativo y político del mismo.

 

Abstract [english]

This paper aims to offer a synthetic, schematic and superficial view on the state of development and implementation of experiences based on so-called disruptive technologies in the public sector of justice in the first half of 2017. By such technologies we will understand those that are capable of generating A significant and profound impact on the public sector of justice, especially those related to artificial intelligence in the broad sense: automation through algorithms, cognitive computing, natural language processing and big data management. In addition, it is a matter of highlighting, in a simplified way, the main difficulties in this process and its possible organizational and political impact.

 

 Palabras clave: justiciainteligencia artificial, automatización, derecho, legaltech, lawtech

 

  1. Introducción

Desde hace unos años la expresión tecnologías disruptivas se ha ido convirtiendo en la fórmula más habitual para hacer referencia a tecnologías que no suponen una simple mejora de la informática de gestión, sino que pueden cambiar sustancialmente el entorno al que se apliquen.

También ha cierto consenso en que es un término fuertemente unido al llamado mundo de los negocios. Su origen se sitúa en un best seller de 1997 [1] obra de Clayton M. Christensen, profesor de la escuela de negocios de la Universidad de Harvard.

Si bien su sentido original la expresión trata de vincularse a la potencialidad tecnológica para abrir nuevos mercados, desde un punto de vista de la gestión pública haremos referencia a tecnologías disruptivas como tecnologías autónomas, estratégicas o capaces de tener por sí mismas valor estratégico en la definición de políticas públicas y en la organización misma del sector.

Nos referiremos así a tecnologías que suponen un cambio de concepto respecto a la informática tradicional, basada en aplicaciones gestionadas íntegramente de modo manual. En concreto, hablaremos de experiencias basadas en uno o varios de estos elementos:

  • Automatización simple mediante algoritmos informáticos, entendidos como conjuntos de instrucciones sucesivas y precisas que generan por sí mismos respuestas predeterminadas.

 

  • Procesamiento del lenguaje natural (NLP): tecnología que combina disciplinas de la inteligencia artificial, lingüística y computación con el objeto de lograr una comunicación eficaz en lenguaje humano entre personas y máquinas.

 

  • Inteligencia artificial en sentido amplio, considerada como aquellas tecnologías que dotan al software determinado de la capacidad de aprendizaje automático (machine learning) e incluso avanzado o profundo (deep learning), mediante algoritmos basados en lo que se conoce como computación cognitiva, que trata de emular la forma de aprender y razonar del cerebro humano construyendo simulaciones más o menos complejas en forma de redes neuronales.

 

  • Tecnologías para la gestión de datos masivos o Big data.

 

  • Otros conceptos como el IoT o Internet de las cosas (conectividad en red aplicada a objetos diversos distintos de los tradicionales terminales informáticos), la realidad aumentada (adición de elementos virtuales en tiempo real a la percepción sensorial a través de dispositivos tecnológicos) y realidad virtual (construcción de entornos íntegramente artificiales para su percepción a través de de dispositivos tecnológicos).

 

  • Finalmente, conceptos como la inteligencia artificial fuerte o la singularidad tecnológica no son pacíficos en la comunidad científica y tecnológica.

 

  1. Referencia al marco jurídico

La actividad de planificación estratégica de la actividad gubernamental en el desarrollo e implantación de tecnologías disruptivas en el sector público ha tenido reflejo en los últimos años en los Estados más influyentes en este ámbito.

Podemos citar la National IT Development Strategy (2016-2020) [2] de la República Popular China y en Estados Unidos, en The national artificial intelligence research and development strategic plan (octubre 2016) [3] en los últimos tiempos de la administración Obama.

En el ámbito de la Unión Europea, el Comité de Asuntos Legales del Parlamento Europeo había sido comisionado para la elaboración de un estudio para evaluar y analizar, desde una perspectiva legal y ética, un número de normas de derecho civil sobre robótica [4] en el ámbito europeo. Tras ese estudio de 2016, el Parlamento Europeo aprobó una resolución el 16 de febrero de 2017 [5] para proponer a la Comisión Europea el impulso de una regulación en el ámbito de la robótica y la inteligencia artificial, además de la creación de una agencia europea de robótica e inteligencia artificial que ofrezca información especializada y asesoramiento técnico y ético a las autoridades. La Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL) [6] no deja de ser hasta cierto punto el comienzo de la respuesta pública a nuevos problemas y temores sociales y jurídicos generados por la automatización; por ejemplo, la recomendación de que los diseñadores incluyan mecanismos de apagado automático manual de emergencia; o la urgencia misma de una regulación, como es el caso de la responsabilidad en casos de accidentes causados en un contexto en el que participen sistemas de conducción automática.

Son de interés por el papel que han desempeñado en esta resolución el “Estudio del Parlamento Europeo sobre la ética de los sistemas ciberfísicos [7] y cómo cambiarán los robots nuestras vidas” (junio 2016) , realizado por el en nombre del Grupo de expertos de STOA (Evaluación de las Opciones Científicas y Tecnológicas) y dirigido por la Unidad de Prospectiva Científica (STOA) de la DG EPRS y la Carta sobre robótica [8] en la que se propone un código de conducta ética para los ingenieros en robótica, un código deontológico para los comités de ética de la investigación, una licencia para los diseñadores y una licencia para los usuarios;

En el ordenamiento jurídico español no existe hoy una planificación de políticas públicas ni una producción legislativa respecto a la regulación de las tecnologías autónomas, más allá de la relacionada con la progresiva y lenta implantación de las Tecnologías de la Información y la Comunicación (TIC) a las Administraciones Públicas.

El especial atraso de la Administración de Justicia, en plena transición hacia el expediente electrónico y a la interoperabilidad entre todas las aplicaciones informáticas en uso atomizadas en una pluralidad de territorios y colectivos, muestra como un evento particularmente lejano la llegada de las tecnologías que estamos examinando.

La Ley Orgánica 16/1994 reformó la Ley Orgánica del Poder Judicial de 1 de julio 1985 en su artículo 230 para habilitar jurídicamente por primera vez medios técnicos, electrónicos, informáticos y telemáticos puestos a su disposición, de modo obligatorio y con pleno valor legal, en una redacción que fue reforzada posteriormente por la Ley Orgánica 7/2015.

Artículo 230.

  1. Los Juzgados y Tribunales y las Fiscalías están obligados a utilizar cualesquiera medios técnicos, electrónicos, informáticos y telemáticos, puestos a su disposición para el desarrollo de su actividad y ejercicio de sus funciones, con las limitaciones que a la utilización de tales medios establecen el Capítulo I bis de este Título, la Ley Orgánica 15/1999, de 13 de diciembre, de Protección de Datos de Carácter Personal y las demás leyes que resulten de aplicación.

Las instrucciones generales o singulares de uso de las nuevas tecnologías que el Consejo General del Poder Judicial o la Fiscalía General del Estado dirijan a los Jueces y Magistrados o a los Fiscales, respectivamente, determinando su utilización, serán de obligado cumplimiento.

  1. Los documentos emitidos por los medios anteriores, cualquiera que sea su soporte, gozarán de la validez y eficacia de un documento original siempre que quede garantizada su autenticidad, integridad y el cumplimiento de los requisitos exigidos por las leyes procesales.
  2. Las actuaciones orales y vistas grabadas y documentadas en soporte digital no podrán transcribirse.
  3. Los procesos que se tramiten con soporte informático garantizarán la identificación y el ejercicio de la función jurisdiccional por el órgano que la ejerce, así como la confidencialidad, privacidad y seguridad de los datos de carácter personal que contengan en los términos que establezca la ley.
  4. Las personas que demanden la tutela judicial de sus derechos e intereses podrán relacionarse con la Administración de Justicia a través de los medios técnicos a que se refiere el apartado 1 cuando sean compatibles con los que dispongan los Juzgados y Tribunales y se respeten las garantías y requisitos previstos en el procedimiento que se trate.
  5. Los programas y aplicaciones informáticos que se utilicen en la Administración de Justicia deberán ser previamente informados por el Consejo General del Poder Judicial.

Los sistemas informáticos que se utilicen en la Administración de Justicia deberán ser compatibles entre sí para facilitar su comunicación e integración, en los términos que determine el Comité Técnico Estatal de la Administración de Justicia Electrónica.

Por su parte, la Ley 18/2011 reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia estableció cuidadosamente la habilitación normativa necesaria para la transformación de la Administración de Justicia en una Administración electrónica.

Su Exposición de Motivos señala:

La presente Ley regula el uso de las nuevas tecnologías en la Administración de Justicia. Los principales objetivos de esta norma, son: primero, actualizar el contenido del derecho fundamental a un proceso público sin dilaciones indebidas, gracias a la agilización que permite el uso de las tecnologías en las comunicaciones; segundo, generalizar el uso de las nuevas tecnologías para los profesionales de la justicia; tercero, definir en una norma con rango de ley el conjunto de requisitos mínimos de interconexión, interoperabilidad y seguridad necesarios en el desarrollo de los diferentes aplicativos utilizados por los actores del mundo judicial, a fin de garantizar la seguridad en la transmisión de los datos y cuantas otras exigencias se contengan en las leyes procesales.

Es por tanto una actividad normativa en la que actualmente no hay previsiones sobre implantación de las tecnologías objeto de esta ponencia, enmarcada en un proceso puramente modernizador para implantar tecnología allí donde no la había, y que toma como una de sus referencias el proyecto de E-Justicia en el ámbito de la Unión Europea, uno de cuyos hitos es el Plan de Acción Plurianual 2014-2018 relativo a la Justicia en red europea [9] del Consejo.

  1. Experiencias en el sector legal privado y en la resolución alternativa de conflictos

Los mayores avances en las llamadas tecnologías disruptivas en el ámbito legal están claramente relacionados con la actividad del asesoramiento jurídico privado.

Las grandes firmas y despachos de abogados están realizando importantes inversiones en la automatización de tareas dirigida tanto al ahorro de recursos personales como, simultáneamente, a la racionalización y mejora de la calidad de los servicios que prestan.

Un ejemplo ya paradigmático en y ampliamente difundido cuando se habla de “abogados virtuales” es el software ROSS Intelligence, [10] desarrollado por investigadores de la Universidad de Toronto a partir de la plataforma de inteligencia artificial WATSON de IBM [11], con capacidad para “consultar millones de datos, aprender con cada nueva búsqueda, reconocer a un ser humano e interactuar con él utilizando un lenguaje natural”, es decir el lenguaje utilizado por los humanos.

El funcionamiento de ROSS se basa en la recepción de “preguntas” en lenguaje natural y su “respuesta” utilizando el mismo lenguaje.

No se trata de un buscador que meramente automatice una serie de respuestas predeterminadas, sino que procesa grandes datos de legislación y  jurisprudencia para ofrecer una sola respuesta, la que considera más acertada. Además el software ROSS aprende a utilizar el lenguaje natural cuanto más lo utiliza.

La tecnología de computación cognitiva con la que está equipado –o equipada- permite a ROSS consultar íntegramente más de cien mil millones de documentos por segundo.

En el sector jurídico español [12], a finales de 2016 el 10% de los despachos de abogados utilizaban inteligencia artificial y tecnologías para la gestión de la información del big data

En el ámbito de la resolución alternativa de conflictos, también la mediación experimenta el impacto de la introducción de las TIC, señaladamente en el ámbito civil y mercantil, sobre todo en el contexto del auge del comercio electrónico.

Como consecuencia de la Directiva 2013/11/UE del Parlamento Europeo y del Consejo, de 21 de mayo de 2013 sobre  resolución alternativa de litigios en materia de consumo, y del Reglamento (UE) 524/2013 del Parlamento Europeo y del Consejo, de 21 de mayo de 2013, sobre resolución de litigios en línea en materia de consumo, la Comisión Europea puso en funcionamiento desde enero de 2016 una plataforma electrónica para la resolución alternativa de conflictos en materia de consumo [13] aunque no se trata de un sistema automatizado sino de una forma de vía de comunicación privilegiada entre la empresa y el consumidor.

El crecimiento y hasta cierto punto la moda de los sistemas de resolución alternativa de conflictos está dejando paso a verdaderos sistemas ODR (online dispute resolution) en los que, al menos en una primera fase del conflicto que origina la mediación, no existe intervención humana.

Obviamente, es mayor la proyección y eficacia de tales sistemas en los conflictos cuanto mayor es el grado de cuantificación económica del conflicto. Así podemos citar el centro de resolución del portal de subastas electrónicas eBay que resuelve anualmente más de 60 millones de pequeñas disputas con sus consumidores.

Como experiencias en funcionamiento aplicadas a conflictos de distinta naturaleza (por ejemplo, de derecho de familia o propiedad inmobiliaria) se puede citar el Proyecto Rechtwijzer [14] en los Países Bajos, fruto de la colaboración entre el Instituto de La Haya para la Internacionalización de la Ley (HIIL), el Consejo Holandés de Asistencia Jurídica y la firma estadounidense Modria.

La actuación del sistema se inicia de modo puramente automático, con una herramienta de software al que acuden las partes del conflicto y que asesora ofreciendo soluciones en función de la información facilitada por las mismas; en caso de no obtener su conformidad, el software deriva a las partes a una nueva fase ante un mediador humano, y finalmente, en caso de fracasar, les remite a un abogado, también humano, para dar inicio a la fase judicial del conflicto.

Pese a lo novedoso de este proyecto, el acuerdo de colaboración institucional y empresarial que dio lugar a Rechtwijzer se disolverá en julio de 2017 al resultar insostenible desde un punto de vista financiero. Sin embargo, a partir de septiembre de 2017 está prevista la entrada en funcionamiento de otra plataforma Justice42 [15], con el mismo ámbito y funcionalidades pero orientada a la mediación en conflictos matrimoniales (divorcios) en los Países Bajos.

 

  1. Experiencias en el sector público de la justicia

4.1 Tecnologías disruptivas y actividad judicial en sentido estricto

La sustitución directa de toda la actividad humana en lo puramente judicial no es un horizonte contemplado en las experiencias más recientes, ni es fácil encontrar estudios académicos o científicos serios sobre esa posibilidad.

A nivel divulgativo y periodístico es, sin embargo, un reclamo recurrente la hipótesis del juez-robot, con llamativos titulares que apelan a una supuesta inquietud filosófica y social de la audiencia respecto a si la humanidad está “preparada” para ello.

No obstante, uno de los trabajos académicos de mayor interés es la conocida reflexión en forma de ficción “Chief justice John Roberts is a robot[16] , publicada en 2013 por Kerr y Mathen, investigadores de la Universidad de Ottawa, sobre las implicaciones de una justicia plenamente impartida por un artefacto robótico.

Una de las experiencias más divulgadas es la actividad predictiva de la actuación profesional de jueces y magistrados en la emisión de sus resoluciones.

En este sentido ha tenido un amplio eco público el estudio colectivo Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective (oct 2016) [17] de diversos expertos de las Universidades de Londres, Sheffield y Pennsylvania y la compañía Amazon, conforme al cual se ha aplicado los recientes avances tecnológicos en aprendizaje automático (machine learning)  y procesamiento del lenguaje natural (NPL)  para construir un modelo predictivo que permitiera identificar patrones en la actividad resolutiva de un órgano judicial. En esta ocasión se trató del primer estudio sistemático para la predicción del sentido básico en que se resuelve los asuntos del Tribunal Europeo de Derechos Humanos. Tras examinar 584 casos materialmente relacionados con los artículos 3, 6 y 8 de la Convención Europea de Derechos Humanos, y procesalmente limitados a casos ingresados y admitidos a trámite, el modelo consiguió predecir el sentido en que se iba a resolver dichos casos por el Tribunal con un porcentaje de acierto del 79%, lo que puede considerarse como una cifra significativa, pese a las limitaciones referidas, y pese a circunscribirse la predicción a las resoluciones del Tribunal consideradas como una cuestión de clasificación binaria.

En el estudio A General approach for predicting the behaviour of the Supreme Court of the United States (2014) [18] por investigadores de Illinois Tech – Chicago Kent College of Law, LexPredict, LLC and South Texas College of Law Houston, se analizó los resultados de la implementación de un algoritmo que examinaba más de 60 años de datos del Tribunal Supremo de los Estados Unidos, 7.700 asuntos y más de 68.000 votos particulares, y ha obtenido un porcentaje de acierto del 70% en el sentido de las resoluciones  y del 71% en votos particulares de los magistrados. El algoritmo considera más de 90 variables entre las que se encuentra el perfil ideológico del juez, partes que intervienen asunto y tribunales de origen.

La aplicación de dichas tecnologías, aunque tienen como objeto la actividad pública judicial, está claramente orientada al sector privado y a su relación con la actividad de los órganos estatales encargados de impartir justicia. Su carácter fuertemente empírico, además, las hace más relevantes en los sistemas jurídicos anglosajones, basados en el valor jurídico del precedente.

En el ámbito europeo, el pasado 19 de mayo de 2017 en Lille tuvo lugar un acto público sobre justicia predictiva [19] del Comité Europeo para la Eficiencia de la Justicia (CEPEJ), órgano dependiente del Consejo de Europa. En él se puso de manifiesto aspectos jurídicos de gran importancia que limitan las posibilidades de la justicia predictiva en nuestro entorno, como la disponibilidad del acceso a la ingente cantidad de datos necesarios para el funcionamiento de tales sistemas en el difícil contexto del tratamiento público de las relaciones entre el big data y el open data.

Está por definir, por tanto, la utilidad de dichos modelos y el papel que puedan desempeñar para la actividad propia del sector público, en especial en un ecosistema de herramientas de gestión pública con incidencia en la transparencia de la actividad judicial y la planificación presupuestaria y organizativa de los recursos públicos.

Sin entrar en ello, sí es una realidad tangible ya la existencia y aplicación de tecnologías de computación cognitiva para la asistencia virtual a la actividad profesional del juez.

Es posible encontrar algunos ejemplos de ello en los sistemas judiciales de países como China y Estados Unidos, mientras que en el sistema judicial español no ha pasado de ser una hipótesis [20] periodística más o menos sugerente.

En la República Popular China, en la provincia de Hebei (con una extensión de 190.000 km2 y una población de 65 millones de habitantes) 178 órganos judiciales locales utilizan desde julio de 2016 Intelligent trial 1.0, [21] una aplicación de asistencia virtual basada en inteligencia artificial en sentido amplio centrada en el manejo de grandes bases de datos, cuyos resultados han ayudado a cerca de 3.000 jueces en más de 150.000 asuntos, [22] reduciendo en una tercera parte su carga de trabajo.

En Estados Unidos diversos territorios utilizan la herramienta informática COMPAS [23] desarrollada por una compañía privada, un algoritmo diseñado para, a partir del manejo de extensas bases de datos y de respuestas a cuestiones formuladas a un presunto infractor,  predecir el riesgo de comisión de nuevas infracciones legales, asistiendo y sirviendo de apoyo al juez para la toma de una decisión. En 2016 saltó a la opinión pública el polémico caso Wisconsin vs. Loomis [24] en el que, con base en el diagnóstico de COMPAS, el juzgador  emitió una sentencia condenatoria a seis años de prisión.

4.2 En la administración de justicia

  1. a) Las posibilidades de la automatización simple

El estado actual de la tecnología en fase de implantación en la administración de justicia, aunque a día de hoy irregularmente distribuida, solo parcialmente interoperable y con una difícil adaptación a las exigencias de una organización y legislación en buena medida arcaicas, permite ya vislumbrar un horizonte de integración entre plataformas que facilite un crecimiento considerable de la automatización.

Algunas aplicaciones de gestión procesal como e-justícia.cat ya prevén en su módulo de tramitación de expediente electrónico la generación automática del siguiente trámite legalmente previsto, en forma de sugerencia. No es difícil ya contemplar por tanto una hipótesis próxima de determinados procedimientos en que los trámites procesales, -una vez valorada por la propia aplicación la adecuación de requisitos estrictamente formales-, sean impulsados de modo automatizado y notificados mediante la integración con plataformas de comunicación.

Las posibilidades de automatización dependerán obviamente de la complejidad y exigencias de garantía de la regulación procesal afectada. Es conocida la posibilidad de tramitación íntegramente electrónica de determinados procedimientos de reclamación de cantidad en Austria y Alemania. (Santos Pastor y Robledo, Experiencias y Buenas Prácticas sobre Reclamaciones de Cantidad electrónicas en Alemania y Austria)

En un entorno tecnológico semejante, la crisis y redefinición de otro de los conceptos tradicionales en el funcionamiento de la Administración de Justicia, el impulso procesal de oficio (artículo 237 LOPJ), parece inevitable.

  1. b) Tecnologías de procesamiento automático de datos en el ámbito audiovisual

El campo de la documentación audiovisual de actos procesales es uno de los que mayores dificultades de implantación y resistencias ha venido generando, tanto por la superación de la secular figura medieval del escribano, como por las diferencias en la interacción humana con el documento respecto al tradicional lenguaje escrito.

Sin necesidad de tecnologías avanzadas de carácter disruptivo las modernas plataformas de reproducción de contenidos audiovisuales ya ofrecen posibilidades, como la transcripción o traducción simultáneas o posteriores a la grabación, que, pese a estar en producción y uso en diferentes sectores, aún están lejos de ser implantadas en el sector público judicial.

El estado actual de la tecnología ha superado la mera grabación de la imagen y el sonido, bien sea mediante técnicas de realidad aumentada, añadiendo elementos virtuales a la reproducción, bien mediante el procesamiento de datos obtenidos por la propia cámara.

En este último supuesto destaca la incorporación de nuevos tipos de microprocesador dotados de la tecnología Vision Processing Unit (VPU) [25] con aplicación en cámaras de vigilancia y capacidad para procesar los datos percibidos detectando patrones a partir de ellos.

 

  1. Dificultades y retos

5.1 Calidad democrática

  1. a) El problema del sesgo

La polémica del software COMPAS utilizado en los Estados Unidos para la predicción del riesgo de futuros delitos ha sido seriamente puesta en duda por su sesgo racista. Según el estudio de la agencia de noticias ProPublica, [26] el software atribuye un 77 por ciento más de riesgo delictivo a la población negra que a la blanca.

La pura búsqueda de la imitación tecnológica más exacta posible de las pautas del comportamiento humano conduce al riesgo de incurrir en una reproducción no selectiva de las mismas. Por ello el consenso y la estandarización política de valores democráticos y éticos en los procesos de robotización debe ser una prioridad para los poderes públicos.

  1. b) La despolitización de la toma de decisiones

Otro de los retos de las tecnologías disruptivas en cierto modo relacionado con el anterior es el derivado de la creciente concepción tecnocrática de la justicia entre amplias capas sociales y políticas, impulsada por la capacidad de influencia de sectores  corporativos y financieros, y la crisis y disminución de confianza de la opinión pública en la actuación de la que podríamos llamar política profesional.

La falta de control político democrático sobre el desarrollo e implantación de las tecnologías que tiendan a suplir el factor humano en la justicia, -sea con objeto de aumentar la eficiencia o reducir cargas de trabajo-, unida a la mitificación de una visión maximalista de la independencia judicial y su despolitización o desideologización, son elementos cuya interacción puede tener un impacto directo en la instauración de un pensamiento único difícilmente compatible con las libertades democráticas, lo que vendría a ser una irrebatible apisonadora de derechos y libertades.

Es responsabilidad de los poderes públicos delimitar el carácter estricta y ontológicamente instrumental del derecho para la sociedad, delimitación que solo puede venir de una línea política tal en el sentido que proclamaba el filósofo esloveno Slavoj Zizek [27] en su referencia a la “re-politizar radicalmente la economía”. Aplicada a la economía, tal reflexión va en la dirección de facilitar que la ciudadanía tome sus riendas frente a los intereses de las corporaciones y del gran capital financiero. Con el derecho y la justicia ocurre algo similar y solo su repolitización democrática radical puede evitar lo que podríamos llamar la tentación totalitaria en una hipotética y próxima sociedad humana altamente tecnificada.

5.2 El obstáculo del lenguaje jurídico

La capacidad de procesamiento de lenguaje humano afecta decisivamente a la capacidad de interacción entre la persona y los sistemas artificiales. A su progresiva superación se dirigen los esfuerzos de las tecnologías dedicadas al procesamiento del lenguaje natural (NPL) [28], un sector multidisciplinar, especialmente activo y en constante avance.

Correlativamente, una de las grandes dificultades para el progreso de las tecnologías basadas en inteligencia artificial en el ámbito jurídico es su capacidad de adaptación y uso del llamado lenguaje jurídico.

Pese a la vestimenta rigurosamente formal y hasta cierto punto científica del derecho, presentado como un sistema coherente de normas jerarquizadas y relacionadas entre sí de diversos modos, atomizadas en preceptos, y complementado por principios, valores, jurisprudencia, y por la interpretación doctrinal y práctica de todo ello, su lenguaje presenta dificultades (lagunas jurídicas, contradicciones, expresiones ambiguas, polisemia, homonimia, etc.) hasta la fecha insalvables para una modelización informática adecuada [29] a las tecnologías de procesamiento del lenguaje natural.

La naturaleza profundamente política del derecho, de su producción, de su aplicación, de su análisis, debe marcar un claro límite a la cuestión de quién tiene el control. Paradójicamente, es esta misma cualidad ontológica la que puede permitir desde los poderes públicos, y dentro de esos precisos límites, el impulso de nuevas formas complementarias de lenguaje jurídico aptas para ser modelizadas en sectores concretos.

 

5.3 Impacto en los modelos organizativos de gestión pública

Dadas las prestaciones y posibilidades de las nuevas tecnologías es inevitable pensar en el impacto de una eventual adopción de políticas de automatización en la organización de la administración pública de justicia.

Según un estudio referido al Reino Unido a comienzos de 2017, [30] al menos 250.000 puestos de trabajo en el sector público serán reemplazados en su actividad por los procesos de robotización y automatización de tareas administrativas en los próximos 15 años.

En la administración de justicia española es evidente el peso del factor humano en la administración de justicia. Para hacernos una idea de la importancia de los recursos personales en las políticas públicas de justicia basta con medir el capítulo de gastos de los Presupuestos Generales del Estado para la administración de justicia española, que en el ejercicio 2017 fue de 1.726 millones de euros, de los cuales 1.358 millones de euros fueron para gastos de personal y solo 368 millones para el resto de políticas públicas.

En el momento actual no se ha registrado ni está prevista una sustitución tecnológica directa de puestos de trabajo, pero sí ha existido un limitado impacto organizativo, relacionado con la implantación combinada -aunque aún escasa y parcial- de la oficina judicial en sustitución de los ya anticuados y centenarios juzgados, y las tecnologías de grabación y reproducción audiovisual de actos procesales. Se puede citar el ejemplo paradigmático del Cuerpo de Secretarios Judiciales, rebautizado en 2015 como “Letrados de la Administración de Justicia”, y en pleno proceso de transformación.

Los primeros diseños de la organización judicial basada en la nueva oficina judicial  establecían una especie de entidad organizativa auxiliar llamada “Unidad Procesal de Apoyo Directo” al Juez, en la que se preveía como regla general un Secretario Judicial por cada dos unidades, frente al principio tradicional de “uno por Juzgado”. Posteriormente, la habilitación procesal para grabar y reproducir con total garantía vistas de juicios orales y otras actuaciones sin la necesidad de presencia física de dicho funcionario y la propia experiencia acumulada han permitido una tímida redefinición del modelo estableciendo como principio general la previsión de un Secretario por cada tres unidades.

No es aventurado pronosticar que la llegada de la segunda generación de sistemas informáticos de gestión procesal, la necesaria e inevitable integración de los mismos con otras aplicaciones y la implantación definitiva del anhelado expediente electrónico sólo pueden tener como siguiente paso una limitada irrupción de tecnologías disruptivas basadas en la automatización, y que ello sí  puede tener un impacto directo y significativo en la configuración y organización de las plantillas humanas de la administración de justicia.

5.4 La crisis del jurista técnico

Un examen somero del estado actual de la tecnología hace difícil identificar una actividad intelectiva humana que no sea en un futuro próximo al menos parcialmente reemplazable por una acción integrada de sistemas de aprendizaje profundo basados en redes neuronales con acceso a big data.

Incluso en el supuesto de que la investigación se limitase en adelante al desarrollo y perfeccionamiento de asistentes virtuales, el perfil de jurista tradicional dogmático, como el jurista experto o técnico kelseniano están llamados a sufrir una crisis profunda, con los riesgos que para los valores democráticos puede conllevar su creciente burocratización o conversión en meros operarios de aplicaciones tecnológicas.

  1. Conclusiones

La planificación pública, regulación e implantación de tecnologías avanzadas en la justicia es escasa a todos los niveles, habiendo comenzado salvo experiencias aisladas solo en el sector legal privado y con preferencia en los sistemas jurídicos anglosajones. La previsión de impacto organizativo y ético es insuficiente y sólo se ha iniciado mediante estudios genéricos y preliminares de instituciones de la Unión Europea. Para su plena compatibilización con valores democráticos, sociales y de respeto a las libertades, una futura implantación de dichas tecnologías en el sector justicia deberá conllevar una paralela repolitización democrática en la justicia y reforzamiento a todos los niveles del sentido garantista del derecho.

 

NOTAS

[1] “The Innovator’s Dilemma” Harvard Business Review Press; 1 edición 1 mayo 1997

[2] National IT Development Strategy (2016-2020)

[3] https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf

[4] http://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf

[5] http://www.europarl.europa.eu/news/es/press-room/20170210IPR61808/robots-e-inteligencia-artificial-el-pe-pide-normas-europeas

[6] Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)

[7] http://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU%282016%29563501_EN.pdf

[8] http://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU(2016)563501(ANN)_EN.pdf

[9] http://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52014XG0614(01)&from=ES

[10] http://www.elconfidencial.com/tecnologia/2015-07-10/si-la-justicia-es-ciega-ha-llegado-la-hora-de-los-jueces-robot_921576/

[11] https://www.ibm.com/blogs/watson/2016/01/ross-and-watson-tackle-the-law/

[12] http://www.europapress.es/nacional/noticia-10-despachos-abogados-ya-emplea-big-data-analisis-juridico-20161117195949.html

[13] https://ec.europa.eu/consumers/odr/main/index.cfm?event=main.home.show&lng=ES

[14] http://www.hiil.org/project/rechtwijzer

[15] https://law-tech-a2j.org/advice/goodbye-rechtwijzer-hello-justice42/

[16] http://robots.law.miami.edu/2014/wp-content/uploads/2013/06/Chief-Justice-John-Roberts-is-a-Robot-March-13-.pdf

[17] https://peerj.com/articles/cs-93/

[18] https://poseidon01.ssrn.com/delivery.php?ID=290121104103076030119000103098082117096008010047067082026005084077003104127023103126114002127017056025028075097070123082101099112010070053028103117085116100113019061080010082090121122066068024067124104116125099026108110123107099126011007098068103064&EXT=pdf

[19] https://dl.dropboxusercontent.com/u/30036229/conference_justice_predictive_FINAL_20170519.pdf

[20] http://tecnologia.elpais.com/tecnologia/2016/12/27/actualidad/1482830564_327288.html

[21] http://www.chinadaily.com.cn/china/2017-02/27/content_28361584_11.htm

[22] http://www.sixthtone.com/news/1584/chinas-courts-look-to-ai-for-smarter-judgments

[23] http://www.northpointeinc.com/files/downloads/FAQ_Document.pdf

[24] https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html?_r=0

[25] https://www.xataka.com/realidad-virtual-aumentada/estos-chips-quieren-revolucionar-y-democratizar-la-computacion-visual

[26] https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

[27] En defensa de la intolerancia, 2007, Ed Sequitur, p.132

[28] https://es.wikipedia.org/wiki/Procesamiento_de_lenguajes_naturales en especial cfr. las referencias externas citadas en el artículo.

[29] Inteligencia Artificial y Derecho. Problemas y perspectivas, Carlos Fernández Hernández y Pierre Boulat, abril 2015 http://noticias.juridicas.com/conocimiento/articulos-doctrinales/10061-inteligencia-artificial-y-derecho-problemas-y-perspectivas/#_Toc416175200

[30] https://www.theguardian.com/technology/2017/feb/06/robots-could-replace-250000-uk-public-sector-workers

__________________________________

©sisej 2009 — Visitas totales: 182,207 — Últimas 24 horas: 1
Share via
Copy link
Powered by Social Snap