DERECHO E INTELIGENCIA ARTIFICIAL EN EL MUNDO DE HOY: ESCENARIOS INTERNACIONALES Y LOS DESAFÍOS QUE REPRESENTAN PARA EL PERÚ

LAW AND ARTIFICIAL INTELLIGENCE IN TODAY’S WORLD: INTERNATIONAL SCENARIOS AND THE CHALLENGES THAT THEY REPRESENT FOR PERU

Christian Dennis Valero Quispe*

Universidad Nacional del Altiplano

I. INTRODUCCIÓN

El avance de la tecnología en todos los ámbitos de nuestra sociedad ha dado como resultado inventos que hacen la vida del ser humano cada día más sencilla y, a medida que pasa el tiempo, estos inventos son mejorados para realizar cada vez más funciones. Sin embargo, cuando nos ponemos a pensar en robots inteligentes capaces de realizar actividades como si fueran humanos, lo asociamos con un tema del futuro, pero lo cierto es que en la actualidad ya se han desarrollado sistemas inteligentes que simulan el comportamiento humano, los mismos que destacamos en el presente artículo.

A pesar de que la inteligencia artificial se ha desarrollado con mayor énfasis en el campo de las ciencias médicas, el Derecho no es ajeno a esta realidad, razón por la que nos vamos a centrar en los sistemas inteligentes que han sido desarrollados exclusivamente para realizar funciones en el mundo jurídico y vamos a plantear los desafíos que representan el uso de estos sistemas en el Derecho. Además, nos vamos a enfocar en áreas como los gestores normativos, desarrollo del proceso judicial, la forma de administrar justicia y la formación profesional.

Por las razones descritas, en el artículo se destaca las revoluciones industriales, a su vez que se realiza una aproximación al término inteligencia artificial y la relación que tiene con el Derecho. Asimismo, se detallan los sistemas inteligentes desarrollados a nivel internacional y los desafíos que representan en el mundo jurídico. Finalmente, se plantean escenarios para debatir sobre una posible responsabilidad en caso de que fallen los sistemas inteligentes y se formula la pregunta: ¿podrían los robots sustituir a los abogados?, dando apertura al debate jurídico sobre la materia.

II. LA CUARTA REVOLUCIÓN INDUSTRIAL

La constante evolución del ser humano lo ha llevado a desarrollar nuevas estructuras tecnológicas que van desde la invención de máquinas de vapor hasta la creación de máquinas inteligentes. No cabe duda de que estos acontecimientos han provocado cambios substanciales en la vida diaria, siendo así que, el término revolución implica un cambio radical en las esferas propias de la vida humana1. Según Castells, en nuestra historia se han suscitado por lo menos dos revoluciones:

La primera comenzó en el último tercio del siglo XVIII, se caracterizó por las nuevas tecnologías como la máquina de vapor […] la segunda, unos cien años después, ofreció el desarrollo de la electricidad, el motor de combustión interna, la química basada en la ciencia, la fundición de acero eficiente y el comienzo de las tecnologías de la comunicación, con la difusión del telégrafo y la invención del teléfono (1996/2000, p. 64).

La necesidad del ser humano de hacer su vida cada vez más sencilla dio como resultado la tercera revolución industrial que, para Schwab:

Se inició en la década de 1960. Generalmente se la conoce como la revolución digital o del ordenador, porque fue catalizada por el desarrollo de los semiconductores, la computación, la informática personal e Internet […] hoy estamos en los albores de una cuarta revolución industrial. Esta comenzó a principios de este siglo y se basa en la revolución digital. Se caracteriza por un Internet más ubicuo y móvil, por sensores más pequeños y potentes que son cada vez más baratos, por la inteligencia artificial y el aprendizaje de la máquina (2016, pp. 12-13).

A pesar de que no existe una clara diferencia entre la tercera y cuarta revolución2, estos sucesos evidencian que la inteligencia artificial no es un tema del futuro, es un tema actual. A la par con los sistemas inteligentes, también se vienen desarrollando otros campos como la genética, nanotecnología, energías renovables, computación cuántica, algoritmos, comercio electrónico, etc. Prácticamente estamos atravesando un cambio trascendental y no podemos ser ajenos a esta realidad, siendo inevitable no preguntarse sobre los nuevos desafíos del Derecho en esta cuarta revolución.

III. INTELIGENCIA ARTIFICIAL

Las capacidades mentales del ser humano le permiten razonar, inventar, crear, aprender y todo ello como una característica propia del razonamiento. Con la cuarta revolución industrial se habla de la inteligencia artificial que, para Malpica Velasco:

[E]s la rama de las Ciencias de la Computación que estudia el software y hardware necesarios para simular el comportamiento y comprensión humana. El objetivo último de la IA es simular la inteligencia humana en una máquina creando robots que sean conscientes y con sentimientos reales, similares a los humanos (s.f., p. 1).

De lo anterior se entiende es que la inteligencia artificial es la creación de hardware y software3 que simulan la comprensión humana por medio de máquinas inteligentes o concebidas como máquinas con mentes4. El estudio de estos procesos se realiza mediante modelos computacionales que les permite procesar, razonar, decidir y resolver como verdaderos agentes inteligentes.

De forma similar, Rusell y Norvig (2004) señalan que:

El campo de la inteligencia artificial, o IA, va más allá: no sólo intenta comprender, sino que también se esfuerza en construir entidades inteligentes. La IA es una de las ciencias más recientes. El trabajo comenzó poco después de la Segunda Guerra Mundial, y el nombre se acuñó en 1956 […]. La IA sintetiza y automatiza tareas intelectuales y es, por lo tanto, potencialmente relevante para cualquier ámbito de la actividad intelectual humana. En este sentido, es un campo genuinamente universal (p. 1).

De ahí se desprende que la inteligencia artificial es la rama de las ciencias de la computación, que se desarrolla sobre la base de procesos y permite a la máquina realizar un razonamiento5 para llegar a posibles decisiones como si fuera el resultado del razonamiento humano.

En la misma línea, Rich señala que “la inteligencia artificial es el estudio de cómo conseguir que las computadoras hagan las cosas que, por el momento, las personas hacen mejor” (citado en Beekman, 2005, p. 558). Es decir, la inteligencia artificial vendría a ser una máquina que, al procesar la información, podría replicar las acciones humanas y ofrecer posibles soluciones en campos económicos o sociales6, razón por la cual el Derecho no puede ser ajeno al uso de estos sistemas inteligentes. En ese sentido, es válido plantearse la pregunta: ¿qué desafíos debe afrontar el Derecho con la llegada de la inteligencia artificial? Esta será la pregunta que se responderá en el desarrollo del artículo.

IV. DERECHO E INTELIGENCIA ARTIFICIAL

El desarrollo tecnológico implica que el Derecho contemple nuevas soluciones que orienten la convivencia al bien común y estas deben estar en armonía con los enfoques contemporáneos, por lo que, se necesita no solo de un tratamiento jurídico o técnico, sino también se requiere juristas con un nuevo pensamiento capaces de manejar los retos de un nuevo Derecho. Al respecto, Martínez García (2018) reflexiona en el extremo que:

La mayoría de los estudios jurídicos sobre informática y robótica se orientan hacia una problemática técnica o instrumental, concibiendo a la máquina como una herramienta útil. O bien se centran en una problemática ética o de tratamiento jurídico: protección de datos, comercio electrónico, administración electrónica, amenazas a la libertad, acceso y control de usuarios, cancelación y rectificación de información, ciberseguridad, etc. […] Pero aquí interesa como desafío conceptual el impacto en la forma mental del jurista (p. 98).

En ese sentido, el cambio mental del jurista no se va a lograr solamente con una regulación normativa y que los operadores del Derecho apliquen esas normas. Un cambio mental implica reflexionar sobre el impacto de la inteligencia artificial en el Derecho y la forma de orientar la profesión como una verdadera ciencia multidisciplinaria.

La inteligencia artificial se aplica en el Derecho en áreas como “i) Modelos para la argumentación y la toma de decisiones; ii) Clasificación de textos legales; iii) Extracción de información y iv) Creación y planificación de un sistema legislativo” (Fernández & Boulat, 2015). Es así que, la información o planificación de un sistema legislativo busca codificar y hacer interactuar al usuario con la máquina, es decir, que la persona pueda realizar sus actividades con ayuda de un sistema y de esa forma pueda tomar mejores decisiones. Ello implica que los sistemas legales creados con algoritmos7 sean capaces de almacenar información jurídica en una base de datos y superado la codificación de los algoritmos se daría paso a la creación de robots8, y con ello el necesario análisis en áreas como el desarrollo del proceso, emisión de sentencias, elaboración de escritos, formación profesional, responsabilidad, entre otros.

V. DESAFÍO EN LOS GESTORES NORMATIVOS

Al existir en nuestro ordenamiento jurídico una gran cantidad de leyes, resulta necesario estructurar la legislación. Este aspecto ya ha sido realizado por medio del Sistema Peruano de Información Jurídica (en adelante, SPIJ) que vendría a ser:

Una edición oficial del Ministerio de Justicia que contiene los textos de la legislación nacional e información jurídica debidamente sistematizada, concordada, actualizada y con herramientas de búsqueda y recuperación de información idóneas. Permite ubicar en forma rápida, los textos de normas legales a través de palabras, frases, número de norma, fecha de publicación, entre otros (Ministerio de Justicia y Derechos Humanos [MINJUS], s.f., p. 6).

Por medio del SPIJ, nuestro ordenamiento jurídico peruano se viene estructurando en una base de datos. De forma similar, la base jurisprudencial de Hiperderecho vendría a ser otra base de datos9 que almacena casos, resoluciones y sentencias, lo que prácticamente muestra que las normas se vienen organizando por medio de sistemas.

En otras palabras, en el Perú se está trabajando con gestores que ayudan a organizar y sistematizar las normas del ordenamiento; sin embargo, cuando se pretende estudiar el Derecho comparado, se advierte que no existe un sistema único que reúna la normativa concordada y actualizada de los diferentes países. Es en este punto donde la inteligencia artificial puede desarrollar un sistema único, ya que, con el refinamiento de datos al introducir la normativa nacional e internacional, los algoritmos podrían transformar una simple base de datos a un sistema que pueda procesar consultas e identificar normas con la sola búsqueda de palabras claves. En otras palabras, crearía un sistema inteligente10, logrando así una contribución al estudio del Derecho comparado con ayuda de la inteligencia artificial.

VI. DESAFÍO EN EL PROCESO JUDICIAL

Según San Martín Castro (2015), el proceso se define:

Como el instrumento de carácter esencial que ostenta la jurisdicción, el Poder Judicial a través de sus órganos: juzgados y salas para la resolución definitiva e irrevocable de los conflictos intersubjetivos y sociales […]. El proceso presenta una estructura básica: existen actos de alegación y actos probatorios a cargo de las partes, necesarios para que el juez pueda juzgar y aplicar el derecho objetivo a los casos concretos, esto es, preservar el ordenamiento jurídico, tutelando efectivamente los derechos e intereses de todos, lo que revela su pleno carácter instrumental (pp. 38-39).

En otras palabras, el proceso es el instrumento mediante el cual el juez puede aplicar el Derecho y mediante una sentencia logra resolver los conflictos. No obstante, para ello se requiere que previamente las partes realicen actos de alegación y actos probatorios, siendo así que este modelo se caracteriza por el predominio de la palabra hablada en virtud del principio de oralidad.

Ahora bien, para garantizar que las partes tomen conocimiento de las distintas actuaciones procesales, el desarrollo del proceso se orientó al uso de las tecnologías como la aplicación de sistemas informáticos para el seguimiento de las resoluciones, las notificaciones electrónicas, portales interactivos. En la actualidad, producto de la pandemia del COVID-19, las audiencias se llevan a cabo de manera virtual. Por ejemplo, ahora el proceso se viene desarrollando con los medios informáticos de notificación, portales de consulta de expedientes y videoconferencias.

Es por esta razón que el desafío posterior al uso de medios informáticos va a implicar un cambio integral en la reingeniería procesal, lo que significa una transformación de los actuales modelos procesales a un modelo inteligente donde se pueda llevar a cabo actividades como las que Corvalán (2019) plantea:

Apenas ingresa un escrito que acredita personería junto a la copia digital de un poder, el sistema en pocos segundos podría detectar y elaborar un despacho que tenga por acreditada la personería [...] dialogar con el presentante, a fin de advertirle acerca de posibles errores existentes. Por ejemplo, que adjuntó un poder en donde no figura la persona que afirma ser apoderada [...] segmentar y clasificar por trámites más urgentes [...] sugerirle al operador judicial un orden de prioridad de los expedientes pendientes de control y firma [...] automatizar sin intervención humana, resoluciones judiciales simples como vistas, traslados, pases y notificaciones (pp. 10-11).

Las actividades que plantea Corvalán no es solo doctrina. A nivel internacional, el Ministerio Público Fiscal de Buenos Aires ha desarrollado PROMETEA, un sistema capaz de elaborar 1000 dictámenes jurídicos en solo 45 días, tiempo el cual hubiese aumentado a 174 si no se hubiese empleado el sistema. Para el caso de ejecuciones fiscales, en un mes se puede realizar 225 resoluciones; no obstante, con PROMETEA se podría alcanzar 1440 en el mismo periodo. Asimismo, en el Registro Civil de Buenos Aires ingresan al año 6000 rectificaciones partidarias, con PROMETEA se atendieron estas rectificaciones en dos meses, cuando antes demoraban ocho. Cabe resaltar que con la intervención humana el sistema inteligente fue capaz de leer, analizar, detectar y sugerir casos prioritarios sobre derecho a la salud en menos de dos minutos, algo que para una persona humana le hubiera llevado 96 días hábiles de trabajo (Abogados.com.ar, 2019).

PROMETEA no es el único caso. En Alemania, en las universidades de Heidelberg y Darmstadt, se ha desarrollado JUDITH, un sistema experto11 capaz de aplicar el Código Civil alemán. Este sistema experto jurídico12 es entendido por Martínez Bahena (2013) como:

[U]n sistema computacional que puede plantear posibles soluciones a determinados asuntos jurídicos aplicando el conocimiento experto en la materia [...] o puede ser usado como herramienta de apoyo para los operadores jurídicos en contextos tales como la asesoría, asistencia legal o la función jurisdiccional (p. 833).

El caso de JUDITH evidencia que el uso de sistemas expertos en el Derecho es una realidad. En ese sentido, el desafío en el desarrollo del proceso judicial implica hacer uso de estos sistemas inteligentes como PROMETEA, de tal manera que se logre transformar el clásico modelo, en donde se advierte una alta carga procesal, a un sistema secuencial, rápido, estructurado y sobre todo dinámico.

VII. DESAFÍO EN LA ADMINISTRACIÓN DE JUSTICIA

En la actualidad quien emite una sentencia es un ser humano que ostenta la función de magistrado, sin embargo, debemos preguntarnos: ¿puede la inteligencia artificial emitir sentencias? Para responder esta pregunta, planteamos un caso internacional de un sistema experto de sentencias, en el cual su creadora (la doctora María del Socorro Téllez Silva) diseñó un sistema de apoyo a los jueces de familia. En este, el sistema inteligente relaciona la lógica y el razonamiento jurídico, y es capaz de emitir una posible sentencia como si fuera un operador de justicia. Sobre este sistema experto en sentencias, Martínez Bahena (2013) destaca que:

Para probar la estabilidad del sistema se presentó este prototipo ante dos jueces de lo familiar para que emitieran su opinión en dos rubros. El primero se refiere a la facilidad de operar el sistema y, el segundo, a si el sistema emitió una solución similar a la que ellos emitirían sin ayuda del programa. Como respuesta a la primera pregunta recomendaron la elaboración de un manual de usuario. Por lo que se refiere a la segunda pregunta, manifestaron que no se presentó mayor complicación para resolver lo que en derecho corresponda; sin embargo, consideraron que deben idearse programas combinados debido a que los litigantes, generalmente, ejercitan más de una pretensión (pp. 844-845).

Respecto a la primera pregunta que se refiere a la facilidad para operar el sistema, los jueces recomendaron la elaboración de un manual de usuario13. Ello debe hacernos reflexionar en el extremo de que el Derecho no es solo normas, sino es una ciencia multidisciplinaria, y como tal la preparación de los estudiantes y juristas ahora deben darle mayor énfasis al manejo de programas, sistemas y algoritmos inteligentes. En otras palabras, el desafío para los próximos magistrados, además de formarse en la ciencia jurídica, es ahora una formación en el manejo de sistemas computacionales, pues de lo contrario va a resultar complicado operar sistemas expertos, aun con la ayuda de un manual de usuario.

Con relación a la segunda pregunta sobre la emisión de la resolución, debemos precisar que la sentencia emitida por el sistema fue similar a la que los jueces hubiesen emitido. Ello implica que las pruebas piloto en la administración de justicia ya se están llevando a cabo mediante sistemas inteligentes. El perfeccionamiento de estos sistemas expertos en sentencias implicaría su presencia en los distintos juzgados. En todo caso, la preparación en temas de inteligencia artificial son desafíos a los que debemos responder desde la formación universitaria.

VIII. DESAFÍO EN LA FORMACIÓN PROFESIONAL

El Derecho demanda formación, experiencia y adoctrinamiento en la justicia, y esto no se manifiesta solo con el ordenamiento jurídico, sino que exige una preparación en todas las ramas. Al respecto, el maestro Couture (s.f.) indica que “estudia: el Derecho se transforma constantemente. Si no sigues sus pasos, serás cada día un poco menos abogado”. Este primer mandamiento del abogado exige una constante actualización, ya que al Derecho cada día se le suman leyes, resoluciones, doctrina, jurisprudencia y ahora temas de tecnología.

Un Derecho cada vez más inteligente exige que la sociedad esté en permanente contacto con la inteligencia artificial. En esa línea, Ocaña, Valenzuela y Garro-Aburto (2019) señalan que:

En la formación universitaria se pone énfasis en el diseño de perfiles profesionales que se enmarquen al trabajo y la generación de conocimiento [...] pero bien ¿hay una vertiente diáfana en los contextos de la educación superior que se enfoquen a los cambios que se suscitan en los nuevos retos sustentados en la educación digital?; ¿cuál es el perfil, y que competencias deberá de desarrollar el estudiante inmerso en el mundo virtual? (pp. 542-543).

Sin duda la respuesta a estas preguntas es la oralidad; debido a que, con un sistema capaz de tomar decisiones como si fuera una inteligencia humana, los escritos y las actuaciones procesales se van a realizar de forma mecánica y la parte práctica por el jurista.

A nivel internacional, según explica De Trazegnies Granda, “la Universidad de Harvard implementó un curso sobre la aplicación de la inteligencia artificial al Derecho, a fin de reclutar futuros investigadores” (2013, p. 122). Este escenario muestra que los estudiantes del Derecho ya se vienen formando desde la universidad en inteligencia artificial y si a ello le sumamos los sistemas expertos en sentencias, nos damos cuenta de que aprender Derecho ya no va a consistir en aprender contenidos, sino va a significar un aprendizaje en argumentación.

Así, la parte teórica va a ser realizada por las máquinas inteligentes y la parte filosófica por los juristas. En virtud de lo cual, las actuales facultades de Derecho del país deben cambiar su estructura curricular e incluir temas de tecnología, sistemas computacionales e inteligencia artificial, así como darle énfasis a las asignaturas de argumentación y litigación jurídica.

IX. ROBOT ROSS

Los sistemas inteligentes aplicables al Derecho no se están discutiendo en nuestro país o, por lo menos, no en la medida que se debería. No cabe duda de que esta situación debe cambiar, ya que la inteligencia artificial no es un tema del futuro que va a ocurrir de aquí a unos años, sino es una situación actual. Por ejemplo, en Estado Unidos se ha contratado la inteligencia artificial ROSS, el cual es considerado el primer abogado robot, puesto que es un sistema capaz de absolver consultas y emitir una respuesta más rápida que un abogado humano.

Según explica Chuquicallata Reategui (2018):

Este software fue creado por una startup14 canadiense de la Universidad de Toronto. Los investigadores utilizaron la tecnología del superordenador Watson, desarrollado por la International Business Machines Corporation (IBM)” (2018).

ROSS es capaz de responder preguntas legales en tiempo real y no solo ofrece respuestas acertadas, sino que además puede analizar sentencias y advertir riesgos o ventajas ante una posible estrategia legal. Tales son las ventajas que ofrece este abogado robot que ya ha sido contratado por despachos jurídicos, tal como destaca Chuquicallata Reategui (2018):

En 2016, la prestigiosa firma estadounidense, Baker & Hostetler, contrató a ROSS para que forme parte del Departamento de Gestión de Quiebras, junto a un numeroso equipo de 50 abogados humanos. Según aseguran sus fundadores, la compañía decidió contratar a esta inteligencia artificial como abogado para formular hipótesis y fundamentarlas con citas de leyes o precedentes legales. Los responsables de la firma explicaron que no son los únicos en haber contratado los servicios de este abogado artificial.

A pesar de que ROSS Intelligence15 cerró sus operaciones el 31 de enero de 202116, el hecho de que una inteligencia artificial como ROSS haya sido contratado en despachos de abogados para que pueda participar del mundo jurídico, mediante la formulación de una opinión legal, debe hacernos reflexionar sobre el futuro de la profesión y, sobre todo, cambiar el pensamiento de un Derecho clásico por el de un Derecho inteligente.

ROSS no es el único sistema inteligente capaz de adentrarse al mundo legal. Otro caso a nivel internacional es RAVN, el cual es un sistema de inteligencia artificial que ha logrado destapar un presunto fraude de sobornos en Reino Unido. En esa línea, Hernández (2019) señala que:

Ross, de IBM está programado para procesar y utilizar el lenguaje natural y también es capaz de formular hipótesis para responder a las preguntas planteadas, utilizando la jurisprudencia. Algo similar hace RAVN, famoso por haber contribuido a destapar un fraude en una conocida marca de automóviles, al haber sido capaz de analizar 600,000 documentos al día. Es prácticamente impensable lo que le habría costado analizar a una persona esa cantidad de documentos (p. 807).

Casos como los de ROSS y RAVN evidencian que la inteligencia artificial ha logrado optimizar los recursos y la productividad. Ambos sistemas inteligentes son capaces de emplear conocimientos jurídicos y ofrecer una asistencia al abogado; por lo cual, el desafío para los próximos profesionales del Derecho debe ser formarse en inteligencia artificial y no esperar a que estos robots inteligentes cambien el Derecho como lo conocemos.

X. REALIDAD INTERNACIONAL

A nivel internacional existen otros sistemas inteligentes que ya se usan en el mundo jurídico. En España, por ejemplo, se tienen sistemas inteligentes como Vlex Analytics, que es un sistema que ayuda a predecir los casos en litigio, lo cual se logra mediante un análisis de los juzgados y tribunales; Jurimetría, que es un programa inteligente que reúne millones de resoluciones judiciales y, sobre la base de los fundamentos expresados en las resoluciones, permite tomar decisiones; Legal Data, sistema inteligente que está diseñado para introducir datos del proceso y es capaz de predecir los resultados de los litigios; o como el sistema Tirant Analytics, que analiza los hechos y es capaz de ofrecer posibles estrategias legales, así como el porcentaje de éxito de cada una de ellas (Noticias Jurídicas, 2016).

Por otro lado, en Estados Unidos el Consejo de la Abogacía Norteamericana (ABA por sus siglas en inglés) aprobó una reforma en sus modelos de normas de conducta profesional, estableciendo que los abogados deben ser competentes no solo en conocimientos legales, sino también en tecnología. Asimismo, el Colegio de Nuevo Hampshire, en materia de cloud computing17, ha establecido que los abogados tengan conocimientos básicos en tecnología. En forma similar, el Colegio de California, en su Formal Opinion 2015-193, concluye que la carencia de conocimientos tecnológicos puede convertir a un abogado en éticamente incompetente (Noticias Jurídicas, 2016). En otras palabras, hasta cierto punto, se puede afirmar que en Estados Unidos indirectamente se obliga a los abogados a formarse y ser competentes en temas de tecnología.

En España se usan los smart contracts18 –que se ejecutan sobre la plataforma de los Ethereum, la cual se basa en blockchain–, estos son contratos inteligentes que se llevan a cabo de manera automática, previo acuerdo de los términos y condiciones de las partes. Adicionalmente, se tienen los ChatBot Jurídicos, que son programas informáticos usados en estudios de abogados con los cuales se puede mantener una conversación como si fuera el propio abogado del despacho quien atiende a las preguntas formuladas por el usuario.

En Francia, se ha desarrollado CARAF, sistema que supervisa y trata de armonizar la acción de las cajas regionales de asignaciones familiares. En Gran Bretaña, existe ACCI de la Universidad de Manchester, que proporciona medios para interpretar la legislación en materia de impuestos. En Italia, se encuentran PROVA y CONSULENZA de la Universidad de Milán, sistemas que facilitan la aplicación de la ley por medios interactivos. En Noruega, se utiliza SARA para ayudar en las decisiones discrecionales. Finalmente, en Alemania, en la Universidad de Tubinga se trabaja en el sistema experto relativo al Código Penal alemán para proyectar la resolución de casos (Britos, Sierra & García, 2004).

Estos casos internacionales muestran que la inteligencia artificial ya se está aplicando en el mundo jurídico, siendo un desafío para el Perú su análisis y la implementación de las medidas pertinentes para hacer frente a estos cambios.

XI. DEBATE SOBRE LA RESPONSABILIDAD EN EL USO DE SISTEMAS INTELIGENTES

Con el acelerado desarrollo de la robótica y los sistemas inteligentes resulta necesario iniciar un debate sobre la legislación específica en inteligencia artificial. En el Perú, no existe una normativa que regule estos asuntos. Quizá porque aún los sistemas inteligentes no han provocado cambios en nuestros modelos de vida, ni en el Derecho peruano, pero, con los casos internacionales citados en los apartados precedentes, es necesario plantear escenarios donde se vea involucrado el ser humano y un robot.

Estos escenarios deben abordarse desde dos aristas: primero, plantear un razonamiento sobre quién tendría la responsabilidad en el caso de que se lesione o se ponga en peligro un bien jurídico tutelado por la ley; y segundo, evidenciar la necesidad de una legislación específica respecto de máquinas inteligentes.

La robótica19 da apertura a un mundo inteligente, clasificando a los robots por niveles: en el primer peldaño, se ubican los sistemas programados, que son sistemas que ayudan en la realización de tareas automatizadas; seguido de los robots no autónomos, que a nivel de construcción son robots pero realizan tareas simples sin asistencia humana; en el tercer nivel, se ubican los robots autónomos, quienes tienen capacidad autónoma para realizar tareas complejas y en el último nivel se ubica la inteligencia artificial, que son máquinas que perciben el ambiente externo sin necesidad de órdenes programadas (Torres Manrique, 2017, pp. 213-214).

Los sistemas programados actualmente se utilizan en nuestro país. Prueba de ello es el Derecho informático que ha resuelto controversias con ayuda de una página web20. Con relación a los robots no autónomos, este tipo de robots son los que realizan actividades sencillas y están representados por los actuales sistemas tecnológicos de asistencia en el hogar o robots que se dedican a la limpieza. Sin embargo, los dos últimos niveles, es decir, los robots autónomos y la inteligencia artificial son los sistemas que merecen un análisis minucioso debido a que un error en el sistema inteligente podría provocar lesiones o posibles afectaciones a bienes jurídicos y daría lugar a un debate sobre responsabilidades.

Respecto del tercer nivel, el término robots autónomos es entendido por Torres Manrique (2017) como:

[A]quellos que tienen capacidad de desarrollar tareas encomendadas complejas, listando las mismas, priorizando, tomando o creando sus propias decisiones con libertad dentro de su ámbito de trabajo [...] sin necesidad de asistencia humana, con suficiente autonomía para que con base en una orden dada por un operador humano realice las tareas según lo considere más adecuado o efectivo para el cumplimiento de dicho objetivo (pp. 213-214).

Este tipo de robots que toman decisiones sin necesidad de asistencia humana, en la actualidad están representados por los automóviles autónomos. Estos son vehículos configurados para tomar el control de la conducción, es decir, la persona puede viajar y es el sistema del vehículo quien lleva a cabo el manejo, particularmente es el robot el que está configurado para operar las funciones del vehículo. Precisamente, esta autonomía constituye la base para debatir sobre la responsabilidad y el dilema en caso de que el sistema informático falle.

Por ejemplo, en Arizona un volvo operado por un sistema informático presentó fallas en sus algoritmos y, producto de ello, perdió la vida un peatón (Iglesias, 2018). Por otro lado, también hubo otros casos como el del sistema de asistencia de piloto automático de Tesla, ocurrido en California, en el cual el conductor murió en un accidente de tráfico por las decisiones autónomas del sistema de manejo de autopiloto, pues el sistema había errado en su interpretación de las líneas de separación de carriles (Merino, 2019). Caso similar al ocurrido en Florida, donde el vehículo en conducción automática se impactó contra un camión ocasionando la muerte del conductor (El País, 2019).

Ante estos casos, surge la pregunta, ¿quién tiene la responsabilidad por lo acontecido? ¿el conductor que no tenía sus manos en el volante a pesar de estar en piloto automático? ¿el diseñador del vehículo autónomo? ¿la persona que programó el sistema para que el automóvil tome decisiones independientes? ¿el diseñador del software? ¿la empresa distribuidora? o nadie tiene la responsabilidad por los hechos.

Al encontrarnos frente a este dilema, consideramos que no podría haber un solo responsable. Si el piloto automático exige que el conductor esté atento en todo momento, ello implicaría que la responsabilidad es del conductor. No obstante, si hay una falla técnica en el software, existiría una responsabilidad por quienes programaron el sistema. Por otro lado, si el piloto automático funciona de manera independiente con un software que opera de forma autónoma o si depende de un usuario la configuración de los algoritmos, además de una responsabilidad penal, estaríamos frente a una responsabilidad civil. En otro extremo, si el resultado de la muerte fue producto de la intervención de un tercero quien manipuló o provocó intencionalmente la falla en el sistema, la responsabilidad sería de este tercero.

Así pues, es necesario precisar que solo con el tema de los vehículos autónomos surge todo un dilema en el mundo jurídico. Entonces, si solo con el tercer nivel encontramos estas dificultades, con mayor razón resulta necesario analizar responsabilidades en el uso de la inteligencia artificial.

Con relación al último nivel de la robótica, para Torres Manrique, la inteligencia artificial “son aquellos sistemas mecánicos que perciben el ambiente externo por sí mismos sin necesidad de órdenes pre programadas externas, con capacidad para discernir diferentes circunstancias que acontezcan a su alrededor y con capacidad para moverse de forma voluntaria” (2017, p. 214). En ese sentido, aquellos sistemas que puedan discernir circunstancias y actuar de forma autónoma serán considerados inteligencia artificial.

El dilema jurídico surge en posibles fallas que puedan resultar producto de los procedimientos que realizan los sistemas inteligentes. Por ejemplo, en Reino Unido se creó el sistema Digital Surgery21, que está diseñado para salas de cirugía por medio de una directriz en los procedimientos con el objetivo de realizar una cirugía más segura. No obstante, en el supuesto de que fallen los algoritmos y la cirugía produzca la muerte de una persona, ¿quién tendría la responsabilidad por los hechos? ¿el médico que confió en el sistema inteligente? ¿la persona que programó el sistema? ¿el director del hospital por contratar la inteligencia artificial? ¿el proveedor del servicio? ¿el diseñador del software?

Ante estas interrogantes, no hay una respuesta jurídica. Probablemente, el razonamiento sería similar al de los robots autónomos, pero, a diferencia del tercer nivel, debemos tomar en cuenta que la inteligencia artificial es el último nivel de la robótica donde los sistemas inteligentes son capaces de simular el actuar humano, lo que evidencia aún más la necesidad de una regulación específica. En todo caso, aunque parezca prematuro discutir sobre una legislación específica en inteligencia artificial, es necesario abordar con prontitud estos dilemas jurídicos.

Los casos de robots autónomos y máquinas inteligentes evidencian que el Perú no está preparado normativamente para hacer frente a estos sistemas inteligentes. En efecto, con la normativa actual de nuestro país, para determinar un perjuicio tendríamos que remitirnos a las reglas de los daños en materia civil o a las responsabilidades en materia penal. Por tanto, resulta necesario contar con una normativa específica sobre la materia. Las máquinas inteligentes no son temas del futuro, son cambios que ya están ocurriendo y van a ocurrir aún más, lo que va a representar un desafío para los legisladores, juristas, estudiantes del Derecho y demás profesionales.

XII. ¿PODRÍAN LOS ROBOTS SUSTITUIR A LOS ABOGADOS?

El internet22 y el ordenador dejaron obsoletos los trabajos manuales y ahora, con la cuarta revolución industrial por medio de los sistemas inteligentes, la probabilidad de que puestos de trabajo sean reemplazados por los robots es cada vez mayor. En todo caso, ¿qué puestos de trabajo podrían ser reemplazados en el campo del Derecho?

A pesar del avance de la inteligencia artificial como los casos analizados en el desarrollo del artículo, consideramos que no se podría reemplazar todo el aparato jurídico, pero existe la posibilidad de reemplazar puestos de trabajo como el de los analistas de jurisprudencia, asistentes judiciales, notificadores y quizá jueces en primera instancia.

De Trazegnies Granda (2013) reflexiona sobre el reemplazo de jueces e indica que:

[P]odríamos imaginar un sistema experto que, por sí sólo, sin participación de juez alguno, emitiera una sentencia debidamente fundamentada en primera instancia. En una gran parte de los casos, esta opción adoptada por la inteligencia artificial sería difícilmente discutible [...] sin embargo, a nivel de las instancias superiores, las resoluciones en apelación o casación corresponderían necesariamente a jueces (p. 129).

Coincidimos con De Trazegnies Granda, ya que un sistema experto, en este caso uno experto en sentencias, como el analizado en apartados anteriores, sería el reemplazo de los jueces. Sin embargo, por mucho que este sistema alivie la carga procesal y pueda emitir sentencias fundamentadas, el ser humano como portador del ideal de la justicia siempre debe salvaguardar las decisiones en última instancia a través de su razonamiento, no para evitar el reemplazo de los jueces, sino más bien, porque la justicia va más allá del desarrollo de algoritmos.

Asimismo, añade De Trazegnies Granda (2013) que:

[L]as sentencias IA (inteligencia artificial) emitidas en primera instancia llegarían al nivel superior con un razonamiento muy trabajado por la computadora, facilitando la comprensión del problema. De otro lado, el juez del segundo nivel tendría a su vez la ayuda de un sistema experto, no para emitir la sentencia sino para facilitarle al tribunal toda la información precisa que requiere en materia de doctrina, legislación, etcétera y también para hacerle ver los diferentes caminos entre los que puede optar (p. 130).

Por otro lado, Dans (2018) afirma que:

Resulta fuera de toda duda que muchas de las tareas que hoy lleva a cabo un abogado serán desempeñadas en el futuro por algún tipo de aplicación de la inteligencia artificial [...] No nos planteemos si la tecnología nos va a dejar o no sin trabajo: planteémonos cómo podemos mejorar nuestro trabajo con ella. Y de paso, cómo podemos mejorar la sociedad (p. 16).

Esta última reflexión debe ser la nueva mentalidad de los abogados. No hay que preocuparse por los trabajos que puedan ser reemplazados por los robots; mejor preocupémonos en cómo mejorar nuestra vida, el Derecho, la convivencia y, sobre todo, el bien común con ayuda de la inteligencia artificial.

Guardiola Salmerón (2018) añade que “la lejana posibilidad de atribuir derechos o incluso personalidad a entidades no humanas será un complejo debate, y un largo camino por recorrer, pero sin duda supondrá un auténtico desafío jurídico hasta ahora inimaginable” (p. 12).

Nuestra profesión y el país deben enfrentar estos desafíos ahora y no esperar un cambio abrupto en los modelos clásicos del ejercicio del Derecho. Plantear estos postulados no implica reemplazar a los abogados, se trata de complementar el Derecho con la inteligencia artificial para así reforzar el sistema jurídico. Finalmente, será el abogado quien tome las decisiones que los sistemas inteligentes puedan ofrecer. Definitivamente la evolución de la justicia a una inteligente va a cambiar nuestra profesión y la percepción que tenemos del Derecho. Será un largo debate y un auténtico desafío jurídico.

XIII. CONCLUSIONES

La inteligencia artificial es la rama de las ciencias de la computación que estudia el hardware y software con el objetivo de simular la comprensión humana. Para ello, crea máquinas inteligentes que son capaces de procesar información, replicar las acciones humanas sin necesidad de órdenes preprogramadas externas, discernir ante circunstancias que ocurren a su alrededor y actuar en forma voluntaria. Con la cuarta revolución industrial, nuestra forma de entender, aplicar y ejercer el Derecho debe cambiar para adaptarnos a los desafíos que exige la llegada de los sistemas inteligentes.

El ordenamiento jurídico se ha organizado y estructurado a través de las bases de datos donde la información normativa está almacenada en un programa como es el caso del SPIJ; sin embargo, con la inteligencia artificial el desafío implicaría desarrollar un sistema único donde se almacene la normativa nacional e internacional para transformar una simple base de datos a un sistema inteligente que contribuya al estudio del Derecho comparado.

Respecto al desarrollo del proceso, el sistema inteligente PROMETEA, que es capaz de elaborar dictámenes jurídicos, ejecuciones fiscales y analizar documentación en tiempos inferiores a los que podría realizar una persona, contribuiría en la reducción de la carga procesal. Con relación a la administración de justicia, el sistema experto JUDITH, que es capaz de aplicar el Código Civil alemán, o el sistema experto en sentencias de la doctora María del Socorro Téllez Silva brindarían un apoyo a los magistrados, lo que implicaría como desafío además de formarse en temas jurídicos ahora es necesario una formación en inteligencia artificial para poder operar estos sistemas inteligentes.

Por otro lado, en la Universidad de Harvard se implementó el curso de aplicación de la inteligencia artificial al Derecho con el objetivo de reclutar futuros investigadores, lo que evidencia que, a nivel internacional, los estudiantes ya se vienen formando en inteligencia artificial.

Ahora bien, PROMETEA y JUDITH evidencian que la parte mecánica del Derecho va a ser realizada por las máquinas y la parte práctica por las personas, siendo el desafío modificar las mallas curriculares y formarse desde la universidad en sistemas inteligentes y darles énfasis a las asignaturas de argumentación y litigación jurídica.

A nivel internacional el Derecho ya está trabajando con sistemas inteligentes, prueba de ello es que en Estados Unidos se contrató en los despachos a ROSS, considerado el primer abogado robot y en Reino Unido, RAVN ha logrado destapar presuntos sobornos. Asimismo, existe en España Vlex Analytics, que ayuda a predecir casos en litigio; Jurimetría, que reúne resoluciones judiciales y ayuda a tomar decisiones; Legal Data, que predice resultados de los litigios; y Tirant Analytics, que muestra el porcentaje de éxito de las estrategias legales; CARAF en Francia, que opera en las cajas regionales de asignaciones familiares; y ACCI en Gran Bretaña, que interpreta la legislación de impuestos, ello por nombrar algunos ejemplos.

El debate sobre la responsabilidad en el caso de que fallen los sistemas inteligentes da apertura a un dilema para determinar quién tendría la responsabilidad por los hechos fallidos. Esto, sin lugar a dudas, evidencia la necesidad de contar con una legislación específica en inteligencia artificial. A pesar de que pueda parecer prematuro en el Perú plantear normas al respecto, los escenarios internacionales muestran que la aplicación en el Derecho está cambiando y teniendo en cuenta el acelerado desarrollo de sistemas inteligentes es necesario contar con normas específicas sobre la materia.

Con el desarrollo de sistemas expertos en sentencias, probablemente el magistrado de la primera instancia sea reemplazado por un robot. Sin embargo, para las instancias superiores quien debe tomar las decisiones debe ser la persona, puesto que con el apoyo del sistema inteligente se tendría mayor comprensión del caso y se necesitaría el razonamiento humano, no para evitar el reemplazo de los magistrados, sino más bien, porque la justicia va más allá del desarrollo de algoritmos.

REFERENCIAS

Abogados.com.ar (27 de mayo de 2019). PROMETEA: el primer sistema de inteligencia artificial predictivo de la justicia se presenta en “Mundial de Inteligencia artificial”. Abogados.com.ar. https://abogados.com.ar/prometea-el-primer-sistema-de-inteligencia-artificial-predictivo-de-la-justicia-se-presenta-en-el-mundial-de-inteligencia-artificial/23523

Beekman, G. (2005). Introducción a la Informática. Pearson Educación.

Beraud Martínez, I. (2018). Cuarta revolución industrial - Impacto de la inteligencia artificial en el modo de producción actual. Revista Conjeturas Sociológicas, 6(16), 43-57.

Britos, P., Sierra, A., & García Martínez, R. (2004). Sistema de asistencia legal en riesgos de trabajo. Journal Informática y Sociedad, 1(1), 34-49.

Castells, M. (2000). La era de la información: economía, sociedad y cultura (C. Martínez & J. Alborés, trad.). Alianza Editorial. (Obra original publicada en 1996).

Chuquicallata Reategui, F. (5 de setiembre de 2018). Ross, el primer abogado robot que litiga usando inteligencia artificial. LP Pasión por el Derecho. https://lpderecho.pe/ross-primer-abogado-robot-litiga-usando-inteligencia-artificial/

Corvalán, J. (9 de septiembre de 2019). El impacto de la IA en el Derecho Procesal. DPI Cuántico. https://dpicuantico.com/2019/09/09/el-impacto-de-la-ia-en-el-derecho-procesal/

Couture, E. (s.f.). Los mandatos del abogado. http://www.justiciayderecho.org.pe/revista2/articulos/LOS%20MANDAMIENTOS%20DEL%20ABOGADO%20eduardo.pdf

Dans, E. (2018). ¿Sustituirán las máquinas a los abogados? Revista Abogacía Española, (108), 16.

De Trazegnies Granda, F. (2013). ¿Seguirán existiendo jueces en el futuro?: El razonamiento judicial y la inteligencia artificial. Ius et Veritas, (47), 112-130.

El País (17 de mayo de 2019). Tesla reconoce otro accidente mortal en un vehículo que circulaba con piloto automático. https://elpais.com/tecnologia/2019/05/17/actualidad/1558075375_210626.html

Fernández, C., & Boulat, P. (10 de abril de 2015). Inteligencia Artificial y Derecho. Problemas y perspectivas. Noticias Jurídicas. https://noticias.juridicas.com/conocimiento/articulos-doctrinales/10061-inteligencia-artificial-y-derecho-problemas-y-perspectivas/#_Toc416175199

Fernández, H. (s.f.). ¿Qué es una startup? Economía TIC. https://economiatic.com/que-es-una-startup/

Guardiola Salmerón, M. (2018). Retos, desafíos y nuevas oportunidades. Revista Abogacía Española, (108), 10-13.

Gutiérrez Díaz, A. (2010). Base de datos. Centro Cultural Itaca S.C. https://www.aiu.edu/cursos/base de datos/pdf leccion 1/lección 1.pdf

Hernández, M. (2019). Inteligencia Artificial y Derecho Penal. Actualidad Jurídica Iberoamericana, (10), 792-843.

Iglesias, D. (19 de marzo de 2018). Primer atropello mortal de un vehículo sin conductor. El Mundo. https://www.elmundo.es/motor/2018/03/19/5aaff150e2704ec82e8b463f.html

Malpica Velasco, J. A. (s.f.). Inteligencia Artificial y conciencia. http://www3.uah.es/benito_fraile/ponencias/inteligencia-artificial.pdf

Martínez Bahena, G. C. (2013). La inteligencia artificial y su aplicación al campo del Derecho. Alegatos-Revista Jurídica de la Universidad Autónoma Metropolitana, 26(82), 827-846.

Martínez García, J. I. (2018). Derecho inteligente. Cuadernos Electrónicos de Filosofía del Derecho, (37), 95-114. https://doi.org/10.7203/CEFD.37.11440

Merino, M. (03 de mayo de 2019). Tesla, demandada por la familia del conductor que murió en accidente de tráfico mientras viajaba con el Autopilot activado. Xataca. https://www.xataka.com/inteligencia-artificial/tesla-demandada-familia-conductor-que-murio-accidente-trafico-viajaba-autopilot-activado

Ministerio de Justicia y Derechos Humanos [MINJUS] (s.f.). Manual de usuario. Sistema Peruano de Información Jurídica. http://spij.minjus.gob.pe/manuales/ManualUsuario.pdf

Noticias Jurídicas (05 de septiembre de 2016). ¿Se pueden exigir conocimientos de tecnología a los abogados? Noticias Jurídicas. https://noticias.juridicas.com/actualidad/noticias/11285-iquest;se-pueden-exigir-conocimientos-de-tecnologia-a-los-abogados/

Ocaña, Y., Valenzuela, L., & Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y Representaciones, 7(2), 536-568. http://dx.doi.org/10.20511/pyr2019.v7n2.274

ROSS (11 de diciembre de 2020). Anuncio por los fundadores de ROSS. ROSS. https://blog.rossintelligence.com/post/announcement

Rusell, S., & Norvig, P. (2004). Inteligencia artificial. Un enfoque moderno (J. Corchado, F. Martín, J. Cadenas, L. Hernández, E. Paniagua, R. Fuentetaja, M. Robledo & R. Rizo, trad.). Pearson Educación

San Martín Castro, C. (2015). Derecho Procesal Penal. Lecciones. Instituto Peruano de Criminología y Ciencias Penales.

Schwab, K. (2016). La cuarta revolución industrial. Editorial Debate.

Torres Manrique, J. (2017). Breves consideraciones acerca del aterrizaje de la inteligencia artificial en el derecho y su influencia en la realización de los derechos fundamentales. Pensamiento Americano, 10(19), 210-227. http://dx.doi.org/10.21803%2Fpenamer.10.19.480

LEGISLACIÓN, JURISPRUDENCIA Y OTROS DOCUMENTOS LEGALES

Sala Especializada en Protección al Consumidor del Tribunal de Defensa de la Competencia y de la Propiedad Intelectual, 11 de junio de 2014, Resolución 1898-2014/SPC-INDECOPI, Expediente 3023-2012-CPC (Perú).

---