¿Puede una máquina administrar justicia?



Santiago Dussan

Doctor del derecho y profesor de análisis económico del derecho de la Pontificia Universidad Javeriana, Cali

Desde 1990 hasta el 2017, según estadísticas del Banco Mundial, el porcentaje de individuos utilizando internet ha crecido del 0.2% a casi el 50%. Además de esto, y en parte gracias justamente este hecho, en la actualidad una gran proporción de los intercambios sociales se adelante total o en gran parte por medio del internet. No solo las reuniones sociales se han visto abocadas a tener que hacerse por medio de –y gracias a- aplicaciones que permiten video conferencias, sino que gran parte del comercio ha sobrevivido gracias a su rápida adaptación a las exigencias del comercio electrónico.

Mientras los servicios de comida y de ventas al por menor bajaron sus ventas casi en un 8% en los EEUU entre febrero y abril del 2020, las ventas de comestibles y de vendedores al por menor por medio de alguna herramienta de comercio electrónico aumentaron en un 16% y 15% respectivamente, con respecto al mismo periodo del año anterior.

En buena parte de la Unión Europea las ventas al por menor por correo o por medio de alguna plataforma electrónica incrementaron en un 30% en abril de 2020, en comparación al mismo periodo del año pasado. Esto se ha visto traducido en un traslado de ventas tradicionales con locaciones físicas a algún tipo de medio de comercio electrónico (venta directa por medio de página web propia o a través de plataformas de comercio electrónico como Amazon o Ebay) sin precedentes en la historia reciente.

¿Cuáles son las consecuencias de esta tendencia?

La educación y resolución de disputas interpersonales: dos industrias que se beneficiaron del internet

Dos servicios donde especialmente se ha entendido la utilidad de la integración profunda del internet, además del comercio retail, han sido la educación y la resolución de disputas interpersonales.

Refiriéndonos por el momento a este último, los abogados hemos visto como los procedimientos judiciales continuaron sus respectivos cursos gracias a ello –pudiendo adelantar la radicación de demandas, la celebración de audiencias y hasta la lectura de sentencias por medio de aquellas herramientas. En realidad, respecto de la producción del servicio de resolución de disputas, ya había habido intentos, más o menos exitosos, se integrar el internet como un bien de capital en su producción, particularmente en la producción del arbitraje en línea.

La resolución de disputas en línea (o ODR por online dispute resolution), es el concepto que abarca el conjunto de mecanismos alternativos de resolución de disputas (o ADR por alternative dispute resolution), que se llevan a cabo por medio de varios grados de profundidad en la integración de herramientas de la comunicación basadas en el internet (o ICT por internet coomunication tool) en su producción. Como medios para asistir o para reemplazar a procedimientos en cortes estatales, el término ODR incluye mediación, negociación, conciliación y arbitraje en línea.

Este es simplemente una subcategoría del concepto general de arbitraje. Es, en palabras más sencillas, una manifestación más de las que es capaz el arbitraje en su acepción más amplia. Su punto de partida es un acuerdo mutuo entre dos partes para excluir, en principio, el uso de las cortes estatales en favor de un mecanismo privado de adjudicación de disputas de naturaleza adjudicativa. Las partes eligen –directa o indirectamente- al árbitro, al cual se le delega la tarea adjudicar el derecho en disputa, con una observancia mayor o menos de elementos del debido proceso, con el objetivo de producir una decisión final de carácter vinculante para las partes.

Entonces, la característica principal del arbitraje en línea es que se logra a partir de una profunda integración del internet en su funcionamiento. De alguna forma, podríamos decir que estamos en su presencia cuando se da cumplimiento con todos los elementos del debido proceso –el grado que demande el tipo de disputa bajo examen- por medio de alguna ICT. Nos referimos a las audiencias –bien en tiempo real o de manera asincrónica; a la notificación de las partes; a la presentación de pruebas de las partes al árbitro; la comunicación de la decisión final; y la rendición de la decisión, entre otros.

¿Un bien sustituto de las cortes?

Si bien es cuestionable, la idea general detrás de cualquier esquema arbitral es servir de alternativa al litigio ante jueces estatales. Se trataría, en principio, de un bien sustituto de las cortes –queriendo decir con ello que la demanda del arbitraje (en línea o físico) aumentaría en la medida de que disminuyera la de las cortes. Que un medio incorporando un alto grado de tecnología se integre en distintos grados al proceso arbitral, lleva a la noción de que ciertos medios con altos grados de tecnología puedan utilizarse en la administración de justicia en general; en la producción de cualquier servicio que tenga por fin la resolución adjudicativa de disputas interpersonales.

La subdisciplina del derecho que estudia la relación entre tecnología inteligente y el derecho suele denominarse IA y Derecho (o, en inglés, AI & Law). Dentro de este campo, los usos que pueden darse a la IA en arbitraje en línea no son pocos. En cuanto a tales usos, tenemos dos grandes categorías. Por un lado, está la IA en sentido estricto, el cual puede ser entendido como software con capacidad de resolver ciertos problemas en un dominio único. En esta particular categoría, a partir del previo establecimiento de ciertas reglas en la forma de “si a, entonces b, dado c” (if a, then b, provided c), el agente de IA podría reconocer ciertas condiciones que a su vez desencadenarían una reacción.

Un ejemplo de ello sería cuando nuestros celulares encienden el WIFI una vez identifica que hayamos entrado en nuestra casa u oficina. Por el otro lado, tenemos IA en su forma general. De esta se espera que refleje la inteligencia humana; que el agente de IA aplique conocimiento y habilidades en diferentes contextos; que aprenda y que sea capaz de resolver problemas.

Un computador verdaderamente inteligente sería capaz de determinar por sí mismo qué es importante; qué tendría significado; y de actuar de acuerdo a este conocimiento. En este sentido, en las formas en las que se podría integrar la IA en la adjudicación de disputas podemos observar esta distinción: la resolución de disputas a través de una decisión adjudicativa puede ser producida: siendo asistida por o basada en tecnología.

La pregunta de qué papel puede jugar la tecnología en este servicio puede hacerse de otra forma: ¿Qué elementos del debido proceso pueden ejecutarse con tecnología como la que ofrecen las ICT’s y de qué forma? Ante esto, hay dos posibles respuestas. Por un lado, las ICT’s, incluidas aquellas que se pudieran identificar como capaces de inteligencia artificial (o IA), pueden asistir la función de administrar justicia. Por otro lado, ICT’s, también por medio de IA, pueden reemplazar el proceso mediante el cual de juez o árbitro rinden una decisión, un juicio. Dejando la discusión de la IA asistiendo al proceso de rendición de una decisión judicial a un lado, surge ahora entonces esta pregunta: ¿Acaso puede una máquina de IA administrar justicia?

¿Puede una máquina administrar justicia?

Por parte de ciertas investigaciones de IA y Derecho, la pregunta se ha contestado con un sí -algo ambicioso. La acción particular de adjudicar una disputa jurídica –de en realidad rendir una decisión justificable con efectos directos e indirectos en la adjudicación de un derecho a una de las partes en disputa- puede ser adelantada por IA, independientemente del tipo, naturaleza o complejidad de tales disputas.

Este tipo de sistemas, que suelen entenderse como “basados en conocimiento” ofrecerían herramientas lógicas para modelar argumentos jurídicos, siendo –supuestamente- capaces de socavar y refutar argumentos; ponderar principios; hacer razonamientos sobre reglas; presentar líneas de argumentación; e identificar compromisos y carga de la prueba.

Probablemente, el esfuerzo más prometedor pareciera ser uno en el que el análisis del racionamiento judicial se concentra en los argumentos utilizados en el proceso argumentativo que involucra la rendición y justificación decisiones. Lo que resulta particularmente interesante en este tipo de esfuerzos es que intenta tratar directamente con la complejidad que caracteriza el proceso de toma de decisiones judiciales. Lidian con el uso de precedentes, la articulación de argumentos jurídicos, la solución de los conflictos entre estos argumentos, etc.

Toman en consideración que el proceso de rendir una decisión adjudicativa requiere de ser posible la anulación de inferencias (defeasible inference). El que argumenta de esta manera se reserva el derecho de retractarse cuando se enfrenta con nueva información. Los patrones de este tipo de razonamiento están más allá de la lógica clásica o monotónica, que, por su propia naturaleza, no permite la retracción de inferencia alguna. Que modelos anteriores, hayan intentado modelar el proceso de decisión del juez sin éxito alguno se debe, en gran medida, a la insistencia en la modelación basada precisamente en reglas lógicas monotónicas.

Siendo que la posibilidad de retractarse de ciertas inferencias es propia del proceso de decisión judicial, estos tipos de investigación en IA y Derecho utilizan herramientas lógicas no-monotónicas. En la medida en que este tipo de herramientas admite la retracción de inferencias cuandoquiera que nueva información se presente, estas permiten imitar el proceso de rendición de decisiones judiciales. Lo hace por medio de la consideración de que el razonamiento judicial tiene como uno de sus factores determinantes la presentación de argumentos y contra argumentos.

Porqué la inteligencia artificial (aún) no puede administrar justicia

Sin querer restarle importancia a lo impresionantemente sofisticadas que resultan tipo de investigaciones, en este momento queremos ofrecer al menos una razón por la cual podríamos cuestionar la validez de sus conclusiones. A la pregunta de si un agente de IA puede administrar justicia ofrecemos un inicial no –expectante de refutación.

La complejidad del proceso de razonamiento que antecede la rendición de una decisión judicial es altamente compleja debido a su estructura dialógica –aquello que precisamente se quiere imitar por medio de IA. De hecho, esta estructura dialógica es sostenida por las partes durante todo el procedimiento, hasta el punto en el cual la decisión final es producida. Es a partir de la interpretación de los argumentos de las partes que el juez o árbitro diseña una decisión. Adicionalmente, el procedimiento no es solamente un diálogo entre las partes y el juez, sino del juez consigo mismo.

Este comienza este diálogo con una propuesta de sentencia, y, de alguna manera, discute consigo mismo, si sería o no una decisión justificada. Finalmente, después de producida la decisión final, en todos los casos, el juez debe enfrentar la posibilidad de tener que justificar su decisión –bien sea ante las partes, otros jueces, o ante él mismo. En todos estos casos, la decisión rendida por el juez debe ser capaz de presentarse como racional. Asume la decisión como punto de partida y luego continúa demostrando que su decisión es correcta, basándose en un conjunto de argumentos que deben ser capaces de justificarse racionalmente.

Debemos prestar especial atención a la estructura dialógica de la toma de decisiones judiciales, ya que es el elemento más problemático a la hora de plantear la sustitución del árbitro por IA. Sin embargo, debemos decir de antemano que nos referimos al proceso mediante el cual se llega a una decisión judicial. Una vez dictada la decisión, hay que tener en cuenta que a partir de este punto no es más cuestión de diálogo si se va a cumplir o no. Si es una decisión justificada, su cumplimiento se induce por la fuerza, ya que es una cuestión de derecho.

En una disputa contractual, por ejemplo, una de las partes del intercambio puede argumentar que una acción particular de su contraparte no está justificada dentro de los términos del contrato, o a la luz de un sistema de principios –como cuando una parte alega que la otra ha obrado de mala fe, sin necesariamente incumplir el contrato. Ellas dialogan, intercambian argumentos. Si se da el caso de que no pueden resolver su diferencia por sí mismos, pueden delegar esta función en un tercer neutro. Imaginemos que éste es un árbitro en línea o un juez. A partir de este momento, y hasta que el árbitro emita una decisión, se lleva a cabo el diálogo entre él y las partes.

De hecho, en la argumentación, al menos dos individuos buscan justificar o excusar una acción o creencia. Para determinar si se trata de una acción que se debe realizar o si las circunstancias del caso presentan motivos suficientes (como en el caso de la coacción injustificada) que lleven a excusar a una persona por hacer algo contrario al derecho.

Es fundamental para la comprensión adecuada de la argumentación, que cuando se les dice o se les pide a los individuos que hagan algo, es probable que, y, de hecho, tengan derecho a preguntarse por qué deberían hacerlo. Además, también es importante entender, que un intercambio de argumentos es una argumentación justificativa solo si todos los participantes reconocen ciertos hechos y cumplen con ciertas normas. Estas normas que no se pueden concebir como inválidas, porque la adherencia a ellas es una condición necesaria para participar en la argumentación. Por esta razón, podemos argumentar que la argumentación no tiene lugar en un vacío normativo.

En un diálogo sobre cualquier tema, y en el diálogo particular que se desarrolla entre las partes y el árbitro, éste puede decirles a los demás, con la intención de presentarles una propuesta seria, que no deben argumentar, o que no deben tomar en serio su argumentación. Al decir cualquiera de estas dos cosas, el árbitro no podría hacerlo sin destruir el sentido original de presentar ese argumento. Cuando el árbitro afirme que las partes no deben tomar en serio su argumentación, y esta afirmación no se les presenta como una broma, entonces la norma opuesta se presupone simultáneamente como válida y vinculante, y dialécticamente irrefutable: que deberían tomarse en serio la argumentación del árbitro.

Como tal, el objetivo de la argumentación es hacer que la contraparte comprenda las razones y argumentos para creer, decir o hacer algo, de tal manera que llegue a la conclusión de que creer, decir o hacer algo está justificado por estar de acuerdo con la razón.

Mientras el árbitro está dialogando con las partes, no puede sostener sin contradicción que él es, o que las partes no son personas responsables. Siguiendo esta línea de pensamiento, en cualquier diálogo, los participantes deben aceptar como una verdad dialéctica que cada uno de ellos es un ser capaz de razonar, un ser racional, una persona natural.

En definitiva, es otra condición de posibilidad de la argumentación, el derecho de propiedad que cada participante presupone sobre su propio cuerpo para ordenarle que hable. Por tanto, la propiedad sobre el propio cuerpo es un presupuesto necesario de cualquier diálogo.

De hecho, la argumentación es una forma específica de acción. Como toda acción, requiere de la asignación de medios escasos. En este sentido, también debe tenerse en cuenta que aquellos medios que la persona racional demuestra preferir al entablar cualquier intercambio de argumentos son de propiedad privada. En este sentido, la propiedad privada, que es atributo exclusivo de las personas naturales, es el presupuesto de la argumentación como tal. Nadie podría proponer nada, y nadie podría ser condenado por ninguna proposición por medios argumentativos, si no se presupone desde antes el derecho de una persona a hacer un uso exclusivo de su cuerpo físico. Como argumentación, se puede argumentar que este derecho de propiedad que reclama cada uno de los participantes del proceso de decisión judicial debe estar justificado también a priori, pues cualquiera de ellos que pretenda justificar alguna norma ya tendría que presuponer el derecho exclusivo de control sobre su propio cuerpo como norma válida simplemente para decir, como en el caso del árbitro «Propongo que la parte A ha actuado de una manera que está justificada por la razón».

Siendo, entonces, que la propiedad sobre los medios que hacen posible la discusión es una presuposición necesaria de cualquier diálogo, la siguiente intuición es ganada: que cualquier máquina de IA es simplemente incapaz de juzgar, ya que juzgar solo es posible cuando está precedido por un intercambio de argumentos, cuyo presupuesto es el derecho de propiedad privada. Cualquier máquina, incluida una máquina de inteligencia artificial, no puede deber nada. En cambio, es propiedad de un ser racional.


2 de marzo del 2021

¿Quiénes somos?

El Centro para el Análisis de las Decisiones Públicas —CADEP— es el núcleo de investigación del Instituto de Estudios Políticos y Relaciones Internacionales de la Universidad Francisco Marroquín. Fue fundado en el año 2002 con el objetivo de promover la teoría de la elección pública —en inglés, public choice—, una herramienta de análisis que utiliza la economía para estudiar la política.

AVISO IMPORTANTE: El análisis contenido en este artículo es obra exclusiva de su autor, las aseveraciones realizadas no son necesariamente compartidas ni son la postura oficial de la Universidad Francisco Marroquín.


Otros artículos que te pueden interesar


Las sanciones a los empresarios de comercio electrónico o acerca de cómo matar moscas a cañonazos

En ocasiones, hay medios asignados a ciertos esfuerzos que obtienen resultados diferentes a los esperados. Este suele ser el caso observable en el diseño y...