Introducción
Si bien el
siglo XVIII es conocido como el “siglo de las luces” debido a la separación de
las áreas de conocimiento de la religión y su enfoque en las corrientes
racionales que propugnaban el desarrollo a través de descubrimientos
científicos y tecnológicos, esto fue solo el principio de lo que al día de hoy
conocemos como “progreso”.
Sin
menospreciar el trabajo realizado por Warren McCulloch y Walter Pitts
teorizando sobre las neuronas artificiales, debemos reconocer que el punto de
inflexión en materia de tecnología es obra de Alan Turing y la construcción de
lo que conocemos como la primera computadora, que no solo generó un desarrollo
tecnológico sin precedentes para la época, sino que su creación le permitió
descubrir los códigos de ataque de su rival en plena Segunda Guerra Mundial.
Ahora bien,
tras estos eventos, el desarrollo de la tecnología ha sido vertiginoso, dejamos
de utilizar computadoras de escritorio para utilizar laptops, luego abandonamos
las laptops por las tablets y, en
este punto, ya todas las actividades que se realizaban en esos equipos pueden
manejarse a través de los dispositivos móviles, que poseen todas las
capacidades de un computador en un tamaño compacto.
Por si ello
fuera poco, en la última veintena nos hemos topado de lleno con el concepto de
Inteligencia Artificial (IA), que conforme a la Real Academia Española se
define como la: “Disciplina científica que se ocupa de crear programas
informáticos que ejecutan operaciones comparables a las que realiza la mente
humana, como el aprendizaje o el razonamiento lógico” (Diccionario de la Real
Academia Española, 2023).
Y es
precisamente el tema de su capacidad para ejecutar operaciones como humanos lo
que genera un fuerte dilema ético, enfocado, en principio, hacia la posibilidad
de que los humanos seamos reemplazados por máquinas, lo cual se ha dicho en
reiteradas oportunidades que está lejos de suceder; sin embargo, encontramos
ejemplos fácticos como lo que ocurre con la terminal de contenedores de Qianwan, en el puerto de Qingdao, China, quien de acuerdo a
su director, Zhang Liangang, expresó: “Los costos laborales
se han reducido un 70 % y la productividad ha aumentado un 30 %. Antes
necesitábamos unos sesenta empleados para descargar un buque, pero ahora bastan
nueve” (Barrixe, 2019, párr. 6).
Centrándonos
en el ámbito del Derecho, la IA se presenta como una aliada de los abogados en
el ejercicio de sus funciones, capaz de ayudarle a realizar su trabajo en
cuestión de segundos, desde la búsqueda de antecedentes jurisprudenciales,
redacción de documentos legales, predicción de probabilidades en juicio y la ubicación
de normas jurídicas aplicables al caso en tiempo récord, hasta la corrección de
errores ortotipográficos y de estilo en documentos
escritos por profesionales del Derecho.
En
principio, esto podría parecer una bendición, siempre y cuando no se vea afectada
la actividad por el sesgo algorítmico que, en pocas palabras, implica la gran
posibilidad de que la información consultada no sea correcta, puesto que se
parte de información que, a su vez, ha sido cargada al sistema por un humano, y
es allí donde se presentan los problemas por la utilización de información
emitida por la Inteligencia Artificial y que resulta no siendo aplicable al
caso, e incluso, ni siquiera siendo aplicable al Derecho del país de quien lo
solicitó.
La IA
representa una oportunidad sin precedentes para revolucionar el ejercicio y
aplicación del Derecho; sin embargo, es necesario traer a la palestra los
desafíos éticos y técnicos que conlleva su implementación. A través de este
ensayo ahondaremos en la Inteligencia Artificial en el Derecho, explicaremos la
importancia de entender el sesgo algorítmico y desarrollaremos los pros y
contras del uso de la Inteligencia Artificial, instando de forma categórica al
uso responsable y consciente de la IA para la consecución de los fines del Estado,
el bien común, la Seguridad Jurídica y la Justicia.
El auge de la Inteligencia Artificial
La
Inteligencia Artificial realmente no es un suceso nuevo, es por ello que
desarrollaremos brevemente varios eventos históricos que marcaron el auge,
surgimiento y popularización de la Inteligencia Artificial.
El punto de
partida lo encontramos en la Segunda Guerra Mundial, factor histórico que
originó el diseño de la máquina denominada “Bombe” o
“The Bombe”, diseñada por Alan Turing (el cual fue
apodado incluso “El padre de la Inteligencia Artificial”) para descifrar los
mensajes encriptados de “Enigma” (máquina alemana utilizada para cifrar y
descifrar los mensajes que se transmitían durante la guerra) y como una forma
de recortar el lapso de tiempo que se estimaba iba a durar la Segunda Guerra
Mundial; aunado a esto también vale la pena mencionar el “Test de Turing”,
siendo un tipo de herramienta indispensable para determinar la capacidad que
tienen las máquinas de tener un tipo de análisis y respuesta igual y/o similar
a la de un ser humano, ambos hitos históricos se consideran un punto de partida
bastante significativo a través de la historia, debido a sus innovaciones y
base fundamental para la ingeniería informática y el desarrollo avanzado de la
Inteligencia Artificial como la conocemos hoy día, también comprendiendo que el
objetivo principal de la IA es el estudio de la conducta humana y “simular la
inteligencia humana a través de las máquinas.” (Universidad Veracruzana, 2023,
pág. 33).
El siguiente
punto focal que sentó las bases de las IA de nuestra actualidad fue la creación
y utilización de la primera “supercomputadora” científica y comercial apodada
“Calculadora de Defensa” y cuyo nombre oficial era “IBM 701” lanzada en el año
1952 (Garrido, 2008), posteriormente se dio paso a la innovación de nuevas
supercomputadoras IBM que dieron paso al uso y creación del lenguaje de
programación matemático conocido como lenguaje FORTRAN solo unos años después,
siendo así como: “En 1958, cuando la NACA se convirtió en la NASA, llegó a la
agencia uno de los primeros ordenadores de transistores de la historia, el IBM
7090” (Amil, 2023, párr. 6).
Y aunque
para el momento dicha computadora fue revolucionaria, la evolución imparable de
la tecnología hizo que para la década del sesenta ya empezáramos a hablar de un
nuevo término, los Chatbots. El primero
de ellos fue Elizza, creado por el Instituto de
Tecnología de Massachusetts (MIT) en 1966; posteriormente en 1995 Alicia se
convirtió en el primer Chatbot con capacidad
de comunicarse con los humanos y, de hecho, esta última fue la inspiración para
la creación de Siri de Apple (Sharon, 2019).
Esto es solo
uno de los pocos hitos históricos que dieron paso al desarrollo comercial de la
Inteligencia Artificial y el lenguaje informático, y como su uso ha sido
adaptado a las nuevas necesidades de la realidad histórica en la que es
utilizada, entendiendo que el uso que se le da a las herramientas derivadas de
la IA, no es el mismo que se le daba hace cincuenta o sesenta años atrás,
puesto que las necesidades del consumidor han cambiado y por ende la
utilización de dicha herramienta, lo cual también se puede evidenciar en los
buscadores más importantes existentes tales como Google con Gemini,
Microsoft Edge con Copilot y
herramientas como Chat Gpt, Perplexity, Quillbot,
entre otros.
La Inteligencia Artificial Aplicada al Derecho
En el
Derecho, la IA se ha inmiscuido con fuerza en diversas tareas que le estaban
reservadas a los profesionales del Derecho, ya sea Abogados, juristas o
magistrados, el ejemplo más claro del impacto de la IA en el Derecho lo
encontramos en China, es así como el periódico digital The Technolawgist manifiesta:
El primer asistente artificial
utilizado en China se denomina Xiao Fa, que puede traducirse como “derecho
pequeñito” o “ley pequeñita”, y el primer piloto fue testeado en el año 2004 en
Shandong en temas penales. El sistema se diseñó para analizar 100 crímenes y la
idea era estandarizar condenas y generar automáticamente borradores de
sentencias. Xiao Fa era el primer paso para llegar a instaurar juzgados
inteligentes o incluso cibernéticos o virtuales. Pues bien, el primer tribunal
virtual o cibernético se estableció en la ciudad china de Hengezhou
en agosto de 2017. Y después se abrieron salas similares en Pekín y Guangzhou.
Estos llamados tribunales de Internet son competentes para determinados asuntos
relativos a las operaciones en red, comercio electrónico y propiedad
intelectual (The Technolawgist, 2019, párr. 5).
Es menester
indicar que la aplicación que le ha dado China a la IA ha sido muy criticada en
el mundo, sobre todo por considerar que representa un dilema ético y moral que
una IA pueda decidir sobre la libertad personal de los sujetos implicados en
las causas, si bien es cierto que la decisión final es tomada por el juez,
humano, existe el riesgo de predisposición del juez a la calificación del
delito y las penas que establece la IA.
Se puede
entender la reticencia al uso de las IA en materias humanísticas, partiendo de
que el ejercicio lógico y crítico que debe realizar el juez y las partes es
propio del ser humano, es así como los organismos internacionales han emitido
opiniones como la siguiente: “El
ejercicio de la función judicial está vinculado con los procesos de pensamiento
que realizan los impartidores de justicia para resolver los conflictos
sometidos a su consideración, en los que convergen la ley, los hechos, las
pruebas, criterios jurisprudenciales, etcétera” (Corte Interamericana de
Derechos Humanos, 2013, pág. 827).
Es un hecho cierto que el uso de Chatbots o sistemas con IA puede simplificar
actividades repetitivas que la mayoría del tiempo solo requieren sustitución de
datos personales (llenado de planillas, redacción de poderes generales de
administración, diligencias, entre otros) los cuales carecen de raciocinio
lógico, o por consecuencia no exigen un mayor esfuerzo para la redacción de los
mismos; sin embargo, ello no implica que todas las actividades que realizan los
abogados, funcionarios y otros entes gubernamentales, puedan ser sustituidas en
su totalidad por herramientas de IA, en principio porque el juez debe realizar
un ejercicio mental, basado en su conocimiento, las máximas de experiencia y la
sana crítica para decidir sobre una controversia, y por su parte los
profesionales del Derecho deben hacer uso de sus capacidades resolutivas, su
experiencia e inteligencia para abordar situaciones y brindar el mejor asesoramiento
legal.
Ahora bien,
se ha observado actualmente el uso indiscriminado de las herramientas de
Inteligencia Artificial por parte de los profesionales del Derecho, que
pretenden sustituir la capacidad de análisis humana por la información que
puede arrojar un sistema de datos como Chat
Gpt en
cuestión de segundos, cometiendo así el error de solicitarle a dicha
herramienta que realice un proceso lógico de pensamiento —único de los
humanos—, para resolver una controversia en particular, añadiendo a su solicitud
con la IA, hechos específicos y el requerimiento de interpretar la Ley de
manera idónea para la mejor defensa de los derechos de sus representados.
Pero, ¿están
calificados los abogados para realizar las solicitudes correctas, con los
presupuestos específicos, también llamados Prompts,
que garanticen la mayor fiabilidad en la respuesta? Teniendo como ejemplo
básico el siguiente: si el abogado en su interacción con el Chatbot
solo escribe “Ley” en lugar de indicar el país de origen de la misma, la Inteligencia
Artificial se encargará de suministrar una ley en general, sin precisar de qué
ordenamiento jurídico es esa ley.
Y es
precisamente en este punto que se genera el mayor problema para los abogados,
pues, al considerar infalible a las IA y confiar ciegamente en sus resultados,
sin tener en cuenta la probabilidad de que la información esté afectada por el
sesgo algorítmico, se transgreden los principios éticos de la profesión y se
pone en riesgo el devenir de los procesos judiciales a cargo.
El sesgo algorítmico
Para
entender la raíz de los riesgos de utilizar IA en el Derecho, indefectiblemente
debemos hablar del sesgo algorítmico, de acuerdo con IBM lo podemos definir de
la siguiente manera:
El sesgo de IA, también denominado
sesgo de aprendizaje automático o sesgo de algoritmo, se refiere a la aparición
de resultados sesgados debido a sesgos humanos que distorsionan los datos de
entrenamiento originales o el algoritmo de IA, lo que provoca resultados
distorsionados y potencialmente perjudiciales (IBM, 2023, párr. 1).
Teniendo en
cuenta lo anterior, es necesario comprender que estos sistemas de inteligencia
artificial se basan en la información que algún humano ha cargado a sus
servidores, de manera que el “conocimiento” que tendrá la IA, así como sus
predisposiciones, percepciones y prejuicios serán producto del humano que se
encargue de la alimentación de los datos al servidor. Esto trae como
consecuencia que la información que arroja la IA al ser consultada pueda no ser
correcta, o siendo correcta, no aplicable a la jurisdicción para la cual es
requerida.
Si debemos hablar de los tipos de sesgos algorítmicos
clásicos tenemos la siguiente clasificación:
Hay tres tipos de sesgos clásicos:
el estadístico, el cultural y el cognitivo. El estadístico procede de cómo
obtenemos los datos, de errores de medida o similares. Por ejemplo, si la
policía está presente en algunos barrios más que en otros, no será extraño que
la tasa de criminalidad sea más alta donde tenga mayor presencia (o en otras palabras, mediremos más donde está uno de los
instrumentos de medida). El sesgo cultural es aquel que deriva de la sociedad,
del lenguaje que hablamos o de todo lo que hemos aprendido a lo largo de la
vida. Los estereotipos de las personas de un país son un ejemplo claro. Por
último, el sesgo cognitivo es aquel que nos identifica y que depende de nuestra
personalidad, de nuestros gustos y miedos. Por ejemplo, si leemos una noticia
que está alineada con lo que pensamos, nuestra tendencia será validarla, aunque
sea falsa. Esta última desviación se conoce como ‘sesgo de confirmación’
(Baeza-Yates y Peiró 2019, párr. 14).
Es bastante
común que al preguntarle a una IA, por ejemplo, el contenido del artículo 49 de
la Constitución (que en Venezuela establece el debido proceso), la IA arroje el
contenido de una constitución, pero no necesariamente la venezolana, y esto
sucede por dos razones, la primera de ellas es porque el usuario no generó un prompt lo suficientemente específico para que
la IA respondiera a cabalidad y en segundo lugar porque en su sistema de
información no posee lo solicitado y completa la información con lo que sí
posee, aunque sea erróneo.
Ocurre
también y con mucha más frecuencia que al consultarle por alguna sentencia
judicial, arroje incluso un número de sentencia, con fecha, magistrado ponente
y caso… y que al final el contenido resultante sea inexistente. La IA es un
sistema programado para ofrecer una respuesta, que no es necesariamente cierta.
Es allí
donde las falencias de las IA se vuelven un tema de discusión para los
abogados, quienes tienen el deber ético y moral de verificar la información que
utilizan y revisar minuciosamente cada criterio o resultado obtenido a través
del uso de estos sistemas, so pena de ver desprestigiada su carrera y poner en
tela de juicio su ética y su deber con sus clientes.
El dilema ético del uso de la Inteligencia Artificial
La IA
generativa no puede reemplazar la experiencia humana ni ser considerada
culpable por un error que, en última instancia, fue cometido por un ser humano.
Al final del día, la responsabilidad recae sobre los litigantes que utilizan IA
generativa en su trabajo legal.
Al igual que
las sanciones que los abogados pueden sufrir por la conducta de los sujetos
(asistentes, pasantes, practicantes) a quienes supervisan o emplean, aquellos
que utilicen IA generativa como asistencia en su trabajo legal sin una
supervisión adecuada podrían ser acusados de graves violaciones éticas.
Es
indispensable entender que los profesionales del Derecho tienen la obligación
ética de comprender la tecnología antes de utilizarla, lo cual deriva de su
deber de proporcionar una representación competente a sus clientes.
Es por ello
que el artículo 4 del Código de ética profesional del Abogado Venezolano
establece:
Son deberes de Abogado:
1-.Actuar
con probidad, honradez, discreción, eficiencia, desinterés, veracidad y lealtad.
2-.Conservar
absoluta independencia en sus actuaciones profesionales.
3-.Mantener
en todo momento el respeto a su dignidad como persona y como profesional.
4-.Defender
los derechos de la sociedad y de los particulares cooperando en la conservación
y perfeccionamiento del orden jurídico y en la realización de una recta y
eficaz administración de justicia.
5-.Fortalecer
la fraternidad de sus colegas, mediante el respeto mutuo con trato cordial y
racional tolerancia (Código de
Ética Profesional del Abogado, 1985, artículo 4).
Conforme a
nuestro Código de ética, el Abogado debe poseer el conocimiento necesario para
brindar esa representación, lo que significa que debe mantenerse al tanto de
los cambios en la tecnología relevante y comprender razonablemente sus riesgos
y beneficios. Muchas jurisdicciones han incorporado un deber específico de
“competencia tecnológica” en sus reglas éticas, lo que incluye la IA
generativa, si bien Venezuela no ha actualizado sus normas respecto a la ética
en el uso de las IA, se encuentra intrínseco en los deberes éticos del abogado,
siempre actuar con la debida diligencia en la tramitación de sus casos.
Así mismo,
la protección de la confidencialidad del cliente es otra preocupación ética
importante. Como señala Ashraf:
La IA generativa, por su naturaleza,
fue diseñada para ser entrenada (o aprender) al menos en parte con la
información que proveen los usuarios. Así que, cuando los litigantes usan IA
generativa para ayudar a responder a una pregunta legal específica o redactar
un documento sobre algún tema introduciendo hechos específicos del caso,
podrían estar compartiendo información confidencial con terceras partes, como
los desarrolladores de la plataforma u otros usuarios, sin saberlo.
Esto va directamente en contra de la
obligación de un abogado de no revelar información confidencial de clientes sin
su consentimiento informado. También es una violación de su obligación de hacer
esfuerzos razonables para prevenir la divulgación no autorizada de información
relacionada con la representación del cliente. De igual manera, la
confidencialidad o secreto profesional está regulado en el artículo 25 del Código de Ética Profesional del
Abogado Venezolano:
El abogado guardará el más riguroso
secreto profesional. Este secreto amparará sus archivos y papeles aún después
que el abogado haya dejado de presentarles sus servicios al patrocinado o al
defendido. El abogado podrá negarse a testificar en contra de éste y abstenerse
de contestar cualquier pregunta que envuelva la revelación del secreto o la
violación de las confidencias que hubieren hecho. Tampoco podrá el abogado
comunicar a terceras personas lo que llegare a su conocimiento por causa de su
profesión. Queda comprendido del secreto profesional, todo cuando un abogado
trate con el representante de la parte contraria (Código de Ética Profesional del
Abogado, 1985, artículo 25).
En resumidas cuentas, el uso indebido de la Inteligencia Artificial por
parte de los profesionales del Derecho puede conllevar al quebrantamiento de
sus deberes éticos y morales, es por ello que es indispensable que la
utilización de estos sistemas se haga con el conocimiento y experticia
necesarias y verificando constantemente la autenticidad de la información
obtenida, que compagine con el ordenamiento jurídico solicitado y los
postulados esgrimidos, so pena de generar consecuencias irreparables para el
caso, el cliente y el abogado actuante.
Consecuencias del uso indebido de la Inteligencia Artificial
La
incorporación de la Inteligencia Artificial (IA) en el ámbito legal trae
consigo nuevas responsabilidades para los abogados y presenta un gran potencial
para transformar el sector legal, pero su uso indebido puede generar serias
consecuencias y repercusiones negativas.
Los sistemas
de IA, a pesar de su potencial, no están exentos de errores, especialmente
cuando no se entrenan con datos completos y debidamente seleccionados (sesgo
algorítmico). Algunos de los errores más comunes de la IA en el ámbito legal,
se basan en: la interpretación incorrecta de la ley, datos inexactos,
precedentes o normas falsas creadas por IA, aplicación de leyes que no
corresponden al ordenamiento jurídico, entre otros.
Esta falta
de diligencia puede causar la pérdida de casos, daños financieros a los
clientes, la privación de libertad e incluso la pérdida de la licencia de
abogado.
Un ejemplo
de utilización de precedentes falsos creados por Inteligencia Artificial
(debido al sesgo) se presentó en un tribunal de EE.UU., el cual sancionó con
una multa de dos mil dólares de los Estados Unidos de América (USD 2.000) a una
abogada que incorporó jurisprudencia falsa en una demanda creada por
Inteligencia Artificial generativa. La mujer se disculpó y reconoció la falta
de control, pero para el tribunal no podía pasarse por alto (Diario Judicial,
2018, párr. 4).
El Tribunal
concluyó que, a pesar de estos aspectos atenuantes, la imposición de la sanción
era necesaria debido a su falta de diligencia en verificar la exactitud de la
información antes de su presentación. El fallo concluye que:
Las alucinaciones generativas de IA
pueden ser muy engañosas y difíciles de discernir. La información ficticia a
menudo tiene todas las características de los datos veraces y sólo puede
descubrirse como falsa mediante un escrutinio cuidadoso. Por ejemplo, como se
demostró en este caso, la IA puede generar citas de decisiones judiciales
totalmente inventadas que llevan nombres, referencias de reporteros, volúmenes
y páginas aparentemente reales (Diario Judicial, 2018).
Otro ejemplo
final, se basa en un caso ocurrido en un tribunal de Florida, en donde un
abogado con 15 años de experiencia no solo violó las reglas del tribunal, sino
también las de conducta profesional del Estado, al proporcionar los precedentes
jurisprudenciales inexistentes conseguidos por una IA.
El defensor
de la contraparte fue quien se dio cuenta de lo que estaba sucediendo al
investigar exhaustivamente cada uno de los casos expuestos en el documento y no
encontrar nada relacionado. Ante este hecho, se le solicitó al profesional en
Derecho que proporcionará las versiones completas de los casos de su escrito y
él aseguró que usó datos de ‘Westlaw’ y ‘Fastcase’ y que:
Pudo haber usado inteligencia artificial para
redactar los expedientes, pero sin verificar los extractos y las citas
aportados por esta. El Comité de Quejas del Tribunal de la Florida concluyó que
el abogado no había ejercido la debida diligencia razonable requerida y su
conducta iba más allá de una falta de diligencia, ya que algunos precedentes
que invoca eran completamente inventados (Ámbito Jurídico, 2024, párr. 5).
Por este
hecho, al jurista se le inhabilitó para ejercer su profesión por un año,
además, debe asistir y completar varios talleres de práctica profesional y
pagar sanciones monetarias (Ámbito Jurídico, 2024).
Así como
estos casos hay muchos ejemplos de las repercusiones que puede tener la falta
de atención y control en el uso de la IA. Por eso, es fundamental que los
abogados asuman un rol activo en la evaluación y supervisión de los sistemas de
IA que utilizan. La transparencia, la diligencia profesional, la rendición de
cuentas y la responsabilidad deben ser los principios rectores en la
integración de la IA en la práctica legal.
Los abogados
deben estar conscientes de los sesgos potenciales que pueden surgir de la IA y
tomar las medidas necesarias para mitigarlos. Esta puede ser una herramienta
poderosa para mejorar la eficiencia y el acceso a la justicia, pero nunca debe
reemplazar el criterio y la responsabilidad de los profesionales del Derecho en
la defensa de los derechos e intereses de sus clientes.
Conclusiones
La
Inteligencia Artificial ha llegado para quedarse y es el deber de los Abogados
el ejercer la práctica del Derecho desde una perspectiva ética, procurando que
esta herramienta sirva de apoyo en la ejecución de nuestras labores y no que se
convierta en la mano ejecutora de cada una de nuestras actividades. La
comprensión de que estos sistemas están en constante mejora, que cometen
errores y que dependen a totalidad de la forma y las personas que realizan la
carga de información en ellas, es indispensable para evitar situaciones
delicadas como las explanadas en el presente ensayo y que conllevaron, a la
pérdida de la licencia de los profesionales involucrados.
La clave de
todo está en el conocimiento consciente de las herramientas que la tecnología
ha puesto a nuestra disposición y procurar en todo momento, la verificación la
información que se produzca a través de las mismas, garantizando la veracidad
del contenido obtenido y la idoneidad de su aplicación en el sector legal.
Eyleen Romero Rodríguez