LA INTELIGENCIA ARTIFICIAL GENERATIVA (IAGEN) Y LA FUNCIÓN JUDICIAL-I

Corte Constitucional de Colombia

13 de octubre 2024

Por Andrés Gil Domínguez

Tomado de DIARIO CONSTITUCIONAL, Chile

Publica Abg. Rafael Medina Villalonga

 

 

PRIMERA PARTE

 

“I. La Corte Constitucional de Colombia en el marco de una acción de tutela –mediante la cual se debatió si correspondía conforme a la normativa colombiana vigente exonerar a un niño discapacitado del cobro de copagos y cuotas respecto de servicios y medicamentos- analizó si el uso por parte del juez de segunda instancia del ChatGPT 3.5 había vulnerado el derecho fundamental al debido proceso puesto que existían dudas sobre quien dictó la sentencia (el juez o una IA), como así también, si la decisión jurisdiccional fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA.”

“El juez de alzada, en el trámite de revisión, declaró ante la Corte Constitucional que la decisión jurisdiccional fue adoptada exclusivamente por él basándose en el razonamiento judicial y que la IAGen utilizada cumplió una función de herramienta de consulta complementaria después de haber adoptado la solución para el caso concreto.”

“El tribunal resolvió exhortar a los jueces y juezas a que hagan un uso adecuado de la IA a efectos de garantizar el debido proceso y la independencia y autonomía judicial. Asimismo, ordenó al Consejo Superior de la Judicatura que divulgue una guía, manual o lineamiento en relación con la implementación de la IA en el ámbito del Poder Judicial generando espacios de capacitación y que fomente el aprendizaje de conocimientos básicos sobre el uso de la IA en el contexto judicial con un enfoque basado en los derechos.”

“Luego de realizar un extenso recorrido conceptual de la IA -enfocándose particularmente en la inteligencia artificial generativa- y a pesar de haber reconocido el denominado problema del ritmo (basado en que las tecnologías emergentes avanzan a un ritmo que sobrepasa la capacidad de reacción de las autoridades regulatorias) y la existencia de modelos de ChatGPT más avanzados, el tribunal circunscribió el análisis jurídico enfocándose exclusivamente al uso del ChatGPT 3.5.”

“Ubicándose en el ámbito del legal tech, la Corte Constitucional sostuvo críticamente que el ChatGPT 3.5 puede alucinar (esto es, crear información falsa) sin que esto pueda ser advertido por el funcionario judicial, utiliza una base de datos que ha sido alimentada de fuentes públicas, datos de terceros con licencia e información creada por revisores humanos (lo cual, en principio, no garantiza que la información esté actualizada o sea relevante para el contexto nacional en términos de idioma, contexto social, cultural y/o económico), no es una herramienta licenciada para la administración de justicia (por ende, sus respuestas no corresponden a un ejercicio razonado y especializado de ponderación en derecho) y el Poder Judicial no tiene el control sobre su diseño, conocimiento sobre la información por la que fue entrenada y la forma en la que la procesa, ni el acceso a ella para conocer o modificar su algoritmo.”

“El tribunal concluyó que utilizar IA con el objeto de sustituir el razonamiento humano para interpretan hechos y pruebas, motivar una decisión jurisdiccional o dictar una sentencia genera una violación a la garantía del juez natural. La IA no pude usarse para ninguna labor de creación de contenido, interpretación de hechos o pruebas, solución de casos y no remplaza la labor atribuida al funcionario judicial consistente en conocer y resolver el fondo del asunto para el cual fue investido de competencia. Por el contrario, el uso de la IA en el sistema judicial no vulnera dicha garantía cuando se aplica en ámbitos de gestión administrativa y documental como apoyo a la gestión judicial (ej. reparto, agenda para la programación de diligencias, digitalización y clasificación de expedientes, sistemas de relatoría y motores de búsqueda de jurisprudencia), o bien para la corrección y síntesis de textos largos, siempre y cuando, exista una supervisión por parte de un funcionario o empleado judicial.”

“En el contexto de la administración de justicia, la Corte Constitucional afirmó que acudir a una IA que no sea especializada y que no sea administrada por el Poder Judicial es problemático debido a que puede emplear información falsa o incoherente. La transparencia y trazabilidad de las IA utilizadas por el sistema de justicia son principios que deben protegerse con el fin de no afectar derechos fundamentales, puesto que su ausencia, imposibilita que los ciudadanos se enteren, entiendan y evidencien la trazabilidad de las decisiones de los jueces y, de ser necesario, adopten las medidas necesarias para impugnarlas.”

“En definitiva para el tribunal es aconsejable contar con una IA de propiedad y uso exclusivo del Poder Judicial, de forma tal, que se pueda conocer cuáles son sus algoritmos y cómo se procesa la información con el fin de poder controlar la información brindada.”

“II. La sentencia de la Corte Constitucional es un claro ejemplo de la interpretación y aplicación del derecho sin perspectiva tecnológica asumiendo un razonamiento analógico e idealizado que desconoce los efectores del desarrollo científico y tecnológico en el ámbito de la Cuarta Revolución Industrial.”

“En primer lugar, el tribunal analizó el uso de una IAGen (ChatGPT 3.5) que ha sido totalmente superada. La versión 4o (o de omni) del ChatGPT produjo un influjo disruptivo notable por cuanto posibilita una interacción de la persona con los dispositivos mucho más fluida y natural. Este nuevo modelo acepta como entrada toda clase de combinación de texto, audio e imagen y es capaz de generar cualquier combinación de salidas en igual sentido. Su velocidad de respuesta puede llegar a ser de tan solo 232 milisegundos, alcanzando un promedio de 320 milisegundos, tiempo similar al que se toma un humano para responder en una conversación normal. Entre las novedades que presenta se encuentran la capacidad de comunicación en tiempo real (mediante la cual responde a entradas de audio en 232 milisegundos, soporta conversaciones de voz en directo, retransmisiones de vídeo desde el teléfono y mensajes de texto) y el rendimiento del reconocimiento de voz (equiparable a Whisper-v3 con un soporte para todos los idiomas, alta precisión y rapidez en la transcripción de voz a texto). Entre las mejoras se destacan la carga de archivos, la generación de tablas, la generación de gráficos, la cantidad de iteraciones, la alta capacidad para entender y razonar sobre relaciones causales complejas, la alta capacidad de razonamiento y resolución de problemas complejos, gran capacidad de contextualización y memoria a largo plazo en las conversaciones, la alta capacidad de razonamiento y resolución de problemas complejos, entre otras. El 12 de septiembre de 2024, Open IA lanzó el modelo o1-preview que está entrenado para que dedique más tiempo a pensar en los problemas antes de responder, de forma similar, a como lo haría una persona. A través del adiestramiento, aprende a refinar su proceso de pensamiento, a probar diferentes estrategias y a reconocer sus errores. En las pruebas, el modelo se desempeñó de manera similar a los estudiantes de doctorado en materias como física, química y biología. También se destacó en matemáticas y codificación. En un examen de clasificación para la Olimpiada Internacional de Matemáticas (IMO), GPT-4º resolvió correctamente solo el 13 % de los problemas, mientras que el modelo de razonamiento obtuvo una puntuación del 83 %. Estas capacidades de razonamiento mejoradas pueden ser particularmente útiles si se abordan problemas complejos en ciencia, codificación, matemáticas y campos similares. Por ejemplo, el modelo o1-preview puede ser utilizado por investigadores del sector sanitario para anotar datos de secuenciación celular, por físicos para generar fórmulas matemáticas complicadas necesarias para la óptica cuántica y por desarrolladores de todos los campos para crear y ejecutar flujos de trabajo de varios pasos.”

“En segundo lugar, reducir el uso de la actual IAGen multimodal a ser un mero asistente monomodal dedicado exclusivamente a la gestión administrativa y documental o convertirla en un simple corrector de texto, implica desconocer en su totalidad las funciones que esta permite ejecutar. El gran aporte que tiene para ofrecer la IAGen al sistema de justicia consiste justamente en posibilitar una forma de razonar profunda en tiempos imposibles de asemejar por ningún ser humano. Por dicho motivo, quizás no sea tan útil a la hora de ofrecer respuestas sobre fallos o leyes, sino que su mayor contribución, está centrada en las respuestas razonadas que produce ante prompteos (indicaciones o instrucciones de entrada) contextualizados a través de los cuales se le asigna un rol específico.”

Continuará…