Teniendo en cuenta que el juez de segunda instancia hizo uso de IA para emitir su decisión, en específico, de ChatGPT 3.5, la Sala consideró relevante revisar una posible vulneración al derecho fundamental al debido proceso en la emisión de dicha decisión, ya que se encontraron dudas respecto a si quien emitió la decisión fue un juez de la República o una IA y si la decisión fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA.
De esta manera, se abordaron los siguientes puntos (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de inteligencia artificial. Conceptos y aspectos básicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) estado de la IA en Colombia; (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias concretas relacionadas con la IA en la práctica judicial; (viii) la garantía del juez natural en un sistema jurisdiccional que utiliza IA y (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.
En cuanto a la posible violación al debido proceso por la sentencia de segunda instancia, al utilizar el juez ChatGPT para su motivación, la Sala estimó que no existió un remplazo del ejercicio de la función jurisdiccional por parte de ChatGPT, esencialmente porque el sistema de IA se utilizó luego de haberse fundamentado y tomado la decisión. En el orden metodológico que adoptó el fallo de tutela, el funcionario judicial primero identificó la tesis que sostendría, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se debía atender por guardar identidad fáctica con el asunto analizado, para posteriormente solucionar el caso concreto al indicar que el cobro de copagos y cuotas moderadoras constituía una barrera de acceso al servicio de salud del niño y, solo entonces, anunció y procedió a efectuar preguntas en el referido sistema de IA, para así transcribir las respuestas arrojadas en la consulta.
Conforme con lo anterior, no se cuestionó la validez de la decisión del Juzgado del Circuito por haber sido tomada con antelación al uso de la herramienta ChatGPT. Sin perjuicio de lo anterior, se evidenció que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.
La Sala de Revisión decidió que el derecho al debido proceso no se había vulnerado por el juez de segunda instancia, por tanto, no se configuró una causal de invalidez de lo actuado, pues el uso de ChatGPT en el caso sometido a estudio no comportó una usurpación de la función de administración de justicia a cargo de la autoridad judicial competente.
Sin perjuicio de lo anterior, la Sala estimó que en el marco del respeto por los derechos fundamentales y de la salvaguarda de las garantías constitucionales para los usuarios del sistema de administración de justicia y dadas las posibilidades de alucinaciones, sesgos discriminatorios y demás riesgos asociados a la IA, era procedente establecer algunos criterios orientadores, así como que, desde el Consejo Superior de la Judicatura, se emitan unas guías o lineamientos sobre su implementación por parte de los jueces y que desde la judicatura misma se adopten las mejores prácticas que conforme a los principios y mandatos constitucionales, permitan hacer uso razonable y proporcional de herramientas innovadoras y dinámicas como ChtatGPT, sin admitir en modo alguno que se impacte el debido proceso o se restrinjan de cualquier forma la autonomía e independencia judiciales.
Comentar