Una sentencia ordena al Consejo Superior de la Judicatura de Colombia a crear una guía o manual en relación con la implementación de la IA generativa en los juicios. La Corte Constitucional de Colombia se refirió al uso de la IA generativa por parte de los jueces en la sentencia T-323 de 2024. Concretamente, trató el tema de si la IA había reemplazado al juez y de si se respetaron los principios jurídicos en el momento de resolver el caso.

El caso en cuestión versó sobre una mujer, cuyo hijo tenía autismo, que demandó a su seguro de salud para ser eximida de pagar copagos por los tratamientos del menor con discapacidad y recibir los gastos de transporte desembolsados por ella para realizar las terapias.

La IA en los juicios

A la demandada se le negó la existencia de discapacidad y que existiese una orden médica que justifique el transporte. Sin embargo, el juzgado municipal hizo lugar a la acción y admitió las pretensiones. Ante la apelación de la demandada, el juzgado del circuito confirmó la sentencia, porque la recurrente no probó que la actora tenga los recursos para afrontar los copagos que aparecían como una barrera para el acceso a la salud. En la resolución de segunda instancia, el magistrado advirtió que haría uso de la inteligencia artificial para ampliar los argumentos de su decisión, acompañando un intercambio de preguntas con ChatGPT.

Las Layer 2 de Ethereum que encierran más peligro para tu dinero

Teniendo en cuenta que el juez de segunda instancia de la tutela objeto de revisión hizo uso de IA para emitir su decisión, en específico, de ChatGPT 3.5, la Sala consideró relevante revisar una posible vulneración al derecho fundamental, debido al proceso en la emisión de dicha decisión, ya que se encontraron dudas respecto a si quien emitió la decisión fue un juez de la República o una IA . También se cuestionó si la decisión fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA.

La IA no reemplazó al juez

De esta manera, se abordaron los siguientes puntos: el derecho fundamental al debido proceso, el debido proceso en un sistema jurisdiccional que utiliza IA, así como el sistema de inteligencia artificial. Conceptos y aspectos básicos acerca de su funcionamiento, impactos del uso de herramientas de IA en la sociedad, estado de la IA en Colombia, el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales, experiencias concretas relacionadas con la IA en la práctica judicial, la garantía del juez natural en un sistema jurisdiccional que utiliza IA y el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.

LA CAÍDA DE ETHEREUM CUESTIONA SU TECNOLOGÍA

En cuanto a la posible violación al debido proceso por la sentencia de segunda instancia, al utilizar el juez ChatGPT para su motivación, la Sala estimó que no existió un reemplazo del ejercicio de la función jurisdiccional por parte de ChatGPT.  Esencialmente, porque el sistema de IA se utilizó tras haberse fundamentado y tomado la decisión.

Principio de privacidad

En el orden metodológico que adoptó el fallo de tutela, el funcionario judicial primero identificó la tesis que sostendría, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se debía atender por guardar identidad fáctica con el asunto analizado, para posteriormente solucionar el caso concreto, al indicar que el cobro de copagos y cuotas moderadoras constituía una barrera de acceso al servicio de salud del niño y que solo entonces, anunció y procedió a efectuar preguntas en el referido sistema de IA, para así transcribir las respuestas arrojadas en la consulta.

Los tokens de inteligencia artificial (IA) más capitalizados

En definitiva, no se cuestionó la validez de la decisión del Juzgado del Circuito por haber sido tomada con antelación al uso de la herramienta ChatGPT. El fallo también hace referencia a la garantía del juez natural y en tal sentido recuerda que la independencia judicial implica que «ningún poder, ya sea estatal o particular, o de cualquiera otra índole, como por ejemplo una IA, pueda influir en la consideración del caso».

En la sentencia se evidenció que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad sí se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia clínica, ni de las partes involucradas en la disputa concreta.

Exhortación a los jueces respecto al uso de la IA

La sentencia exhortó «a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA», valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales. En especial, el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.

Los funcionarios y empleados de la Rama Judicial aplicarán los principios de transparencia, responsabilidad, privacidad, no sustitución de la racionalidad humana, seriedad y verificación, prevención de riesgos, igualdad y equidad, control humano, regulación ética, adecuación a buenas prácticas y estándares colectivos, seguimiento continuo y adaptación e idoneidad.

Implementación de IA generativ a en la Justicia

Finalmente, la sentencia ordena al Consejo Superior de la Judicatura que, en el término de 4 meses, contados a partir de la notificación de esta providencia, divulgue una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT, regulación que deberá ser acorde con los aspectos establecidos en esta providencia.