La Corte Suprema de Justicia (CSJ) de Colombia ha marcado un hito en la historia judicial del país al anular por primera vez un fallo basado en el uso indebido de Inteligencia Artificial (IA). Esta decisión sienta un precedente fundamental sobre la responsabilidad y la verificación de fuentes en la era digital para los operadores de justicia.

El fallo afectado provenía del Tribunal Superior del Distrito Judicial de Sincelejo. La CSJ determinó que la decisión del Tribunal estaba fundamentada en jurisprudencia inexistente que, presumiblemente, fue generada o incorrectamente citada por una herramienta de IA.

El Error de la Jurisprudencia Inexistente

El núcleo de la anulación reside en la falta de veracidad de los precedentes judiciales citados. Al utilizar herramientas generativas de IA para la investigación o argumentación, los jueces y magistrados pueden recibir información que parece ser legítima jurisprudencia, pero que en realidad es una «alucinación» o una invención del modelo.

La Corte Suprema enfatizó que la obligación de verificar la autenticidad y existencia de las sentencias y fuentes citadas recae directamente sobre el funcionario judicial, siendo el uso de estas tecnologías solo una ayuda y no un sustituto de la labor de contrastación legal.

Implicaciones para el Sistema Judicial

Este caso subraya los riesgos de integrar la Inteligencia Artificial sin rigurosos controles éticos y profesionales en el ámbito legal. La decisión de la CSJ envía un mensaje claro:

• La integridad de las fuentes y la veracidad de los argumentos son innegociables.
• El uso de la IA en la justicia debe estar sujeto a una doble verificación humana para evitar errores que comprometan el debido proceso.

La anulación del fallo de Sincelejo establece una línea roja, exigiendo a todos los estamentos judiciales mayor cautela y precisión al incorporar herramientas tecnológicas en la toma de decisiones.

La entrada La Corte Suprema Anula Fallo por Uso Indebido de Inteligencia Artificial. se publicó primero en Ambientarte Radio.