La reciente sentencia de la Sala Segunda de Revisión de la Corte Constitucional de Colombia ha generado un debate significativo en torno al uso de la inteligencia artificial (IA) en el ámbito judicial. El fallo, que aborda la acción de tutela interpuesta por la madre de un menor de edad contra una Entidad Promotora de Salud (EPS), resalta la necesidad de preservar la figura del juez como un actor insustituible en la administración de justicia, subrayando que la IA, aunque útil, no puede reemplazar la racionalidad humana en la toma de decisiones judiciales. La IA no puede sustituir al juez Sentencia T-323 de 2024
Contexto del Caso y Análisis Jurídico
El caso en cuestión se centra en la negativa de una EPS a exonerar al menor del pago de cuotas moderadoras y copagos, cubrir los gastos de transporte para asistir a sus terapias y garantizar un tratamiento integral. La madre del menor alegó la vulneración de los derechos fundamentales a la salud y a la vida digna de su hijo. El aspecto más controvertido del caso surgió cuando el juez de tutela de segunda instancia utilizó la herramienta de IA ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud en menores con trastorno del espectro autista, incorporando las respuestas obtenidas en la motivación de la sentencia.
La Corte Constitucional dividió su análisis en dos temáticas principales: la posible afectación del derecho fundamental al debido proceso por el uso de la IA en la toma de decisiones judiciales y la eventual vulneración de los derechos a la salud, la vida digna y la seguridad social del menor.
La IA y el Derecho al Debido Proceso
El uso de la IA en la administración de justicia plantea desafíos únicos, especialmente en lo que respecta al debido proceso. La Corte Constitucional reafirmó que el derecho a un juez natural, es decir, un juez humano, es un componente esencial del debido proceso. En un sistema judicial donde se utilizan herramientas de IA, es imperativo que la decisión final provenga de un ser humano, ya que el marco normativo actual no contempla la posibilidad de un «juez máquina».
La sentencia subraya que, aunque se puede utilizar la IA para tareas administrativas y documentales, debe limitarse y supervisarse rigurosamente para evitar que influya en la interpretación de hechos, la creación de contenido jurídico o la resolución de casos. La incorporación de la IA en decisiones judiciales plantea el riesgo de sesgos y errores, conocidos como «alucinaciones» en el contexto de la IA, que pueden comprometer la motivación y la imparcialidad de la sentencia.
En este sentido, la Corte estableció que el uso de IA debe garantizar la independencia e imparcialidad judicial, asegurando que ningún poder externo, incluida la propia IA, pueda influir en la consideración del caso. Además, es crucial que las decisiones no estén basadas en prejuicios o sesgos que la IA pueda introducir, lo que podría dar lugar a discriminaciones y decisiones parciales.
Principios para el Uso de la IA en el Ámbito Judicial
La Corte Constitucional delineó una serie de principios fundamentales que deben guiar el uso de la IA en la administración de justicia, destacando los siguientes:
- Transparencia: Los jueces deben exponer claramente cómo y en qué medida se ha utilizado la IA en el proceso de toma de decisiones. Esto incluye detallar el uso, alcance y ubicación de la información gestionada a través de estas herramientas en la decisión final.
- Responsabilidad: Los operadores judiciales deben estar capacitados en el uso de la IA, pudiendo dar cuenta del origen, idoneidad y necesidad de su aplicación. Asimismo, es su deber verificar la precisión y coherencia de la información proporcionada por la IA.
- Privacidad: La protección de datos personales y sensibles es esencial en el uso de la IA, asegurando que la información proporcionada al sistema judicial se maneje con la máxima confidencialidad.
- No sustitución de la racionalidad humana: La IA no debe reemplazar el juicio humano en la interpretación de hechos, textos o en la resolución de casos.
- Seriedad y verificación: El uso de la IA debe ser tomado con la debida seriedad, asegurando la verificación constante de los datos y resultados proporcionados.
- Prevención de riesgos: Es vital anticipar y mitigar posibles riesgos asociados con el uso de la IA, incluyendo sesgos y errores.
La inteligencia artificial (IA) no puede sustituir al juez
- Control humano: La supervisión humana es indispensable para garantizar que la IA no afecte negativamente la justicia y equidad en el proceso judicial.
- Regulación ética: La implementación de la IA debe estar alineada con los más altos estándares éticos, respetando los derechos fundamentales y mandatos superiores.
- Adecuación a buenas prácticas y estándares colectivos: Es fundamental que el uso de la IA se ajuste a las mejores prácticas y estándares reconocidos internacionalmente.
- Seguimiento continuo y adaptación: La tecnología y su aplicación deben ser monitoreadas y ajustadas continuamente para mejorar su efectividad y minimizar riesgos.
- Idoneidad: Los jueces deben asegurarse de que la IA que utilicen sea adecuada y apropiada para el contexto y las necesidades específicas del caso.
Consideraciones Finales y Perspectivas Futuras
La Corte Constitucional concluyó que, aunque en el caso concreto no se reemplazó la función judicial por la IA, el uso de ChatGPT no cumplió completamente con los principios de transparencia y responsabilidad, aunque sí respetó el principio de privacidad. El juez de segunda instancia utilizó la IA después de fundamentar su decisión, lo que permitió que la decisión judicial no se viera afectada por la intervención de la herramienta tecnológica.
La Corte advirtió que las reflexiones y restricciones establecidas en este caso son aplicables a cualquier tipo de proceso judicial, independientemente de su naturaleza. Hasta que no exista una regulación específica o guías oficiales por parte del Consejo Superior de la Judicatura o el Congreso de la República, es crucial prevenir cualquier afectación al debido proceso que pueda surgir del uso indiscriminado de la IA en la administración de justicia.
Asimismo, la Corte exhortó a los jueces a evaluar cuidadosamente el uso de herramientas como ChatGPT, aplicando siempre los principios de ética, transparencia y respeto a los derechos fundamentales. En un entorno donde la tecnología avanza rápidamente, es imperativo que el sistema judicial colombiano adopte un enfoque prudente y fundamentado para garantizar que la justicia se mantenga imparcial, equitativa y centrada en la protección de los derechos humanos.
El Impacto del Fallo
Finalmente, la Corte ordenó al Consejo Superior de la Judicatura que adopte guías o lineamientos para la implementación de la IA en la Rama Judicial, promoviendo la capacitación de los funcionarios judiciales en el uso de estas herramientas, con un enfoque centrado en los derechos y en la prevención de riesgos.
Descarga la Sentencia Sentencia T-323 de 2024
La IA no puede sustituir al juez Sentencia T-323 de 2024
About The Author
