La polémica situación protagonizada por el relator suplente de la Corte de Apelaciones de Santiago Felipe Larraín dejó en evidencia los pormenores de la utilización de la inteligencia artificial en el Poder Judicial.
El problema se originó debido a que a Larraín dejó pegada una instrucción para la IA en una resolución de una causa civil, lo que derivó en una fallo -emitido por la ministra Jenny Brook, de la Novena Sala del tribunal de alzada capitalino- que incorporó instrucciones dirigidas a esta tecnología para redactar los fundamentos de una sentencia, junto con una fórmula para su resolución.
«Su uso exige la máxima cautela»
Según consignó La Tercera, en el artículo 17 del Código de Ética Judicial se detallaron las reglas permitidas para el uso de la IA entre los jueces.
«En el ejercicio de la función jurisdiccional, el empleo de IA y de nuevas tecnologías constituye una oportunidad para modernizar y optimizar la gestión de los tribunales. Estas herramientas pueden aportar eficiencia, rapidez en la tramitación y apoyo en la organización de la información, pero su uso exige la máxima cautela, pues conllevan riesgos que pueden afectar derechos fundamentales, la independencia de los jueces y la confianza de las personas en la justicia», desprende el documento.
El escrito enfatiza que la decisión judicial «es siempre una tarea humana y su responsabilidad es indelegable. Ningún sistema automatizado puede sustituir el juicio de quien ejerce jurisdicción ni condicionar su independencia e imparcialidad».
El reglamento también subraya que el uso de esta tecnología queda bajo la responsabilidad de cada magistrado: «Comprender y anticipar estos riesgos es deber de cada juez, quien deberá ponderar en cada caso la proporcionalidad y necesidad del uso de estas tecnologías», advierte.
El marco inicial de la Corte Suprema
El 11 de agosto, la presidenta de la Corte Suprema, Gloria Ana Chevesich, envió un oficio a los presidentes de todas las cortes del país con la finalidad de establecer «un marco inicial que oriente la adecuada utilización de herramientas tecnológicas basadas en inteligencia artificial en el Poder Judicial… correspondiendo a cada persona funcionaria velar por la adecuada utilización de esta herramienta».
El oficio, según publicó el diario, refiere al Código de Ética Judicial y establece cuál es la única IA que se puede utilizar: «La Corporación Administrativa del Poder Judicial mantiene vigente la suscripción corporativa Microsoft Enterprise Agreement, la que habilita en los entornos de trabajo institucionales el acceso a la herramienta de inteligencia artificial generativa Copilot Chat«, indica.
«Esta plataforma asegura que el procesamiento de consultas se ejecute dentro del entorno institucional, garantizando la confidencialidad y la prohibición del uso de la información para el entrenamiento de modelos de inteligencia artificial de Microsoft», agrega el documento.
En el escrito también se pide a los jueces «informarse previamente sobre las características de la tecnología que se pretenda utilizar, incluyendo finalidad, utilidad, políticas de privacidad, manejo de datos personales, mecanismos de configuración y nivel de seguridad».
Además, se debe «verificar de manera independiente las respuestas, citas o referencias que provengan de sistemas de inteligencia artificial antes de utilizarlas en resoluciones o actuaciones jurisdiccionales», y también hay que «dejar constancia, en caso de emplear estas tecnologías como apoyo, de cuál fue su función y de cómo la decisión final descansa exclusivamente en la valoración humana del juez, preservando así la transparencia, la posibilidad de contradicción y la rendición de cuentas».
El texto final de la instrucción está por concluir y se espera que, el próximo 22 y 23 de octubre, en las jornadas de reflexión de la Corte Suprema, pueda ser sometido a votación del pleno.
