El bochorno que protagonizó el relator suplente de la Corte de Apelaciones de Santiago Felipe Larraín Tejeda abrió el debate sobre el uso de Inteligencia Artificial (IA) en el Poder Judicial.
Más allá del informe que deberá entregar el relator a la ministra Jenny Book y las eventuales medidas disciplinarias que tome el pleno del tribunal de alzada capitalino, el asunto dejó en evidencia una realidad incómoda: el uso de la IA en la judicatura.
Esa realidad, por ejemplo, ya dejó algunas pistas en el artículo 17 del Código de Ética Judicial. En esa norma se desprende que sí está permitido el uso de esta herramienta tecnológica entre los jueces.
“En el ejercicio de la función jurisdiccional, el empleo de inteligencia artificial y de nuevas tecnologías constituye una oportunidad para modernizar y optimizar la gestión de los tribunales. Estas herramientas pueden aportar eficiencia, rapidez en la tramitación y apoyo en la organización de la información, pero su uso exige la máxima cautela, pues conllevan riesgos que pueden afectar derechos fundamentales, la independencia de los jueces y la confianza de las personas en la justicia”, se lee en dicha norma.
En ese mismo artículo luego se expone de forma categórica que “la decisión judicial es siempre una tarea humana y su responsabilidad es indelegable. Ningún sistema automatizado puede sustituir el juicio de quien ejerce jurisdicción ni condicionar su independencia e imparcialidad”.
Ya al final de ese artículo se consigna que esto queda en manos de cada judicial: “Comprender y anticipar estos riesgos es deber de cada juez, quien deberá ponderar en cada caso la proporcionalidad y necesidad del uso de estas tecnologías”.
El oficio de la Suprema
Para darle una bajada práctica a esas disposiciones, el 11 de agosto de este año la presidenta de la Corte Suprema, ministra Gloria Ana Chevesich, junto al ministro Jean Pierre Matus -ambos de la Comisión de Apoyo a la Ley de Tramitación Electrónica- enviaron un oficio a los presidentes de todas las cortes del país para “establecer un marco inicial que oriente la adecuada utilización de herramientas tecnológicas basadas en inteligencia artificial en el Poder Judicial”.
Dicho oficio hace referencia al Código de Ética Judicial y además raya la cancha respecto de la única IA que está permitido usar: “La Corporación Administrativa del Poder Judicial mantiene vigente la suscripción corporativa Microsoft Enterprise Agreement, la que habilita en los entornos de trabajo institucionales el acceso a la herramienta de inteligencia artificial generativa Copilot Chat. Esta plataforma asegura que el procesamiento de consultas se ejecute dentro del entorno institucional, garantizando la confidencialidad y la prohibición del uso de la información para el entrenamiento de modelos de inteligencia artificial de Microsoft”.
En esa misma línea, el oficio añade, en línea con el Código de Ética Judicial, que “correspondiendo a cada persona funcionaria velar por la adecuada utilización de esta herramienta”.
Luego de eso el máximo tribunal bajó a todas las jurisdicciones una serie de recomendaciones prácticas sobre cómo usar la IA en la labor jurisdiccional.
¿Cómo usarla?
La primera instrucción del máximo tribunal apunta a que los judiciales deben “informarse previamente sobre las características de la tecnología que se pretenda utilizar, incluyendo finalidad, utilidad, políticas de privacidad, manejo de datos personales, mecanismos de configuración y nivel de seguridad”.
Luego se pide “capacitarse regularmente en el uso de estas herramientas, manteniéndose actualizado respecto de sus funcionalidades, riesgos, términos de uso y salvaguardias en materia de protección de datos”.
La guía también exige “abstenerse de incorporar en sistemas no autorizados, especialmente en servicios abiertos al público, información proveniente de causas judiciales, grabaciones de audiencias o datos personales de los intervinientes”.
Cuando un juez quiera utilizar esta herramienta, debe siempre “verificar de manera independiente las respuestas, citas o referencias que provengan de sistemas de inteligencia artificial antes de utilizarlas en resoluciones o actuaciones jurisdiccionales”.
Para casos de traducción automática, la sugerencia es usar la IA “únicamente como apoyo, dejando constancia cuando corresponda de la intervención de intérpretes humanos en las actuaciones judiciales”.
En caso de transcripción automática de audiencias, se pide utilizar la IA “solo como borrador auxiliar y proceder siempre a su revisión y certificación por parte del tribunal antes de darle valor oficial”.
El oficio añade que al emplear modalidades de realidad virtual o de operaciones telemáticas se debe “velar por que se preserve el debido proceso, la confidencialidad y la autenticidad de los registros, evitando que la tecnología comprometa la inmediación y el derecho de defensa”.
Al final de las orientaciones viene una exigencia que se suele pasar por alto: “Dejar constancia, en caso de emplear estas tecnologías como apoyo, de cuál fue su función y de cómo la decisión final descansa exclusivamente en la valoración humana del juez, preservando así la transparencia, la posibilidad de contradicción y la rendición de cuentas”.
Junto con eso se pide a todos los judiciales “documentar y conservar, cuando sea posible, los registros de interacción con la tecnología, de modo de facilitar el control institucional y el eventual escrutinio público”.
Al finalizar se pide “ajustarse a las normas y políticas institucionales sobre inteligencia artificial y nuevas tecnologías, informando a la instancia competente cualquier falla, riesgo de ciberseguridad, problema de confiabilidad o sesgo detectado”.
Este oficio demuestra que la IA llegó para quedarse en la magistratura y por lo mismo el desafío es regular de mejor manera su uso. Por esa razón la Suprema lleva varios meses trabajando en la primera política de uso de la IA en el Poder Judicial.
Este texto está casi listo y se espera que en las jornadas de reflexión del máximo tribunal, que se realizarán en Santiago el próximo 22 y 23 de octubre, pueda someterse a votación del pleno.
