Reino Unido presentó la guía para el uso de la IA en el poder judicial que determina los beneficios de este tipo de herramientas, imponiendo ciertas limitaciones.
En diciembre se publicó en Inglaterra y Gales la denominada “Guía de Inteligencia Artificial (IA). Orientación para los titulares de cargos judiciales”, que reconoce expresamente potenciales riesgos asociados al uso de la IA y brinda recomendaciones a los funcionarios del poder judicial para minimizarlos.
Si bien la guía aborda los beneficios de este tipo de herramientas, también impone ciertas limitaciones para que su uso sea realizado de forma responsable y cuidadosa. Lo interesante es que el texto deja constancia que la intervención humana es necesaria para validar las decisiones que tome el sistema, lo que implica que además de reconocer de forma explicita que los chartbots pueden generar información inexacta, incompleta, engañosa o no actualizada, hace un llamado a la responsabilidad de los funcionarios, sin importar su cargo, al interiorizar el conocimiento de ciertos mínimos en torno al funcionamiento de los sistemas de IA.
De este modo, se reconoce que las respuestas otorgadas por los chatbots pueden ser útiles para generar respuestas en base a los datos con los cuales han sido entrenados, pero que dichas respuestas no necesariamente contendrán la información más exacta, por lo que deben comprobarse antes de confiar en ella. Otro punto relevante es que resalta la importancia de que los usuarios de los sistemas de IA interioricen como se debe llevar a cabo la interacción con el sistema de IA, puesto que de esto también dependerá la calidad de las respuestas.
Por otro lado, a pesar de que la guía admite que los funcionarios del poder judicial no están obligados a trasparentar el uso de sistemas de IA en materias de investigación o incluso en la dictación de una sentencia, establece que serán personalmente responsables por los contenidos que creen a su nombre, debiendo garantizar que el mismo sea preciso, adecuado y exacto.
Otro punto relevante, es que se imponen obligaciones de confidencialidad y privacidad, indicando de forma expresa que toda la información que se introduzca en los sistemas debe ser de dominio público. Así, en caso de que exista una divulgación involuntaria de información confidencial o privada, incluyendo datos personales, los funcionarios deberán ponerse en contacto con el juez de su jefatura y la Oficina Judicial para trasparentar la situación.
Finalmente, el documento reconoce una realidad a nivel internacional, en torno a la utilización maliciosa de herramientas de IA para producir material falso en los procedimientos judiciales, incluyendo textos, imágenes o videos. A raíz de esto, los jueces deben ser conscientes de esta nueva posibilidad y de los potenciales retos que plantea la tecnología deepfake.
Sin duda esta publicación representa un gran avance en torno al reconocimiento expreso del uso de sistemas de IA en materias que afectan directamente el bien común y derechos fundamentales en torno al debido proceso, anteponiendo límites en torno a su uso y aplicación.
Adicionalmente, se desprende del texto la necesidad de inculcar el entendimiento en torno al funcionamiento de los sistemas de IA en el ejercicio de toda profesión, entendiendo que existen responsabilidades vinculadas al uso inadecuado de la información.
En az Tech consideramos imprescindible la interiorización de ciertos mínimos en torno a la adecuada interacción y valoración propia de los resultados que obtengamos de la tecnología, en cuanto si bien la utilidad de la misma es innegable, la información necesariamente debe ser evaluada y acreditada con responsabilidad previo a tomar cualquier tipo de decisión.
Para obtener más información sobre estos temas, pueden contactar a nuestro equipo IP, Tech and Data:
Eugenio Gormáz | Socio | egormaz@az.cl
Antonia Nudman | Asociada Senior | anudman@az.cl
Carlos Lazcano | Asociado Senior | clazcano@az.cl
Fernanda Rodríguez | Asociada | frodriguez@az.cl
Esteban Orhanovic | Asociado | eorhanovic@az.cl
