Nuestra asociada senior az Tech, Antonia Nudman, conversó con Diario Financiero, donde analizó los desafíos que enfrenta el Estado chileno ante la masificación de los agentes autónomos de inteligencia artificial.
El ingreso de más de 38 mil escritos a través de un agente tecnológico externo en la oficina virtual del Poder Judicial aumentó de golpe su carga de trabajo. La acción despertó dudas sobre las capacidades técnicas y humanas de las instituciones públicas del país para enfrentar la masificación de la automatización y de los agentes autónomos de inteligencia artificial (IA).
Expertos y abogados coincidieron en que los organismos del Estado -en diferentes grados- tienen brechas en tecnología, capacidades y normas de uso para enfrentar el nuevo escenario que impone la IA. Para abordarlo, plantearon que las instituciones deben adaptar sus sistemas, definir estándares comunes y contar con soluciones para hacer frente a las operaciones de automatización masiva.
El académico del Departamento de Ciencias de la Computación de la Universidad de Chile, Tomás Vera, afirmó que hoy el principal problema en las instituciones públicas no es la tecnología, sino las diferencias entre ellas. Mientras algunas cuentan con equipos avanzados, otras tienen sistemas informáticos antiguos, registros fragmentados, baja capacidad de monitoreo y una “fuerte dependencia” de proveedores.
“Las instituciones deben prepararse porque una parte creciente de las interacciones será realizada por agentes de IA y no por personas. Esto exige actualizar tanto la infraestructura tecnológica como los procesos de gestión”, dijo.
Vera, también asesor científico de Congreso Futuro, señaló que las “capacidades son decisivas, porque una ley puede exigir seguridad y responsabilidad, pero no detecta una sobrecarga, no administra una cola de documentos y no recupera un sistema caído”.
La asociada senior de az Tech, Antonia Nudman, dijo que ya existen algunos avances como los Lineamientos para el uso de herramientas de inteligencia artificial en el sector público, que dictó el gobierno en 2023, o la Política Nacional de IA, pero se debe avanzar hacia reglas y estándares transversales “más consolidados para el Estado”.
Para la abogada, se requiere “un piso común de capacidades” en el sector público tanto humanas como infraestructura, gobernanza, ciberseguridad, protección de datos y uso responsable de IA, además de formación transversal de funcionarios y de equipos multidisciplinarios para enfrentar nuevas tecnologías como los agentes autónomos.
“No basta con que algunas instituciones cuenten con infraestructura avanzada o equipos especializados si otras mantienen sistemas más vulnerables o carecen de capacidades para identificar y gestionar nuevos riesgos tecnológicos (…) El uso de tecnología ya no puede quedar concentrado únicamente en las áreas técnicas, porque sus riesgos y efectos atraviesan a toda la institución”, afirmó.
Acciones coordinadas
Vera dijo que se necesita una respuesta coordinada del Estado y “no solo acciones aisladas”, para abordar el avance de los agentes de IA. Para ello, planteó que la Agencia Nacional de Ciberseguridad (ANCI) establezca estándares obligatorios de resiliencia, monitoreo y respuesta frente a automatizaciones masivas y que la Secretaría de Gobierno Digital los traduzca en una arquitectura común para las plataformas públicas.
Agregó que esta acción debería incorporar una “identidad diferenciada para agentes”, interfaces de programación de aplicaciones (API) oficiales, límites de uso, colas de procesamiento, eliminación de la duplicación -copias repetidas de información-, trazabilidad y separación de servicios críticos.
En materia de inversión, el académico propuso que la Dirección de Presupuestos (Dipres) y el Gobierno Digital podrían priorizar proyectos de modernización tecnológica, como centros de monitoreo, orden de los datos, continuidad operacional y sumar talento especializado en IA, mientras que ChileCompra tendría que elevar las exigencias de seguridad, auditoría, pruebas de carga y control de datos a los proveedores del Estado.
Para Vera, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (CTCI) debe continuar desarrollando políticas, metodologías de evaluación de riesgos y capacitación en IA, pero que “la aplicación práctica debe quedar en manos de cada servicio público”.
En tanto, el director ejecutivo de la Asociación de Legaltech de Chile (Altech), Esteban Ruiz, propuso que el Poder Judicial cree canales especiales para ingresos automatizados y consultas masivas, con mecanismos de autenticación y autorización, además de procedimientos de enrolamiento para usuarios y limitaciones de acceso.
También dijo que la Oficina Judicial Virtual “debe evolucionar” hacia una arquitectura capaz de interactuar con sistemas automatizados -como agentes de IA- y que la institución defina una “política integral” de uso de lA y automatización, y “reglas claras para las operaciones de alto volumen”.
En esa línea, Nudman comentó que, en el caso del Poder Judicial, la Ley Marco de Ciberseguridad le exige adoptar medidas de seguridad sobre sus redes y sistemas informáticos y faculta a la Corte Suprema para dictar normativas para estos efectos.
La abogada añadió que, a partir de “estándares mínimos comunes”, cada institución pública debería desarrollar reglas específicas según sus funciones, las tecnologías utilizadas y los riesgos que enfrenta.
