- La iniciativa contempla la creación de la Comisión Nacional de Inteligencia Artificial.
El pasado 12 de abril de 2023, un diputado presentó un proyecto de ley (PDL) que busca regular los Sistemas de Inteligencia Artificial (SIA), la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación. Si bien el PDL aún no aparece en los canales oficiales de la Cámara de Diputados, en este espacio expondremos sus principales consideraciones.
En primer lugar, la propuesta tiene como objetivo principal establecer un marco jurídico respecto de la Inteligencia Artificial (IA), principalmente en lo que se refiere al desarrollo, comercialización y utilización de este tipo de tecnologías.
Por ello, el PDL en su artículo 2º, define, entre otras cosas, lo que se entenderá por SIA. Indicando que será aquellos softwares que emplean (i) estrategias de aprendizaje automático, (ii) estrategias basadas en la lógica y el conocimiento y (iii) estrategias estadísticas.
Por otro lado se clasifican estos sistemas de acuerdo a su riesgo:
- Sistemas de IA de riesgo inaceptable: Son aquellos que pueden alterar el comportamiento de las personas o de grupos específicos de personas, empleando técnicas subliminales que trasciendan la consciencia para alterar sustancialmente su comportamiento de modo que provoque perjuicios físicos y psicológicos a esa persona u otras. También, ingresan en esta categoría, las utilizadas por autoridades para evaluar la fiabilidad de personas naturales en base a su conducta social o sus características personales con el fin de generar trato desfavorable. Por último, se mencionan, los de identificación biométrica remota en espacios de acceso público, exceptuando aquellos casos en que se utilicen para la prevención de una amenaza en específico o en caso de una identificación en un contexto penal.
- Sistemas de IA de alto riesgo: Corresponden a los sistemas destinados a identificación biométrica remota de personas en espacios privados y los utilizados en gestión de suministros básicos. También se incorporan aquellos que monitorean el acceso a establecimientos educaciones y evalúan estudiantes. Además, se mencionan los destinados a la evaluación y selección de trabajadores, los de calificación crediticia y aquellos encargados de determinar el riesgo de comisión de infracciones penales por personas determinadas, entre otros.
Además, el PDL contempla la creación de la Comisión Nacional de Inteligencia Artificial que cumplirá las siguientes funciones: (i) pronunciarse sobre las solicitudes de autorización presentadas por los desarrolladores, proveedores y usuarios de SIA, (ii) desarrollar recomendaciones para mejorar la regulación de los SIA, (iii) elaborar anualmente un informe sobre sistemas de IA, (iv) crear y mantener registro de SIA, y (v) pronunciarse sobre incidentes graves o defectos de funcionamiento.
Por otro lado, el PDL incorpora la obligación de solicitar autorización previa a la Comisión Nacional de Inteligencia Artificial para iniciar el desarrollo comercialización, distribución o utilización de un SIA, no pudiendo autorizarse las IA de riesgo inaceptable. En el caso de las IA clasificadas como de alto riesgo, estas pueden ser aprobadas por la comisión solicitando que se cumplan ciertos requisitos de manera anterior a su autorización, como contar con ciertos planes de gestión riesgos o plan de gestión de datos de entrada.
De la misma manera, se establecen ciertos deberes para desarrolladores, proveedores y usuarios de SIA. Por ejemplo, la obligación de garantizar que las personas que interactúen con una de estas tecnologías estén informadas respecto a esta situación, de informar que contenidos aparentemente auténticos han sido generados por una IA y notificar a la comisión en caso de incidente grave o defecto de funcionamiento.
Finalmente, el incumplimiento de las disposiciones del proyecto de ley por parte de desarrollador, proveedor y usuario es sancionado con 200 UTM a beneficio fiscal. Este monto puede ser duplicado en caso de omitir la notificación de incidente grave o presentar información inexacta, incompleta o engañosa a este respecto. Por último, las conductas de desarrollo, distribución, comercialización o uso de SIA de riesgo inaceptable son castigados con la pena de presidio mayor en su grado mínimo.
Para obtener más información pueden contactar a:
Francisca Franzani, Directora Grupo Compliance | Tech – ffranzani@az.cl
Constanza Pasarin, Asociada Grupo Compliance | Tech – cpasarin@az.cl
