Un aspecto que tomó protagonismo fue el enfoque de género como pilar sustancial en el ámbito regulatorio de los sistemas de IA.
El 14 de octubre de 2024, el Gobierno ingresó indicaciones al proyecto de ley que Regula los Sistemas de Inteligencia Artificial (Ver Boletín N°16821-19).
Estas recomendaciones sugeridas buscan crear un marco regulatorio robusto, integrando principios de derechos de autor, género, y respeto por la privacidad con un enfoque en la seguridad y la ética en el uso de la IA.
A continuación, abordamos los aspectos más relevantes:
- Restricción al ámbito de aplicación de la ley
Se establece expresamente que las disposiciones de la ley no serán aplicables a sistemas de IA utilizados exclusivamente por usuarios finales.
- Definiciones
Se complementan y eliminan ciertas definiciones originales. Además, se define el sistema de IA de uso general como:
“Sistema de IA capaz de realizar funciones de aplicación general y tener múltiples usos, tanto previsibles como no previsibles, como el reconocimiento de imágenes, reconocimiento de voz, procesamiento de audio, generación de video, detección de patrones, respuesta a preguntas, traducción, entre otros.”
- Principios aplicables a los sistemas de IA
Se complementa el principio de diversidad, no discriminación y equidad, incluyendo expresamente los actos tendientes a evitar efectos discriminatorios, pero también «ilegales o arbitrarios». Asimismo, se incorporan dos nuevos principios vinculados al enfoque de género y a los derechos de autor y conexos.
- Enfoque de género
Una de las indicaciones que tomó más protagonismo fue la que posiciona el enfoque de género como pilar sustancial en el ámbito regulatorio de los sistemas de IA. Así, fomentar la igualdad de género debiera convertirse en uno de los objetos intrínsecos de la norma. Este principio se incorpora en los siguientes términos:
“Igualdad de género: se propenderá a que los sistemas de IA se desarrollen y utilicen como una herramienta para la promoción de igualdad de género y para la eliminación de cualquier discriminación basada en el género. Los datos utilizados para entrenar los sistemas deberán estar libres de sesgos de género, y los algoritmos deberán diseñarse de manera tal que eviten la reproducción de las desigualdades de género existentes”.
- Derechos de autor y conexos
Se agrega un nuevo principio en esta materia:
“Los sistemas de IA se desarrollarán y utilizarán en estricto apego a la regulación de derecho de autor vigente y a los tratados internacionales suscritos y ratificados por Chile que regulan la materia”.
Además, se modifica la excepción del artículo 31, vinculada a la Ley N°17.336, indicándose que es lícito, el uso de obras publicadas de forma legítima para minería de textos y datos sin fines lucrativos y para investigación.
- Adición de nuevos usos de sistemas de IA de riesgo inaceptable
Se identifican nuevos sistemas de IA inaceptables, como aquellos que manipulan subliminalmente o que explotan vulnerabilidades humanas,
También se prohíbe la categorización biométrica de personas y otros sistemas invasivos, salvo excepciones terapéuticas autorizadas.
- Sistemas de alto riesgo
Se suman nuevas limitantes a este tipo de sistemas de IA, que hacen referencia al respeto de los derechos fundamentales y la prevención de creación de estereotipos, incluyendo distintos factores tales como el género o la degradación de las personas.
Además, se incorporan nuevas reglas para legitimar su uso, incluyendo el respeto a la ley, la igualdad de género, la democracia y la proporción adecuada en la determinación de riesgos en los mecanismos de supervisión humana.
- Multas y sanciones
Se mantienen las sanciones originales del proyecto, pero se agrega un factor adicional para tener en consideración en el grado de determinación de la multa: “El rol especifico que cumple el proveedor, implementador, representante autorizado, importador y/o distribuidor en la cadena de valor de la inteligencia artificial”.
En conclusión, será importante estar atentos a los futuros avances de este proyecto, el que, esperamos, tenga una tramitación expedita, especialmente para complementar las nuevas normativas en protección de datos personales y ciberseguridad.
Sin duda, estas tres regulaciones se estructurarán como una verdadera triada de cumplimiento digital en nuestro país, replicando los mejores los estándares internacionales.
Para obtener más información sobre estos temas, pueden contactar a:
Eugenio Gormáz | Socio | egormaz@az.cl
Ivonne Bueno | Directora az Tech | ibueno@az.cl
Antonia Nudman | Asociada Senior | anudman@az.cl
Carlos Lazcano | Asociado Senior | clazcano@az.cl
Fernanda Rodríguez | Asociada | frodriguez@az.cl
Esteban Orhanovic | Asociado | eorhanovic@az.cl
