Los invitamos a leer la columna de opinión de nuestra asociada senior az Tech, Antonia Nudman, quien analiza cómo el fallo contra Meta y YouTube impulsa nuevas exigencias regulatorias sobre algoritmos e inteligencia artificial.
El reciente fallo que declaró negligentes a Meta y a YouTube marca un punto de inflexión en la forma en que entendemos nuestra relación con las plataformas digitales. Por primera vez, un tribunal reconoce que el diseño de estos servicios, caracterizado por algoritmos de recomendación, scroll infinito y mecanismos de refuerzo conductual, no es neutral, sino que puede generar efectos nocivos, particularmente en menores de edad.
Este cambio no es aislado. Como ha ocurrido en otras industrias —como el alcohol, el tabaco o los alimentos—, la discusión comienza a desplazarse desde la responsabilidad individual del consumidor hacia la responsabilidad de quienes diseñan y operan estos sistemas. Ya no se trata únicamente de cómo usamos la tecnología, sino de cómo está concebida para influir en nuestro comportamiento.
En este contexto, resulta especialmente relevante observar el avance del proyecto de ley que regula los sistemas de inteligencia artificial en Chile. Aunque aún en tramitación, su lógica se alinea con esta nueva mirada: no basta con regular el uso de la tecnología, sino que es necesario intervenir en su diseño, imponiendo estándares de transparencia, evaluaciones de riesgo y prohibiciones respecto de ciertos usos considerados inaceptables.
En particular, los requisitos de transparencia que buscan que los usuarios comprendan cuándo interactúan con sistemas automatizados y bajo qué lógica operan, adquieren una dimensión distinta a la luz de este tipo de fallos. Si los algoritmos son capaces de influir en decisiones emocionales y conductas, entonces la opacidad deja de ser una cuestión técnica para convertirse en un problema jurídico.
Asimismo, la discusión sobre usos prohibidos de la inteligencia artificial —como aquellos que puedan manipular el comportamiento de las personas o explotar vulnerabilidades— conecta directamente con lo que hoy se cuestiona en redes sociales. La línea entre recomendación y manipulación se vuelve cada vez más difusa, y precisamente ahí donde el derecho comienza a intervenir.
A nivel comparado, el Reglamento de Inteligencia Artificial de la Unión Europea ofrece una referencia relevante. Si bien su implementación efectiva aún es progresiva, su enfoque basado en riesgos, junto con la identificación de usos prohibidos y obligaciones reforzadas para sistemas de alto riesgo, permite anticipar hacia dónde se dirige la regulación internacional.
En ese sentido, observar cómo este marco impacta a las plataformas tecnológicas en Europa será clave para proyectar sus efectos en otras jurisdicciones, incluido Chile.
De ello se sigue que el proyecto de ley chileno no solo impactará a quienes desarrollan sistemas de inteligencia artificial en sentido estricto, sino también a plataformas digitales cuyo funcionamiento descansa en sistemas algorítmicos intensivos. En otras palabras, la regulación de la IA podría terminar redefiniendo indirectamente la forma en que interactuamos con redes sociales.
Así las cosas, el fallo contra Meta y YouTube no es un caso aislado, sino parte de un cambio más profundo: el tránsito hacia un modelo de responsabilidad tecnológica, en el cual el diseño de los sistemas digitales deja de ser un espacio ajeno al derecho para convertirse en uno de sus principales focos de intervención.
Columna escrita por:
Antonia Nudman | Asociada Senior az Tech | anudman@az.cl
