Chile: el SERNAC publica una circular sobre protección de los consumidores frente a los riesgos de la inteligencia artificial

El documento reconoce que, en el marco de las relaciones de consumo, los sistemas de IA entregan una serie de beneficios y permiten automatizar procesos, sin embargo, también reconoce que estos sistemas pueden generar diversos desafíos y riesgos de cara al adecuado resguardo de los derechos de los consumidores.

Por lo anterior, la circular busca establecer un conjunto de criterios o lineamientos tendientes a una adecuada aplicación de distintas normas que dicen relación con derechos del consumidor, en aquellos casos en que un proveedor emplee sistemas de IA. Así, el documento trata específicamente 5 puntos relativos a la protección de los derechos de los consumidores en relación con el uso de IA:

1. Entrega de información veraz, oportuna y transparente

El proveedor debe proporcionar a los consumidores información significativa relativa al uso de sistemas de IA cuyas recomendaciones o decisiones influyan de manera sustantiva en alguna de las fases de la relación de consumo, o cuando constituyan un rasgo o característica relevante de los bienes o servicios ofrecidos.  Así, en términos generales, los proveedores deben presentar a los consumidores información con respecto a: (a) el objetivo o finalidad de los sistemas de IA empleados; (b) su injerencia en el proceso de contratación o de ejecución del contrato, en caso que corresponda; (c) la naturaleza de la interrelación del sistema de IA con el consumidor, en caso que corresponda (en particular, informar si el consumidor está interactuando con un sistema de IA y no con un ser humano, junto con las implicancias asociadas); y, (d) los datos personales que son tratados por el sistema, incluyendo los tipos de tratamiento que tienen lugar para llegar a una decisión por parte del sistema de IA y su finalidad. De igual manera, cuando un sistema de IA constituya un componente relevante de los productos que el proveedor vende o de los servicios que presta, deben informarse los instructivos de uso a condiciones mínimas bajo las cuales funciona dicho sistema.

2. Resguardo de la libertad de elección

El derecho de los consumidores a elegir libremente un determinado bien o servicio puede verse afectado por el uso de sistemas de IA, ya que el uso de algoritmos predictivos puede llegar a socavar la autonomía de los consumidores en sus elecciones de contratación, al presionar o manipular indebidamente su voluntad. Los consumidores pueden ser manipulados cuando sus decisiones están guiadas por un entorno digital que hace que ciertas opciones de consumo sean menos visibles o evidentes para ellos o que dirigen sus capacidades cognitivas pudiendo restringir o dirigir el entorno de elección y de información que está disponible. De esta manera, se fuerzan ciertos comportamientos (de interés del proveedor) en desmedro del consumidor. El uso manipulador de los sistemas de IA puede limitar la independencia de los consumidores, socavando la voluntariedad de sus actos de consumo y, en definitiva, el otorgamiento de un consentimiento válido. En consecuencia, el proveedor tiene el deber de no emplear estas tecnologías en desmedro del consumidor, de modo que no obste a la voluntariedad del acto de consumo ni afecte la validez jurídica de su consentimiento.

3. Seguridad en el consumo 

En vista de esta obligación general que recae sobre los proveedores en orden a brindar seguridad a los consumidores, los sistemas de IA empleados en el marco de una relación de consumo deben presentar estándares adecuados de precisión, fiabilidad y efectividad técnica, con el fin de obtener resultados fundados, basados en procedimientos fiables, evitando que estos causen un daño a los consumidores, ya sea material o inmaterial. En consecuencia, en la adopción de estas tecnologías, los proveedores deben evaluar en forma previa y continua los riesgos que pueden derivarse para los consumidores a partir del uso de sistemas de IA y verificar que estos sistemas funcionan óptimamente y no incurren en prácticas ilegales que atenten contra los derechos de los consumidores.

4. Prohibición de toda discriminación arbitraria 

Los consumidores tienen derecho a no ser discriminados arbitrariamente por parte de los proveedores de bienes y servicios, lo que implica que los proveedores no pueden negar injustificadamente a determinadas personas la venta de bienes o la prestación de servicios. Lamentablemente, los sistemas de IA pueden exacerbar los problemas de discriminación ilegal y/o de diferenciación injusta, como consecuencia de diversos factores, entre ellos: el procesamiento de datos personales incorrectos o caducos; el entrenamiento del modelo de IA en cuestión con bases de datos sesgadas o que carecen de representatividad o por deficiencias en el proceso de elaboración de perfiles, del que se derivan predicciones incorrectas. Asimismo, los sistemas de IA pueden ser empleados en prácticas de personalización de precios en perjuicio de los consumidores.

En consecuencia, en la implementación y uso de sistemas de IA, los proveedores deben resguardar adecuadamente el derecho a la no discriminación arbitraria, impidiendo que existan prejuicios o sesgos que limiten la igualdad de acceso y trato, con especial respeto de las personas o grupos potencialmente vulnerables o en riesgo de exclusión. El proveedor debe tomar las medidas necesarias con el objeto de asegurar que el uso de IA no cree ni perpetúe diferenciaciones injustas o discriminaciones ilegales.

5. Protección de los datos personales de los consumidores

Muchas veces la ejecución de los procesos propios de IA requerirá del tratamiento de datos de carácter personal. En estos casos debe tenerse en cuenta que todo tratamiento de información de carácter personal debe sustentarse en una base legal. Si la fuente de licitud que habilita al tratamiento de datos es el consentimiento del titular, se debe garantizar la obtención (y verificabilidad) de un consentimiento válido, esto es, específico, informado y expreso, sin entorpecer al titular de los datos el ejercicio del derecho a revocar dicha autorización.

Por otra parte, los datos personales se deben utilizar sólo para los fines para los cuales hubieran sido inicialmente recolectados e informados al momento de recabar el consentimiento del titular de los datos. En particular, estos fines o propósitos deben obedecer a la finalidad propia de la respectiva relación de consumo, lo que implica que los datos recolectados deben ser pertinentes, adecuados y conducentes a satisfacer la finalidad que motiva a contratar y en ningún caso debe ser excesivos.

Ahora bien, para la elaboración de perfiles los sistemas de IA utilizan información relativa a los comportamientos, preferencias o hábitos personales de los consumidores. Ello implica que se hace exigible para los responsables del tratamiento de dichos datos observar un deber especial de protección, por cuanto dicho tipo de información reviste la calidad de dato sensible. Por ello, la entidad responsable del tratamiento de datos personales debe aplicar medidas de seguridad que garanticen la confidencialidad, integridad y disponibilidad de los datos personales en cuestión.

Finalmente, al utilizar sistemas de IA que requieren el procesamiento de datos personales, los proveedores deben garantizar en todo momento el ejercicio de los denominados derechos ARCO, esto es, los derechos de acceso (o información), rectificación, cancelación (o eliminación), bloqueo y oposición que asisten a los titulares de los datos, sin entorpecer su ejercicio.