María Fernanda Varillas
El Sernac recientemente ha dictado los lineamientos que deben seguir las empresas para el uso correcto de los sistemas de inteligencia artificial. De esta manera se busca garantizar el resguardo de la información de los usuarios y evitar la implementación de patrones oscuros del eCommerce que puedan manipular a los consumidores.
La inteligencia artificial y los riesgos que conlleva
Los sistemas de inteligencia artificial se encuentran integrados en diversas páginas o aplicaciones que solemos encontrar en nuestra cotidianidad. Por ejemplo, aquellas aplicaciones que recomienda algún tipo de video, película o música; también en aquellos que autocompletan frases, el uso de asistentes de voz y hasta algunas notificaciones de las redes sociales.
La finalidad de la inteligencia artificial está en realizar predicciones de comportamiento, brindar recomendaciones e influir sobre las decisiones de las personas, ya sea en el entorno digital o real.
Esta tecnología con el uso adecuado puede resultar de gran beneficio para los consumidores ya que permite automatizar algunas tareas y comparte ofertas que se encuentran basadas en las preferencias o necesidades de cada persona. De esta forma las marcas ofrecen un servicio mucho más personalizado.
Sin embargo, el uso inadecuado de estas herramientas puede acarrear una serie de patrones oscuros del eCommerce. Algunas consecuencias que se pueden observar son:
- Que exista ausencia de claridad sobre cómo se utiliza la información recopilada.
- Riesgo de abuso y manipulación.
- Se pueden generar resultados que resulten discriminatorios.
- Mal uso de los datos personales.
“La utilización de la inteligencia artificial puede profundizar asimetrías en perjuicio de los consumidores” así lo afirmó Lucas del Villar, director del Sernac.
Sernac previene los patrones oscuros del eCommmerce
El Sernac por medio la circular interpretativa busca adelantarse a eventuales riesgos que pueden aparecer al utilizar la inteligencia artificial y establece principios de resguardo de derechos a los consumidores. Por esta razón todas las empresas eCommerce en Chile deberán cumplir con:
- La Ley del Consumidor, en relación a la entrega efectiva y transparente de la información.
- Se prohíbe cualquier tipo de discriminación arbitraria.
- Se requiere el resguardo de la libertad de elección.
- Asegurar la seguridad en el consumo de algún servicio o producto.
- Proteger los datos personales de los consumidores.
Es por este motivo que hora las empresas que cuentan con sistemas de inteligencia artificial deberán informar de forma clara y oportuna cuando el consumidor se encuentre interactuando con esto y no con un ser humano.
Para prevenir los patrones oscuros del eCommerce las empresas deberán presentar la información clara y comprensible sobre cuál es el objetivo de los sistemas de inteligencia artificial implementados. Además de explicar cuál es su injerencia dentro del proceso de contratación, las condiciones mínimas por las que funciona y cómo se interrelaciona el sistema con el consumidor, en el caso que aplique.
Importancia de la protección de los datos personales
Por medio de las inteligencias artificiales las empresas tienen la capacidad para recopilar una gran cantidad de información personal de cada uno de los usuarios. Esto resulta invasivo a la privacidad de las personas y por esto la circular interpretativa del Sernac busca proteger los datos personales de los usuarios.
Con estas normativas ahora las empresas de eCommerce en Chile deberán tener la aprobación de los usuarios para recopilar su información. Este consentimiento ahora para que sea válido deberá estar expresado por escrito y también se le dará la opción al titular de remover dicha autorización.
Por medio de esta circular ahora los comercios digitales serán mucho más transparentes, respetuosos y no discriminatorios. Con la prevención de los patrones oscuros del eCommerce se generará una mayor confianza en el mercado y el mejor desarrollo de los sistemas de inteligencia artificial.
Imagen: Freepik