Patrones adictivos y el Reglamento Europeo de Inteligencia Artificial

El pasado 10 de julio la Agencia Española de Protección de Datos publicó un informe donde analiza los conceptos y técnicas utilizadas por plataformas y servicios digitales para aumentar el tiempo de conexión del usuario, su compromiso y datos personales compartidos con dichas plataformas y servicios.

¿Qué es un patrón adictivo? El informe de la AEPD lo define como: «Una característica, atributo o práctica de diseño que determina una manera concreta de utilizar plataformas, aplicaciones o servicios digitales que persigue que los usuarios dediquen mucho más tiempo a utilizarlos o con un mayor grado de compromiso del esperado, conveniente o saludable para ellos».

Clasificación de patrones adictivos. A alto nivel pueden clasificarse en:

• Acción Forzada: consiste en ofrecer a los usuarios algo que desean, exigirles que hagan algo a cambio o engañarlos para que lo hagan de una manera que pueda causarles un perjuicio, ya sean conscientes o no.
• Ingeniería Social: consiste en ofrecer a los usuarios algo basado en sus sesgos cognitivos o tendencias de comportamiento (anclaje, aversión a la pérdida, etc.) para manipularlos y llevarlos a tomar decisiones no intencionadas, involuntarias o incluso potencialmente dañinas para ellos.
• Interferencia en la interfaz: manipular la interfaz de usuario para promover unas acciones específicas sobre otras o para llamar la atención del usuario sobre contenidos o actividades específicas.
• Interferencia en la interfaz: manipular la interfaz de usuario para promover unas acciones específicas sobre otras o para llamar la atención del usuario sobre contenidos o actividades específicas.

¿Patrones adictivos mediante sistemas de Inteligencia Artificial? Si bien es cierto que la definición que nos traslada la AEPD sobre los patrones adictivos no está vinculada al uso de una concreta tecnología, más allá del contexto digital, resulta interesante la cuestión que arroja la propia Agencia sobre la implantación de dichos patrones mediante sistemas de Inteligencia Artificial.

En este sentido, la AEPD considera que en caso de que tales patrones estuvieren relacionados con técnicas subliminales, manipulativas, engañosas o que exploten vulnerabilidades de personas físicas o grupos de personas (especialmente su edad) con el objeto de afectar las decisiones o el comportamiento de una persona y provocarle un perjuicio, podríamos estar ante lo supuestos de sistemas de IA prohibidos en los términos del artículo 5 del Reglamento Europeo de Inteligencia Artificial.

Acceso al informe: https://www.aepd.es/guias/patrones-adictivos-en-tratamiento-de-%20datos-personales.pdf

Jordi Morera
Govertis, parte de Telefónica Tech.