El décimo componente de diseño que quería compartir es Design for Data Forgiveness, donde exploraré la relevancia de poder idear nuevos patrones de diseño que nos permitan hacer frente a los potenciales errores que van a cometer los algoritmos que impulsan los servicios digitales que usamos.

Aquí podéis acceder al artículo de introducción, donde describía el framework, con 11 componentes de diseño, para idear productos digitales en el contexto del Big Data y de la Inteligencia Artificial.

Tradicionalmente hemos diseñado soluciones digitales que han tenido un output, user flows y experiencias de usuario predeterminadas. Sin embargo, diseñar con datos y algoritmos de machine learning es estar abierto a un cierto grado de indeterminación, imprecisión, de outputs o escenarios no predeterminados.

Si entendemos los algoritmos de machine learning como un nuevo tipo de bug, ¿Qué nuevas experiencias de usuario vamos a diseñar para hacer frente a estos nuevos escenarios que pueden generar fricciones o incluso ser no agradables? ¿Qué nuevos sistemas de feedback diseñaremos?

Desarrollar soluciones digitales en un escenario de machine learning es estar abierto a un nuevo tipo de errores. 

¿Qué nuevos patrones de diseño vamos a idear para hacer frente a estos potenciales sad path scenarios?

Hay diferentes ingredientes que pueden funcionar. Pensemos en cómo integrar el humor dentro de la experiencia de usuario o, como describíamos en el quinto componente, Design for data Trust, la importancia de diseñar interfaces en las que el algoritmo sea honesto, transparente y muestre sus propios límites, en lugar de pretender ser siempre “inteligente”.

¿Qué formas de interacción vamos a diseñar para que los usuarios puedan proveer de feedback al sistema?

A continuación, describo un ejemplo que evidencia la problemática de trabajar con algoritmos de aprendizaje automático en el diseño de servicios y productos digitales.

Una compañía de impresión digital de camisetas decide construir un algoritmo para generar, de forma automática, multitud de combinatorias del popular mensaje motivacional, creado por el gobierno del Reino Unido, “Keep Calm and Carry On”. El algoritmo de generación de textos automáticos estaba conectado a la plataforma de Amazon, de forma que todas las variaciones del mensaje (“Keep Calm and …”) eran publicadas en tiempo real. La denuncia por parte de los usuarios de Amazon que vieron la camiseta con este mensaje impúdico, provocó que Amazon rescindiese el contrato, traduciéndose en pérdidas millonarias para la compañía de impresión digital. Lo que evidencia esta situación, es la incapacidad de las empresas para hacer frente a estos escenarios generados de forma algorítmica.

Necesitamos explorar nuevos patrones de diseño que puedan hacer frente, desde la disciplina de UX, a estos escenarios potencialmente desagradables.

Exploraré, de forma más detallada, esta idea en siguientes artículos.

En el próximo post describiré el último componente de diseño – Design for behavioral change, donde describiré como en un contexto de grandes datos necesitaremos entender cuáles son los principales sesgos cognitivos y principios de Behavioral Economic que influyen en los procesos de toma de decisión.

Avatar
Posted by:Fran Castillo

@francastillo

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *