El quinto componente de diseño que quería compartir es Design for Data Trust, donde exploraré la necesidad de diseñar soluciones digitales que nos posibiliten nuevas relaciones de mayor confiabilidad en torno a los algoritmos.

Aquí podéis acceder al artículo de introducción, donde describía el framework, con 11 componentes de diseño, para idear productos digitales en el contexto del Big Data y de la Inteligencia Artificial.

Algunas de las ideas que me gustaría explorar en este post :

¿Por qué es necesario que las compañías tecnológicas sean transparentes en la forma en la que están haciendo uso de los datos de los usuarios?

Si evolucionamos hacia un escenario en el que las interacciones, entre marcas y usuarios, estarán mediadas a través del diseño de tecnologías de inteligencia artificial (chatbots, asistentes digitales, etc) ¿Qué nuevos patrones de diseño, experiencias de usuario, van a posibilitar que podamos, como usuarios, tener una mayor confianza en los datos y en los algoritmos de estos servicios digitales? ¿Por qué deberíamos confiar en la recomendación de un determinado algoritmo?

En la actualidad, las compañías necesitan re-definir completamente la formas de relación con sus comunidades y construir nuevas servicios digitales que permitan otros tipos de relación de mayor confiabilidad, posibilitando un mayor engagement. En este escenario, necesitamos idear nuevos patrones de diseño que nos permitan confiar en la manera en la que estos servicios y productos digitales están haciendo uso de nuestros datos pero también, entender  la forma en la que estos algoritmos funcionan y nos están proveyendo recomendaciones.

Vladimir Shapiro propone tres dimensiones, que creo muy relevantes, para generar trust desde el diseño y UX:

Showing competence.

Being authentic & honest.

Being reliable.

Describiré tres historias de usuarios para intentar entender cada una de las dimensiones propuestas y cómo incrementar nuestra confiabilidad en los algoritmos :

Showing Competence.

Paul es retail manager y está probando un nuevo asistente digital pero aún no confía mucho en él. Paul recibe una alerta sobre una nueva situación de rotura de stock de un determinado material. El asistente digital provee una recomendación basada en casos similares en el histórico de datos y describe su recomendación citando otros ejemplos similares en el pasado. Explorando otros casos similares en el pasado, Paul puede comprender la lógica detrás de la propuesta recomendada y puede confirmar, por su experiencia, que la recomendación es correcta.

Paul considera que su asistente es lo suficientemente competente para detectar este tipo de anomalías en los datos y ya está preparado para adoptar el próximo nivel de automatización.

Being Authentic and Honest.

La segunda historia describe por qué un algoritmo o asistente digital debe ser honesto y mostrar también sus límites.

Como veíamos, Paul ya está familiarizado con el asistente digital y confía en sus recomendaciones, sobre todo en situaciones simples. En otros escenarios de mayor complejidad, Paul le pide recomendaciones a su asistente. Pero, ¿qué pasa si no hay suficiente información para que el asistente provea una recomendación de interés?

En lugar de pretender ser «inteligente», el asistente digital expone sus propios límites de una manera muy transparente, honesta y auténtica. El asistente hace preguntas apropiadas y finalmente juntos encuentran una solución.

Being Reliable.

Y para finalizar, la última historia de usuario.

Paul recibe una notificación sobre un problema en un proceso logístico. Su asistente no dispone de los datos suficientes como para ayudarle con una recomendación o solución concreta. En este escenario, el asistente considera que es el momento de activar su modo “I don’t know. Wait a minute” y lo conecta con un profesional experto.

Como veíamos en la historia de usuario anterior (Being Authentic and Honest), ser transparente con el usuario es una característica muy importante. En esta situación, el asistente no se rinde. En lugar de buscar otros problemas similares en el pasado, ajusta sus criterios y busca a profesionales expertos.

Por lo tanto, aunque el asistente digital no pudo proponer una solución específica, sí pudo conectar a Paul con otra persona para hacer un seguimiento correcto del problema detectado. En otras palabras, Paul puede confiar en su asistente digital para agotar todas las opciones disponibles que mejor se adapten a una posible solución.

En el próximo post describiremos el sexto componente, Design for data discovery, donde exploraremos la importancia de entender la tecnología, no solamente como una herramienta de eficiencia, sino también, como una herramienta para la exploración y descubrimiento de nuevos patrones e insights en los datos.

Avatar
Posted by:Fran Castillo

@francastillo

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *