¿Cómo creéis afectará la Inteligencia Artificial al diseño de experiencia de usuario (UX)?

¿Qué nuevas experiencias, productos y sistemas vamos a diseñar en este escenario de grandes datos y algoritmos de inteligencia artificial?

¿Cuáles creéis son los nuevos desafíos a los que se enfrenta el diseño de experiencias impulsados por algoritmos?

¿Qué nuevo framework nos va a posibilitar el diseño de estas nuevas experiencias?

El objetivo del artículo es presentar diferentes guías de diseño que estamos utilizando actualmente para ayudar a compañías a dar forma a un nuevo tipo de interacción Humano-IA (Inteligencia Artificial).

Los datos y la inteligencia artificial condicionarán la forma en la que pensamos, vemos el mundo y nos comportamos. En este nuevo escenario, vamos a necesitar nuevos patrones de diseño que nos permitan una nueva relación con los algoritmos.

La semana pasada, @Osfa_11, compartía este tweet que reflejaba, de forma brillante, el desafío actual de diseñar tecnologías que puedan extender nuestras inteligencias.

“The myth of machines becoming smarter than humans… Some days I think it should be rather easy; probably there are already plenty of them. Challenge would actually be making us humans smarter as a whole…¿? @francastillo”

Tenemos la responsabilidad como diseñadores de multiplicar las imágenes de futuros e incorporar nuevas visiones y dimensiones de diseño que hagan de estas tecnologías de inteligencia artificial, tecnologías más empáticas, más humanas.

Diseños de escenarios que nos permitan construir artefactos y productos que faciliten un desplazamiento del diseño de soluciones y sistemas que operan, exclusivamente, en un escenario de automatización (more automation, less choice – anticipatory design), en el que las inteligencias que se despliegan, son inteligencias delegadas, a sistemas de diseño que extiendan o amplifiquen nuestras capacidades humanas.

Los datos y los algoritmos ya están modificando la forma, y la experiencia, con la que nos relacionamos con determinados sistemas digitales. El feed de Facebook, las listas de reproducción de Spotify, los algoritmos de recomendación de Amazon, son ejemplos, en los que los algoritmos imponen y condicionan la forma en la que interaccionamos con estos sistemas.

Guías para el diseño de sistemas de interacción Humano-IA :

Describe lo que el sistema IA hace.

Ayuda al usuario a comprender para qué ha sido diseñado el sistema de inteligencia artificial, qué funcionalidad, en particular, nos va a proveer y cómo va a generar el output.

La aplicación debe ser transparente respecto a los datos que el sistema de IA va a necesitar y cómo se va hacer uso de ellos. Permitir al usuario acceder a una explicación, sobre cómo el algoritmo genera el output. Esto no significa, en ningún caso, que tengamos que describir, por ejemplo, cómo funciona una red neuronal recurrente, pero sí, deberíamos describir, de forma visual y muy sencilla, lo que hace el algoritmo y qué fuentes de datos utiliza.

Genere confianza en el usuario abriendo el sistema de IA.

Ejemplos de aplicación :

[Producto Scoring Financiero]. 

Facilitar al usuario un nivel de interacción que pueda describir, de forma detallada, cómo ha sido generado un determinado score, y qué variables han tenido una mayor influencia en el resultado. Sugiere una lista de acciones para que el usuario pueda mejorar su score.

[Producto de Recomendación X]. 

Describe al usuario por qué el sistema de IA ha hecho una determinada recomendación. En la actualidad, los productos impulsados por algoritmos de IA no están proporcionando información sobre por qué un determinado artículo, canción o serie ha sido recomendada.

Más Información : 

Nuevos Patrones de Diseño para una mayor Transparencia de Datos.

Algoritmos Transparentes e interpretables.

La Inteligencia Artificial comete errores.

Ayuda a los usuarios a comprender en qué escenarios el sistema de IA puede cometer un mayor número de errores. 

Diseñar con algoritmos de Inteligencia Artificial supone diseñar para muchos resultados diferentes.

Si los algoritmos de machine learning pueden, también, ser entendidos como un nuevo tipo de bug, ¿Qué nuevas experiencias de usuario y patrones de diseño vamos a implementar para hacer frente a estos nuevos escenarios (errores) que pueden generar fricciones o incluso ser no agradables? 

Nuestro sistema de IA no debería pretender ser siempre «inteligente», y proveer de una solución para todo, debe también, poder exponer sus propios límites de una manera transparente y honesta. No pretendamos que nuestro producto pueda tener una respuesta para todo.

Ejemplos de aplicación :

[Producto Asistente Nutricional].  

Facilite la edición del sistema de IA. Provea al usuario con una interfaz que permita la edición, retroalimentación y mejora, del asistente digital cuando, éste, cometa un error. 

Debemos informar, de forma explícita, al usuario cuando el resultado, recomendación y/o contenido haya sido generado por un algoritmo. Diferenciemos visualmente el contenido generado por una IA. 

Más Información : 

We Need New Design Patterns for Trust in AI Algorithms.

Data Forgiveness. Machine learning as a new type of bug.

Ayuda al usuario a crecer.

Ayude al usuario, siempre que esté interesado, a explorar otros escenarios de valor.

La inteligencia artificial se adaptará, de forma dinámica, al comportamiento cambiante de cada uno de los usuarios de nuestra aplicación.

Si el devenir de la interacción humano-algoritmo está influenciada con lo aprendido en las primeras interacciones del usuario con el sistema, esto dificultará la mejora de la experiencia. Esto es ideal para tareas que requieren previsibilidad, donde es necesario que el sistema de IA sea efectivo. Pero, para otras tareas, esto, puede limitar nuestro conocimiento. El sistema de aprendizaje proporcionará un conjunto de opciones limitado, a nuestro espacio de referencias, a nuestra zona de confort.

Ejemplos de aplicación :

[Producto Feed de Noticias].  

Facilitar al usuario, la posibilidad, que pueda modificar, en un determinado momento, la interfaz para ofrecer formas de escapar de su bubble filter.

Imaginad que pudiésemos modificar, desde la interfaz, el algoritmo de twitter, interfiriendo en la forma en la que provee información en nuestro timeline.

¿Qué variables tienen más relevancia poder modificar para explorar otros territorios de información, que vayan más allá de nuestro bubble filter?

Estas funcionalidades podrían ser activadas, y desactivadas, cuando el usuario considerase oportuno, facilitando nuevos espacios de aprendizaje.

Más Información : 

Productos de Datos e Inteligencias Aumentadas.

Mostrar información contextual.

Muestra al usuario información relevante, y complementaria, en función del tipo de tarea que está llevando a cabo.

Ejemplos de aplicación :

[Producto Search]. 

Haciendo una búsqueda sobre un determinado artista, el sistema puede proveernos con información contextual sobre libros y exposiciones relacionadas con la búsqueda y que, además, se encuentran cerca de nuestra localización.

Aprende del comportamiento del usuario.

Recuerda las interacciones recientes y personaliza la experiencia en función de los datos de comportamiento del usuario. 

A medida que el sistema de IA conoce al usuario, el servicio podrá automatizar un mayor número de procesos, pero, es importante que haya un proceso de aprendizaje gradual, en el que el usuario pueda comprender el funcionamiento del algoritmo. Este tipo de interacción gradual es la que nos posibilitará confiar en la IA.

Ejemplos de aplicación :

[Producto de Detección de Anomalías].

El sistema de IA detecta una anomalía y muestra, al usuario, una alerta sobre una nueva situación de rotura de stock de un determinado material. El asistente digital provee una recomendación basada en casos similares en el histórico de datos y describe su recomendación citando otros ejemplos similares en el pasado. Explorando otros casos similares en el pasado, el usuario, puede comprender la lógica detrás de la propuesta recomendada y puede confirmar, por su experiencia, que la recomendación es correcta.

A través del diseño de esta interacción humano-IA, el usuario considerará que su asistente es lo suficientemente competente para detectar este tipo de anomalías en los datos y ya está preparado para adoptar un nivel de automatización más avanzado.

Más Información : 

We Need New Design Patterns for Trust in AI Algorithms.

Permita al usuario proveer feedback sobre el output de la IA.

Diseña un nivel de interacción que permita al usuario proveer de feedback sobre el resultado que genera el sistema IA.

La experiencia de usuario, de los productos que integran algoritmos de inteligencia artificial, mejorará en la medida en la que haya más datos en el sistema. Una mejor experiencia de usuario estará influenciada por el diseño de sistemas que nos permitan proveer feedback sobre el proceso de aprendizaje.

Describa cómo la interacción del usuario afecta al comportamiento futuro del sistema de IA.

Ayuda a los usuarios a comprender cómo la forma en la que interactúan con el producto y/o algoritmo tendrá un impacto en el tipo de output que recibirán.

Ejemplos de aplicación :

[Producto Recomendación Libros].

La interfaz de un sistema de recomendación de libros debe de poder diseñar un nivel de interacción que permita al usuario, por cada libro recomendado, poder confirmar si esta información es, o no, relevante.

Cuando el usuario indique, por ejemplo, que el libro recomendado es de su interés, podría aparecer una información describiendo que recibirá otras recomendaciones similares.

Indique al usuario, con un mensaje o una descripción visual, que confirme que el sistema aprenderá del mi desestimación o acción de guardar.

[Producto Redes Sociales].

Permite al usuario ocultar un anuncio recomendado por el sistema y, al hacerlo, solicita feedback para poder mejorar la relevancia de futuros anuncios.

Proporcionar un control global.

Debemos permitir al usuario el control, y la personalización, sobre qué tipo de datos está monitorizando el sistema de IA.

El diseño de un sistema de interacción Humano-IA debe contemplar lo siguiente :

Tus datos son tuyos.

Tu deberías de tener, en todo momento, el control de tus datos.

Tu deberías de obtener el principal beneficio de compartir tus datos.

La minimización de datos es crítica en el diseño de estos nuevos sistemas Humano-IA. El concepto de minimización de datos hace referencia al uso de la información estrictamente necesaria para cumplimentar una funcionalidad, es decir, no agrega datos complementarios para usos derivados.

Determine exactamente qué datos necesitas del usuario. Si necesitas recopilar nuevos datos, solicite permiso explícitamente y describa para qué los va a utilizar y durante cuánto tiempo necesita conservarlos. 

Ejemplos de aplicación :

[Producto Banca Digital]. 

La interfaz va a solicitar de forma explícita los datos que necesita para proveer una determinada funcionalidad, permitiéndonos comprender, por qué necesita esos datos y como va hacer uso de ellos.

Imaginad, por ejemplo, que un determinado banco digital va a implementar, en su aplicación, una funcionalidad para proveer ofertas personalizadas basadas en la localización.

La interfaz solicitaría la siguiente información :

Estos son los datos que vamos a necesitar :

Tu localización actual.

Porqué necesitamos estos datos :

Para poder facilitarte ofertas personalizadas basadas en tu localización.

Lo que obtendrás a cambio de poder compartir estos datos:

Recibirás ofertas que te ayudarán a mejorar tu salud financiera.

Cómo vamos a hacer uso de tus datos :

Solamente el banco tendrá acceso a tus datos, no serán anonimizados ni compartidos con terceros. (Data minimisation).

Utilizaremos estos datos exclusivamente para esta funcionalidad.

Duración:

Indicar el número de días que quiero tener acceso a esta funcionalidad.

Más Información :

Nuevos Patrones de Diseño para una mayor Transparencia de Datos.

Notificar a los usuarios sobre los cambios en el algoritmo.

Informa al usuario cuando el sistema de IA actualize sus reglas de funcionamiento y describa cómo estas nuevas reglas influyen en el resultado proporcionado.

Ejemplos de aplicación :

[Producto Redes Sociales]. 

Evitar la percepción de desconfianza, por parte del usuario, cuando el algoritmo incorpora actualizaciones constantes sin notificar lo que ha cambiado.

Notifica al usuario cuando el algoritmo de rankeo de contenido del feed de noticias cambie, describiendo qué variables influyen, ahora, en la información priorizada por el algoritmo.

Este artículo se engloba dentro de un framework que hemos propuesto, desde la consultora data-driven futures, para el diseño de nuevos productos impulsados por algoritmos de Inteligencia Artificial. 

Aquí puedes acceder a nuestra Publicación con Guías para el diseño de sistemas de interacción Humano-IA.

Categorías

#UX for Machine Learning #UX for Human-centered Machine Learning #UX of AI

Referencias

Guidelines for Human-AI Interaction by Saleema Amershi, Dan Weld, etc. 

Evolución del Producto Digital en el contexto del Big Data.

Inteligencia Diseñada – Yusef Hassan Montero.

Data Forgiveness. Machine learning as a new type of bug. 

Nuevos Patrones de Diseño para una mayor Transparencia de Datos.

We Need New Design Patterns for Trust in AI Algorithms.

Por qué la automatización no es suficiente en un escenario de Transformación Digital y Grandes Datos.

Productos de Datos e Inteligencias Aumentadas.

¿Te gustaría tener acceso a los artículos que publiquemos? Suscríbete a la newsletter!


Avatar
Posted by:Fran Castillo

@francastillo

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *