El séptimo componente de diseño que quería compartir es Design for Explainable Artificial Intelligence, donde analizaré la importancia de diseñar soluciones digitales que nos permitan una relación más transparente con los algoritmos.

Aquí podéis acceder al artículo de introducción, donde describía el framework, con 11 componentes de diseño, para idear productos digitales en el contexto del Big Data y de la Inteligencia Artificial.

Algunas de las ideas que me gustaría describir en este post :

¿Por qué deberían los productos digitales que diseñemos integrar algoritmos que sean más interpretables, comprensibles y transparentes?

¿Por qué lo relevante, en la actualidad, no debería de ser el output del modelo, sino entender el por qué un algoritmo está generando un determinado output?

¿Por qué necesitamos interfaces que nos posibiliten otra relación de mayor transparencia con los algoritmos? ¿Necesitamos interfaces que nos posibiliten una mayor comprensión sobre nuestros patrones de comportamiento, facilitándonos una mejor y consciente toma de decisiones? o, ¿Esto no es relevante?

Mientras la mayoría de los expertos, en la industria del Big Data y la Ciencia de Datos, tienen como objetivo último la construcción de algoritmos que tengan la máxima precisión, al mismo tiempo, es común, que estos expertos ignoren el por qué un algoritmo está generando un determinado output. Los resultados de un algoritmo de Inteligencia artificial son, con frecuencia, percibidos como black boxes. 

En la actualidad, los usuarios de servicios digitales están recibiendo continuamente recomendaciones de algoritmos basados en sus patrones de comportamiento pero sin embargo, desconocen cómo se están generando estas recomendaciones. Estos algoritmos de machine learning no están proporcionando un razonamiento. Por supuesto, no va a ser necesario mostrar el funcionamiento del algoritmo al usuario pero sí será importante transparentar qué datos están siendo usados y el cómo se está generando un determinado output.

La transición hacia un entorno de Explainable Artificial Intelligence se acelerará principalmente a través de dos factores :

El primero es la demanda creciente, por parte de los usuarios, de la necesidad de transparencia en las decisiones que están tomando los algoritmos de inteligencia artificial.

Y el segundo, la necesidad de poder tener una mayor confianza en los algoritmos. 

Proyectos de analítica avanzada, como el de Scoring, son casos de uso muy extendidos en la industria de servicios financieros, seguros y telecomunicaciones. Este caso de uso utiliza algoritmos de machine learning para asignar, a cada cliente, un score basado en sus datos históricos, con el objetivo, entre otros, de poder determinar la probabilidad de que un determinado cliente abandone la compañía o haga efectivo el pago de un préstamo bancario concedido.

En estos casos de uso, el algoritmo es una caja negra de la que sólo extraen valor las compañías, impidiendo al usuario poder activar sus propios datos. Si evolucionamos hacia un escenario en el que la mayoría de interacciones entre compañías y clientes estarán mediadas por algoritmos, vamos a necesitar que las compañías diseñen nuevas interfaces que nos permitan una mayor confiabilidad en los algoritmos. 

Quería presentaros un servicio digital que opera en este nuevo escenario de diseñar productos digitales que provean mayor interpretabilidad de los datos y los algoritmos y que posibiliten una mayor información y conocimiento al cliente. Además, esta transparencia, por parte de las compañías tecnológicas, se traducirá en una mayor confianza de los usuarios.

Credit Karma es una aplicación digital que provee al usuario, de forma completamente transparente, su score bancario basado en datos de su historial. A través de su producto, provee al usuario de información sobre qué tipo de datos y parámetros afectan a su credit score y sobre todo, qué puede hacer para mejorarlos. En esta solución, la explicabilidad del algoritmo hace referencia a la forma en la que éste procesa los datos y la importancia que tienen cada uno de los parámetros en la generación del score bancario. 

Algunos de las parámetros que describe el algoritmo : Uso de la tarjeta de crédito, Porcentaje de pagos que ha realizado a tiempo, Marcas derogatorias, Edad promedio de sus cuentas abiertas, Total de cuentas abiertas y cerradas, Número de veces que solicitó crédito. Cada parámetro describe el impacto que tiene en la generación del score.

En el próximo post compartiré el octavo componente, Design for emotional AI, donde exploraré si el diseño de experiencias hiper personalizadas, basadas en datos puede permitir mejorar el engagement compañía-cliente.

Avatar
Posted by:Fran Castillo

@francastillo

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *