El objetivo del documento es presentar diferentes principios de diseño que deberían poder guiar la formulación de cualquier propuesta de aplicación digital de rastreo de contactos (TACT. Technology-Assisted Contact-Tracing) en un escenario de COVID-19.

La propuesta está articulada a través del paper de Daniel Kahn Gillmor – Principles for Technology-Assisted Contact-Tracing.

Cualquier aplicación digital de rastreo de contactos afectados por el virus del COVID-19, va a requerir de nuevos esquemas y patrones de diseño que nos permitan un tratamiento de los datos más transparente y confiable. Existen ya, diferentes propuestas de TACT que apuntan a estos nuevos patrones de diseño, como son, DP-3T, PACT, TCN y la propuesta de Apple&Google.

Antes de describir los diferentes principios de diseño, me gustaría compartir algunas cuestiones que creemos relevantes para pensar en el desarrollo de estas nuevas soluciones de rastreo :

¿Requieren estas aplicaciones de rastreo, un permiso explícito del usuario para poder instalarlas? 

¿Puede una persona decidir no usar la aplicación sin ningún tipo de conflicto derivado? 

¿Existen fuertes limitaciones del uso de los datos para fines distintos a los de salud pública?

¿Garantiza la tecnología, que los datos serán eliminados cuando no sean necesarios para el control de la epidemia del COVID-19?

¿Existen políticas y patrones de diseño establecidas para garantizar que solo se recopile la información exclusivamente necesaria? ¿Está prohibido de forma explícita compartir datos con entidades externas?

¿Es la tecnología transparente sobre los datos que se adquieren, cómo se usan y quién tiene acceso a ellos?

¿Los sistemas de almacenamiento de datos serán descentralizados o centralizados?

10 Principios básicos para el diseño de aplicaciones de rastreo de personas en el contexto de contención de la epidemia COVID-19 :

01. Participación Voluntaria.

Cualquier uso de una aplicación digital de seguimiento de contactos, potencialmente afectados por el virus, requerirá de la voluntariedad del usuario en cualquier etapa del proceso de rastreo. 

Cualquier patrón de diseño TACT, será efectivo en proporción a su adopción por parte de la ciudadanía, y esta adopción, dependerá en última instancia, de la transparencia y confianza sobre el tratamiento de los datos que haga la aplicación.

La aplicación tendrá que detallar, de forma explícita, que datos personales serán registrados en el sistema, cómo se usarán y cómo serán protegidos.

El usuario decidirá de forma voluntaria :

Si instalar la aplicación de seguimiento en su teléfono.

Si llevar un teléfono con tecnología Bluetooth.

Si la App monitorizará su comportamiento en todo momento o podrá deshabilitarla durante los periodos, en los que el usuario no esté interactuando con otras personas, por ejemplo, cuando esté en casa o haciendo otra actividad aislada.

Si recibe una alerta debido a un contacto con una persona potencialmente expuesta a COVID-19, el usuario decidirá cómo reaccionar. Tendrá libertad para decidir selectivamente qué cantidad de registro de contactos (contact log) compartirá con la administración. Esto podría reducir el número de falsos positivos.

Si se diagnostica como infectado, el usuario decidirá si cargar su registro de contactos a la base de datos global.

El usuario podrá decidir, de forma voluntaria, si querrá que sus datos, anonimizados, formen parte de la base de datos para futuras investigaciones y análisis epidemiológicos.

02. Extender el Framework.

Una aplicación de seguimiento de contactos no podrá ser construida sólo por tecnólogos. Necesitamos extender el marco de trabajo e incorporar a profesionales de la salud pública y expertos en enfermedades infecciosas, de lo contrario, el proceso estará destinado a fallar.

Las tecnologías de detección de proximidad (Bluetooth, etc) no están capacitadas para evaluar, si la proximidad física detectada se traduce en un contacto epidemiológico. Por ejemplo, los dispositivos Bluetooth pueden indicar una proximidad entre individuos, pero sin embargo, éstos pueden estar en lados opuestos de una pared en la que un virus no puede cruzar.

¿Cómo vamos a determinar cuando dos teléfonos han estado lo suficientemente cerca, el uno del otro, como para ser médicamente relevante?

¿Cómo vamos a evaluar esta proximidad en términos de contacto epidemiológico? 

¿Qué datos deberían de activar una alerta por contacto?

¿La alerta se activará sólo si han estado cerca de alguien que ha experimentado síntomas de COVID-19 o sólo con personas que han recibido un resultado positivo acreditado con pruebas de laboratorio?

¿Cómo se priorizará la atención médica basada en el riesgo estimado detectado en la app?

La herramienta necesitará poder cambiar y adaptarse a cualquier circunstancia externa, así como tener los recursos para hacerlo de forma responsable.

La herramienta va a requerir de un marco de trabajo extendido con el soporte de diferentes expertos :

Profesionales de la salud pública.

Diseñadores UI / UX.

Epidemiólogos.

Criptógrafos.

Investigadores de seguridad.

Desarrolladores de software.

Administradores de sistemas.

03. Preservando la Privacidad y la Transparencia de Datos.

Los sistemas digitales de rastreo estarán diseñados, exclusivamente, para realizar la función relacionada con la salud pública de contener la evolución de la epidemia. En ningún caso, recopilaran datos complementarios, que no sean estrictamente necesarios para su propósito de salud pública.

Si recordáis, en nuestro Framework para diseñar Productos Digitales impulsados por algoritmos de Inteligencia Artificial. El cuarto componente es Design for Data Transparency, donde exploramos la importancia de incorporar nuevos patrones de diseño que faciliten una mayor transparencia de datos en la creación de productos digitales.

En este escenario de aplicaciones de rastreo :

Tus datos son tuyos.

Tu deberías de tener, en todo momento, el control de tus datos.

Tu deberías de obtener el principal beneficio de compartir tus datos.

Se deberán evitar el uso de datos que son controvertidos y de difícil anonimización (como los datos de localización). El diseño de aplicaciones, que preserven la privacidad, no debería de combinarse con sistemas que recopilan datos de difícil anonimización.

Cualquier identificador utilizado por el sistema no deberá estar vinculado a otros identificadores, incluidos no solo los números de teléfono y direcciones IP, sino también, otros identificadores anónimos. 

El sistema obligará a mantener los datos encriptados. Una aplicación de seguimiento de contactos (TACT), no debe nunca almacenar datos de localización con su timestamp correspondiente. En un posible escenario de filtrado de datos, esta información sería potencialmente desfavorable.

04. No Data Bias.

Hemos visto, durante los últimos años, sistemas tecnológicos de Inteligencia Artificial que afianzan, aún más, las desigualdades sociales. Diferentes ejemplos, como sistemas de reconocimiento facial, que tienen más probabilidades de identificar erróneamente a personas de color, o la asignación de créditos bancarios sesgados en función del sexo, etc.

El diseño de un sistema de rastreo de contactos asistido por algoritmos (TACT) deberá mitigar cualquier discriminación y desigualdad.

05. You Control Your Data Everywhere.

Las aplicaciones de seguimiento de contactos, con patrones de diseño privacy-unfriendly, están ya enviando una gran cantidad de datos a las autoridades centrales, dejando a los usuarios sin control sobre lo que sucede con estos datos una vez salen de sus dispositivos

Necesitamos nuevos patrones de diseño que faciliten un mayor control de nuestros datos. Estos patrones reducirán los riesgos derivados de la agregación de los datos por parte de la administración, como por ejemplo, que la administración decida utilizar esta información para controlar a las personas o incluso que esta información pueda verse técnicamente comprometida por terceros.

06. Data Minimization Everywhere.

¿Se está minimizando la recopilación de datos en las aplicaciones de rastreo? 

¿Recopila la aplicación solo la información que estrictamente necesita? 

Un patrón de diseño TACT que pretenda hacer frente a la totalidad de las pandemias futuras, necesariamente, requerirá recopilar información que no es necesaria para combatir la propagación del COVID-19. Este enfoque generalista, reduciría la confianza de los usuarios en el sistema, y la gestión de los datos adicionales desviaría los recursos de ingeniería necesarios para hacer la herramienta más efectiva y contrarrestar la actual epidemia.

La minimización de datos es crítica en el diseño de estos nuevos sistemas de rastreo de contactos afectados por el COVID-19, y debe de poder emplearse en cada paso del sistema de trackeo. El concepto de minimización de datos hace referencia al uso de la información estrictamente necesaria para cumplimentar una funcionalidad, es decir, no agrega datos complementarios para usos derivados.

¿Se destruirán los datos después de un período de tiempo?

Cualquier información almacenada en la base de datos deberá tener una fecha para la destrucción permanente de los datos, una vez que estos datos no sean epidemiológicamente relevantes.

La aplicación permitirá que el usuario pueda, de forma voluntaria, ceder sus datos anonimizados para futuras investigaciones y análisis epidemiológicos.

07. No Fuga de Datos.

Si los datos, en un patrón de diseño TACT, están disponibles por las autoridades centrales, y otros datos están disponibles en los dispositivos de los usuarios, ninguna de estas partes debe divulgar deliberadamente datos a partes no involucradas. En particular, se deberán fijar reglas legales y técnicas para evitar que otras instituciones puedan acceder a cualquiera de estas bases de datos. Se combinarán con sistemas para detectar dichos accesos, así como, sanciones claras y exigibles por hacerlo.

08. Midiendo el Impacto.

Un sistema digital de rastreo de contactos debe facilitar a las personas una manera de saber si está funcionando o no. Estas métricas no necesitan ser perfectas o exactas, pero debe haber una idea aproximada de si el sistema, en su conjunto, está ayudando a reducir la transmisión del virus.

Esto podría ser tan simple como contar con un dashboard público que describiese diferentes indicadores como : 

El número de alertas móvil por coincidencia con afectados COVID-19.

El número de descargas e instalaciones de la app. 

El número de contactos con el sistema médico a través de la app.

El número de autoaislamientos. 

El número de afectados detectados de forma temprana con la aplicación.

Deberían de publicarse detalles sobre cómo se está midiendo el impacto, y cuáles son las métricas agregadas que nos permitan entender cuáles son los beneficios colectivos de la adopción de una aplicación de rastreo.

09. Definir una Estrategia de Salida.

Un esquema de privacidad TACT dirigido a contener la epidemia del COVID-19, no debería durar más allá de esta enfermedad en particular. Cualquier patrón de diseño TACT responsable, deberá de tener medidas incorporadas para su eliminación gradual.

Esto quiere decir :

Saber hasta cuándo la aplicación ha sido útil e iniciar el cese del rastreo epidemiológico.

Saber cuándo parar debido a la falta de impacto efectivo.

Saber cómo apagar los servidores centrales de forma segura.

Poder desinstalar la app correctamente en los dispositivos de todos los usuarios.

Y para finalizar con este principio, definir políticas de destrucción y borrado de datos, una vez haya finalizado el seguimiento de la población.

10. Un Sistema Auditable.

Y para finalizar, el décimo principio contempla que los usuarios y comunidades que se enfrentan con la oportunidad de participar en un proceso de rastreo de contactos, como medida de contención de la expansión de virus, necesitan indicadores claros de que el tipo de tecnología involucrado es confiable y hace lo que debe de hacer.

El sistema de diseño será completamente transparente para su revisión y mejora por cualquier usuario y/o organización.

Se exigirá el uso de componentes desarrollados con tecnologías de código abierto.

Este documento se engloba dentro de un framework que hemos diseñado, desde la consultora data-driven futures, para el diseño de nuevos productos impulsados por algoritmos de Inteligencia Artificial. 

Aquí puedes acceder a nuestra Publicación con los Principios de Diseño para APPS de rastreo de contactos afectados por COVID-19.

Referencias.

Principles for Technology-Assisted Contact-Tracing. Daniel Kahn Gillmor.

Covid Tracing Tracker. A database to capture details of every significant automated contact tracing effort around the world.

They have mainly defined six parameters to classify the tracking apps : 

Voluntary, Limited, Data destruction, Minimized, Transparent and Tech used.

Covid Apps Database.

Tracking the tracers. They read the privacy policies of 48 contact-tracing apps for Covid-19. They’re often opaque, incomplete and impenetrable to the average reader.

COVID-19 Digital Rights Tracker. This live tracker documents new measures introduced in response to COVID-19 that pose a risk to digital rights around the world.

Avatar
Posted by:Fran Castillo

@francastillo

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *