Privacidad y datos: hacia la tiranía del algoritmo

Privacidad y datos:  hacia la tiranía del algoritmo

Cada vez que abrimos una cuenta bancaria, nos apuntamos a una  web o reservamos un vuelo,  entregamos información personal vital como nombre, dirección, y número de tarjeta de crédito….  Además no dejan de crecer los datos generados en las redes sociales, los teléfonos móviles, los GPS, los d “wereables” …  y si a todo esto , les añadimos los generados por las redes de sensores en infraestructuras “Smart City” o internet de las cosas , la cosa se complica mucho más. Las empresas ven aparecer “el nuevo dorado” en ese llamado big data , ya que lo ven como una oportunidad de negocio e innovación. Pero ¿Hemos pensado alguna vez qué ocurre con estos datos? Este es el motivo principal de este post para cerrar el año 2015, reflexionar sobre ello.

Detrás de la explosión de datos hay un gran potencial de nuevas maneras de resolver problemas y plantear preguntas y esto  está cambiando ya , la forma de practicar la ciencia, de generar valor en la economía y de organizar la política y la sociedad.  También nos permiten pensar nuevas maneras como por ejemplo que permitan ser un elemento central para promover una democracia más participativa y una administración más eficaz y transparente como con los datos abierto o open data como comenta Beth Noveck en el vídeo que comparto más abajo.  Sin embargo, también existen retos, ya se pueden utilizar como “armas” para instaurar un estado de vigilancia sin precedentes.

Hay una máxima muy conocida en internet en que se dice, que en las “cosas” online que son gratis , el precio que pagamos es la privacidad. En general (salvo excepciones del open source) , es como  pensar si no estás pagando por el  servicio,  tu eres el producto. El precio de lo gratuito online es a coste coste de la vida privada. Debemos tener claro que “la privacidad no es la configuración por defecto” en la mayoría de las aplicaciones o servicios web. En esta línea una iniciativa de concienciación muy interesante son las crytopartiesCat  dónde  mediante breves talleres se instruye en la instalación y configuración de uso , de los hábitos y las herramientas básicas para utilizar Internet de forma más segura y con sentido común.

Por otro lado cabe reflexionar sobre uno de de los sectores sensibles a los datos masivos, que es el sector médico. La doctora Deborah Peel, fundadora y presidenta de Derechos de la privacidad de los pacientes, comentaba recientemente en el foro Privacity x change, lo siguiente :

Un reciente estudio analizó más de 500.000 tuits sobre la depresión, tomó 4.000 tweets que mencionan un diagnóstico o medicación, y siguió a los usuarios de Twitter con el fin de crear una aplicación que predice el suicidio. Este uso de los tweets cruza una línea roja” es decir nos advierte sobre “comercio legal” de los datos médicos, pero apostilla con lo siguiente: “La peor cosa ha sucedido: la información sobre nuestras mentes y cuerpos está a la venta y en millones de bases de datos” .

Lo que nos abre conciencia sobre los derechos de los pacientes para controlar  el uso y intercambio de su información y actividad relacionadas con las salud. Queda claro pues , que no podemos detener la recopilación de datos, pero necesitamos que haya una “cadena de custodia” clara  y algunos límites éticos.

Por otro lado de la misma manera,  si  nos fijamos en el Internet de las cosas  ( como por ejemplo el contador de la luz inteligente que nos permite analizar el consumo, y adaptar tarifas)  esta tecnología  suena fascinante , pero también debería venir con claras implicaciones en privacidad y seguridad, ya que los riesgos en el mundo de los datos se amplia, porque significa que la privacidad no sólo esta en el riesgo al interactuar con un dispositivo, ahora en riesgo aumenta  al interactuar con el mundo de los dispositivos conectados  a tu alrededor.

Un último punto que merece reflexión es ,  el que  David Vladeck, ex director de la Oficina de Protección al Consumidor de la Comisión Federal de Comercio de los Estados Unidos, menciona como la tiranía del algoritmo”. Es decir, con la irrupción del big data  las empresas de análisis de datos “de alquiler”,  los analistas de datos y psicólogos cognitivos, disponen de un poder sin precedentes sobre los usuarios (por ejemplo la tentación de manipular a los consumidores en determinadas decisiones de compra)  Queramos o no, somos clasificados y etiquetados por patrones de análisis de datos y algoritmos, y esa clasificación puedes ser crítica en nuestra vida actual o futura. Por otro lado estaría la reflexión sobre la calidad de los datos y su fragmentación y como esta puedes influir en el resultado del algoritmo. Por lo cual urge un debate sobre las implicaciones éticas de este big data análisis, no solo a nivel ciudadano y sino empresarial. Las empresas deberían empezar a tener y  contratar más personas con las habilidades para gestión de los datos y la privacidad, o montar departamentos de privacidad dentro de las mismas.

Iniciativas como el Data Transparency Lab  donde una comunidad de tecnólogos, investigadores, responsables políticos y representantes de la industria trabajan para promover la transparencia de los datos personales on-line a través de la investigación y el diseño científico, y mediante la promoción herramientas, metodologías y conjuntos de datos, son más que necesario. El futuro está en los datos, pero con ética y los valores, como la honestidad, generosidad, transparencia…. Será uno de los retos más necesarios en la sociedad que vamos a vivir. Ojalá podamos “datificar” esa ética.

2 Respuestas a Privacidad y datos: hacia la tiranía del algoritmo

  • […] 'Iniciativas como el Data Transparency Lab donde una comunidad de tecnólogos, investigadores, responsables políticos y representantes de la industria trabajan para promover la transparencia de los datos personales on-line a través de la investigación y el diseño científico, y mediante la promoción herramientas, metodologías y conjuntos de datos, son más que necesario. El futuro está en los datos, pero con ética y los valores  […]

  • […] Detrás de la explosión de datos hay un gran potencial de nuevas maneras de resolver problemas y plantear preguntas , y esto está cambiando ya , la forma de  […]

Uso de cookies

Este sitio web utiliza cookies para que usted tenga la mejor experiencia de usuario. Si continúa navegando está dando su consentimiento para la aceptación de las mencionadas cookies y la aceptación de nuestra política de cookies, pinche el enlace para mayor información. ACEPTAR

Aviso de cookies
Seo PackagesBlog Comment ServicesGov Backlinks