Does it matter if Facebook knows when you use a meditation app, if Google knows where you use the app, or <a id="a1">if Headspace knows</a> you're searching for a meditation to help you prepare for a big exam? It could. What's the worst that could happen? Well, here's a <a id="a2">blog from Headspac</a>e talking about how they are developing machine learning applications to use your data in real-time to offer "recommendations that engage our users with new relevant, personalized content that builds consistent habits in their lifelong journey." New, consistent habits could also be interpreted as keeping users using the app as much as possible. One idea they mention in this post is to use users' biometric data such as steps or heart rate to then recommend in real-time more content to get them moving or exercising. OK, that's not necessarily a bad thing. But what more could a company potentially learn about you and do with that data? Perhaps learn your emotional state? Your anxiety level? And then target more content or advertising to you when you're more vulnerable? We don't think this is currently happening with Headspace. But the title of this section is "what could happen if something goes wrong?" And it seems, now or in the future, there are many things that could go wrong with this sort of vast data collection, processing, and the personalization and ad targeting that follows.
¿Es importante que Facebook sepa en qué momentos usas una aplicación de meditación?, ¿o que Google sepa dónde usas la aplicación?, ¿o que <a id="a1">Headspace sepa</a> que estás buscando una meditación que te ayude a prepararte para un gran examen? Puede que lo sea. ¿Qué es lo peor que podría pasar? Bueno, aquí tienes un <a id="a2">blog de Headspace</a> en el que hablan sobre cómo están desarrollando aplicaciones de aprendizaje automático para usar tus datos en tiempo real para ofrecer «recomendaciones que relacionan a nuestros usuarios con contenidos nuevos, relevantes y personalizados que creen hábitos consistentes para toda la vida». La expresión «hábitos nuevos y consistentes» también podría interpretarse como mantener a los usuarios usando la aplicación tanto como sea posible. Una de las ideas mencionadas en esta publicación es utilizar los datos biométricos de los usuarios, como los pasos o la frecuencia cardíaca, para luego recomendar más contenido en tiempo real para que se muevan o hagan ejercicio. Vale, no es necesariamente algo malo. Pero, ¿qué otras cosas podría aprender una empresa sobre ti y qué podría hacer con esos datos? ¿Tal vez conocer tu estado emocional o tu nivel de ansiedad? ¿Dirigirte luego más contenido o publicidad cuando estás más vulnerable? No creemos que esto esté sucediendo actualmente con Headspace. Pero el título de esta sección es «¿qué podría pasar si algo sale mal?» Y parece que, ya sea ahora o en el futuro, hay muchas cosas que podrían salir mal con esta inmensa recopilación y procesamiento de datos, y la personalización y orientación de anuncios que le sigue.