Does it matter if Facebook knows when you use a meditation app, if Google knows where you use the app, or if <a id="a1">Headspace knows</a> you're searching for a meditation to help you prepare for a big exam? It could. What's the worst that could happen? Well, here's <a id="a2">a</a> <a id="a3">blog from Headspac</a>e talking about how they are developing machine learning applications to use your data in real-time to offer "recommendations that engage our users with new relevant, personalized content that builds consistent habits in their lifelong journey." New, consistent habits could also be interpreted as keeping users using the app as much as possible. One idea they mention in this post is to use users' biometric data such as steps or heart rate to then recommend in real-time more content to get them moving or exercising. OK, that's not necessarily a bad thing. But what more could a company potentially learn about you and do with that data? Perhaps learn your emotional state? Your anxiety level? And then target more content or advertising to you when you're more vulnerable? We don't think this is currently happening with Headspace. But the title of this section is "what could happen if something goes wrong?" And it seems, now or in the future, there are many things that could go wrong with this sort of vast data collection, processing, and the personalization and ad targeting that follows.
Est-ce important si Facebook sait quand vous utilisez une application de méditation, si Google sait où vous utilisez l’application, ou si <a id="a1">Headspace sait que</a> vous cherchez une méditation pour vous aider à vous préparer à un gros examen ? Peut-être. Que pourrait-il arriver de pire ? Eh bien, voici <a id="a2">un billet de </a><a id="a3">blog écrit par Headspace qui aborde la façon dont la société développe des applications</a> d’apprentissage machine pour utiliser vos données en temps réel, dans le but de proposer « des recommandations qui engagent nos utilisateurs avec un nouveau contenu pertinent et personnalisé qui crée des habitudes cohérentes dans leur parcours de vie ». De nouvelles habitudes régulières pourraient également être interprétées comme un moyen d’inciter les utilisateurs à utiliser l’application autant que possible. L’une des idées mentionnées dans ce billet consiste à utiliser les données biométriques des utilisateurs, telles que le nombre de pas ou la fréquence cardiaque, pour leur recommander en temps réel des contenus qui les inciteront à bouger ou à faire de l’exercice. OK, ce n’est pas forcément une mauvaise chose. Toutefois, qu’est-ce qu’une entreprise pourrait apprendre de plus sur vous et faire avec ces données ? Peut-être en savoir plus sur votre état émotionnel ? Votre niveau d’anxiété ? Et ensuite vous cibler avec plus de contenu ou de publicité lorsque vous êtes plus vulnérable ? Nous ne pensons pas que cela se produise actuellement avec Headspace. Mais le titre de cette section est « Que pourrait-il se passer en cas de problème ? ». Il semble que, actuellement ou à l’avenir, beaucoup de choses pourraient mal tourner avec ce genre de vaste collecte de données, de traitement, et la personnalisation et le ciblage publicitaire qui s’ensuit.