La fonctionnalité Windows Recall de Microsoft a été présentée comme une avancée majeure en matière d'intelligence artificielle sur les ordinateurs Windows. Cependant, elle a suscité la controverse dès son lancement et se retrouve de nouveau sous les feux des projecteurs en raison de nouvelles inquiétudes exprimées par les utilisateurs. Pour rappel, cet outil enregistre l'activité de l'utilisateur sous forme d'« instantanés », allant du texte affiché à l'écran à l'historique de navigation. Suite à une vague de critiques, le fabricant a mis en place diverses mesures de sécurité et, après un retard de près d'un an, Recall propose désormais des fonctionnalités telles que le stockage chiffré des données, l'authentification Windows Hello et l'isolation basée sur la virtualisation. Microsoft a assuré que les données restent locales et inaccessibles aux logiciels malveillants, mais la protection de la vie privée demeure un sujet récurrent. Cependant, l'expert en cybersécurité Alexander Hagenah a présenté un outil, TotalRecall Reloaded, qui remet en question ces affirmations. D'après ses tests, il est possible de déclencher l'authentification Windows Hello, puis d'accéder aux données de rappel stockées après la connexion de l'utilisateur. Le problème réside dans le fait que des logiciels malveillants peuvent s'infiltrer dans le processus d'authentification légitime et exploiter la faille dès que les données sont déchiffrées.

Le fabricant affirme que le comportement décrit est conforme à la conception du système et ne constitue pas une faille de sécurité. Il mentionne également des mécanismes de protection supplémentaires, tels que des limites de temps et une protection contre les tentatives de connexion multiples. Hagenah souligne toutefois que le problème réside dans le traitement des données après leur déchiffrement. S'il salue certaines solutions, il estime que Recall ne répond toujours pas à toutes les exigences de sécurité. Surtout, ce différend met en lumière un problème plus vaste : plus les fonctions d'IA collectent de données, plus le risque d'utilisation abusive est élevé. Pour les utilisateurs, cela signifie devoir choisir entre la facilité d'utilisation et la maîtrise totale de leur vie privée.