Le contrecoup des PC Copilot+ : Pourquoi Windows Recall est devenu un cauchemar de sécurité

La grande offensive matérielle de Microsoft pour 2024 n’était pas une nouvelle charnière élégante pour la Surface ou une chimie de batterie révolutionnaire. C’était une toute nouvelle catégorie : le PC Copilot+. L’argument de vente était simple. Achetez un portable avec une unité de traitement neuronal (NPU) dédiée, et Windows se souviendra enfin de tout ce que vous avez jamais fait. Ils l’ont appelé Windows Recall. Les chercheurs en sécurité l’ont appelé une catastrophe absolue.

Before you read: Nous avons récemment discuté de la façon dont l’IA apprend à interagir physiquement avec les environnements de bureau dans Anthropic’s Computer Use API: When AI Finally Grabs the Mouse. Mais avant qu’une IA puisse contrôler votre écran, elle doit le voir — et c’est exactement là que la dernière fonctionnalité du système d’exploitation de Microsoft a spectaculairement déraillé.

Table des matières

• Le problème de la mémoire photographique
• Le cheval de Troie du NPU
• L’implosion spectaculaire
• Faits amusants
• Sources

Le problème de la mémoire photographique

Le concept derrière Recall est techniquement impressionnant. Toutes les quelques secondes, Windows prend une capture de votre écran actif. Il exécute ensuite un modèle d’IA local pour effectuer une reconnaissance optique de caractères (OCR) et une détection d’objets, extrayant tout le texte, les images et le contexte. Il stocke cet index massif localement, vous permettant de faire des recherches dans votre propre historique en langage naturel. Vous pourriez taper : “Trouve cette recette de pain aux bananes que ma mère m’a envoyée sur WhatsApp mardi dernier”, et Recall ferait instantanément remonter la capture d’écran exacte.

Ça ressemble à un rêve de science-fiction pour les gestionnaires de produits. Mais sous le capot, l’architecture était terrifiante.

Le chercheur en sécurité Kevin Beaumont a rapidement découvert que Recall stockait toutes ces données OCR hautement sensibles — y compris les mots de passe, les dossiers financiers et les messages éphémères — dans une base de données SQLite standard. Ce n’était pas chiffré au repos d’une manière qui l’isolait du compte utilisateur. C’est l’équivalent numérique d’engager un détective privé pour se tenir par-dessus votre épaule, photographier vos relevés bancaires et stocker les négatifs dans un classeur déverrouillé dans votre entrée de cour.

Franchement, je trouve ça hilarant que Microsoft soit à peine capable de faire en sorte que la barre de recherche du menu Démarrer trouve une application installée localement sans chercher frénétiquement le mot “calculatrice” sur Bing, mais qu’ils aient réussi d’une manière ou d’une autre à construire un moteur de surveillance systémique parfait.

Le cheval de Troie du NPU

Pour comprendre pourquoi Microsoft a poussé cela de manière si agressive, il faut regarder le matériel. Les PC Copilot+ exigent une unité de traitement neuronal capable d’au moins 40 TOPS (mille milliards d’opérations par seconde).

Pourquoi cette limite stricte? Parce que faire tourner un petit modèle de langage (SLM) localisé pour analyser constamment des captures d’écran ferait fondre un processeur x86 standard et viderait la batterie d’un portable en 45 minutes. Le NPU est un bloc de silicium dédié conçu spécifiquement pour exécuter des calculs matriciels à faible consommation d’énergie.

Microsoft ne force pas l’intégration des NPU dans les portables pour que vos jeux vidéo tournent plus vite ou que vos macros Excel compilent plus rapidement. Ils le font pour décharger l’inférence IA continue en arrière-plan. Recall était censé être l’application phare qui justifiait la taxe NPU. Au lieu de cela, c’est devenu un énorme passif.

L’implosion spectaculaire

La réaction a été immédiate et brutale. Quelques jours après l’annonce de la fonctionnalité, des développeurs open-source ont publié des outils comme “TotalRecall”, un script qui extrayait et analysait automatiquement la base de données Recall, prouvant à quel point il serait trivial pour un logiciel malveillant de type InfoStealer de siphonner toute la vie numérique d’un utilisateur en quelques millisecondes.

Face à un cauchemar de relations publiques, Microsoft a paniqué. D’abord, ils ont annoncé que Recall serait sur la base du volontariat (opt-in) plutôt qu’activé par défaut. Ensuite, ils ont exigé l’authentification Windows Hello pour voir les données. Finalement, quelques jours seulement avant l’expédition des premiers PC Copilot+, ils ont complètement retiré la fonctionnalité, la repoussant indéfiniment pour “des tests supplémentaires”.

Les consommateurs ne veulent pas que leur système d’exploitation enregistre leurs moindres faits et gestes, même si les données ne quittent jamais l’appareil. Le lancement de Copilot+ a prouvé que lorsque vous essayez de forcer une révolution matérielle de l’IA en transformant le PC en panoptique, le marché va agressivement repousser l’idée.

Faits amusants

• Le nom de code interne de Microsoft pour Windows Recall était “AI Explorer” avant qu’ils ne le rebaptisent pour la sortie publique.
• L’exigence de 40 TOPS pour les PC Copilot+ a effectivement disqualifié chaque portable Intel et AMD sur le marché au lancement, offrant une fenêtre d’exclusivité temporaire massive aux puces ARM Snapdragon X Elite de Qualcomm.

Sources

• Kevin Beaumont (DoublePulsar) : “Stealing everything you’ve ever typed or viewed on your own Windows PC is now possible with two lines of code”
• Blog officiel de Microsoft : “Update on the Recall preview feature for Copilot+ PCs”
• Wired : “Microsoft Delays Its Controversial Windows Recall Feature”