Microsoft a publié un correctif pour une vulnérabilité de Copilot qui permettait aux chercheurs de tromper l'assistant vocal et de lui soutirer des informations utiles lors d'une attaque. Les experts de Varonis Threat Labs ont démontré qu'une conversation menée à un rythme approprié pouvait inciter le modèle à révéler progressivement des détails sur ses propres fonctionnalités de sécurité. Le problème a été baptisé CoSnitch. Il ne s'agissait pas d'une faille de sécurité classique. Les chercheurs ont exploité la manière dont le modèle interprète les questions et informations suivantes lors des conversations. Microsoft a publié un correctif mardi. Rien n'indique que cette attaque ait été utilisée contre des utilisateurs. L'expérience a débuté par une question en apparence simple. Les chercheurs ont demandé à Copilot comment exécuter automatiquement certaines commandes sans intervention supplémentaire de l'utilisateur. Le système a refusé et a expliqué pourquoi une telle action était impossible. Cependant, l'expérience ne s'est pas arrêtée là. L'équipe de Varonis a ensuite posé des questions plus approfondies sur les raisons du refus. L'entretien était structuré de manière à ce que chaque question s'inscrive dans la continuité naturelle de la précédente. Les chercheurs ont notamment interrogé les utilisateurs sur la structure des URL, les mécanismes de liens profonds et le comportement de chargement des pages.

En conséquence, Copilot a commencé à révéler de plus en plus d'informations sur les mécanismes censés le protéger contre des actions similaires. Les chercheurs ont baptisé cette technique « métahacking ». Au lieu de contourner directement la sécurité, ils ont utilisé le modèle lui-même comme source d'information sur ses limites. L'élément le plus grave de l'expérience est survenu plus tard. Selon Varonis, les chercheurs sont parvenus à tromper Copilot afin qu'il envoie des données sensibles à un service externe et modifie sa mémoire persistante. Le nœud du problème résidait dans la difficulté à distinguer les données des instructions. Les informations contenues dans un modèle pouvaient être interprétées comme une commande, même si elles étaient initialement destinées à un tout autre usage. Ceci est particulièrement important pour les assistants IA d'entreprise. Copilot peut avoir accès à des documents, des messages, des données d'employés et des ressources organisationnelles. Si le modèle interprète mal le contexte, un attaquant peut tenter d'exploiter cette dépendance pour l'amener à effectuer des actions indésirables.

La vulnérabilité a été signalée à Microsoft en décembre 2025. Le fabricant a préparé une solution et, le 18 août 2026, a publié une mise à jour de sécurité pour la vulnérabilité marquée CVE-2026-24301. À ce stade, aucune information n'indique que CoSnitch ait été utilisé lors d'attaques réelles. Varonis souligne toutefois le caractère inhabituel de cette découverte. Les chercheurs n'ont pas eu à analyser le code de Copilot ni à recréer l'intégralité du mécanisme de sécurité. Les informations nécessaires à l'élaboration de l'attaque ont été progressivement révélées par le système lui-même au cours de la conversation. Ceci met en lumière un problème caractéristique de la nouvelle génération d'outils d'IA : un modèle peut être simultanément une application, une interface avec les données et une source de connaissances sur ses propres performances.