L'affaire AgentGuard montre : ne laissez pas la 'mémoire' de l'IA prendre des décisions à votre place, chaque opération sensible doit être vérifiée à nouveau sur place

GoPlus Security a révélé qu'une attaque par "Injection de mémoire historique" dans AgentGuard AI permet d'utiliser la mémoire à long terme pour faire passer des préférences pour une autorisation, induisant l'exécution d'opérations sensibles telles que le remboursement ou le transfert. Les points clés de la protection incluent : une confirmation immédiate pour les opérations concernées, considérer "les habitudes / comme d'habitude" comme à haut risque, rendre l'écriture dans la mémoire à long terme traçable, déclencher une vérification secondaire en cas d'instructions floues, la mémoire à long terme ne doit pas remplacer l'autorisation en temps réel. Le système de mémoire de l'IA doit être considéré comme une surface d'attaque potentielle et audité avec un cadre de sécurité.