Les environnements cloud d’entreprise ont désormais accès à une fonctionnalité d’annulation pour les agents IA suite au déploiement de Commvault AI Protect.
Les logiciels autonomes parcourent désormais l’infrastructure, supprimant potentiellement des fichiers, lisant des bases de données, développant des clusters de serveurs et même réécrivant les politiques d’accès. Commvault a identifié ce problème de gouvernance et le fournisseur de protection des données a lancé AI Protect, un système conçu pour découvrir, surveiller et annuler de force les actions des modèles autonomes fonctionnant au sein d’AWS, Microsoft Azure et Google Cloud.
La gouvernance traditionnelle repose entièrement sur des règles statiques. Vous accordez des autorisations spécifiques à un utilisateur humain et cet utilisateur effectue une tâche prévisible et linéaire. Si quelque chose ne va pas, la responsabilité est claire. Les agents d’IA présentent cependant un comportement émergent.
Lorsqu’il reçoit une invite complexe, un agent regroupera les autorisations approuvées de manière potentiellement non approuvée pour résoudre le problème. Si un agent décide que le moyen le plus efficace d’optimiser les coûts de stockage dans le cloud consiste à supprimer l’intégralité d’une base de données de production, il exécutera cette commande en quelques millisecondes.
Un ingénieur humain pourrait faire une pause avant d’exécuter une commande destructrice, remettant en question la logique. Un agent IA suit simplement sa boucle de raisonnement interne. Il boucle des milliers de requêtes API par seconde, dépassant largement les temps de réaction des centres d’opérations de sécurité humaine.
Pranay Ahlawat, directeur de la technologie et de l’IA chez Commvault, a déclaré : « Dans les environnements agentiques, les agents modifient l’état des données, des systèmes et des configurations de manière à s’aggraver rapidement et sont difficiles à tracer. En cas de problème, les équipes doivent récupérer non seulement les données, mais aussi la pile complète (applications, configurations d’agents et dépendances) vers un bon état connu. »
Une nouvelle génération d’outils de gouvernance pour les agents d’IA cloud
AI Protect est un exemple d’outils émergents qui analysent en permanence l’empreinte du cloud de l’entreprise pour identifier les agents actifs. L’IA fantôme reste une difficulté majeure pour les services informatiques des entreprises. Les développeurs lancent régulièrement des agents expérimentaux à l’aide des informations d’identification de l’entreprise sans en avertir les équipes de sécurité et connectent des modèles de langage aux lacs de données internes pour tester de nouveaux flux de travail.
Commvault met ces acteurs cachés en lumière. Une fois identifié, le logiciel surveille les appels d’API spécifiques de l’agent et les interactions de données sur AWS, Azure et GCP. Il enregistre chaque lecture de base de données, chaque modification de stockage et chaque changement de configuration.
La fonction de restauration fournit le filet de sécurité. Si un modèle hallucine ou interprète mal une commande, les administrateurs peuvent rétablir l’environnement dans son état exact avant que la machine ne lance la séquence destructrice.
Cependant, l’infrastructure cloud est hautement dynamique et profondément interconnectée. Inverser une chaîne complexe d’actions automatisées nécessite un suivi précis basé sur un grand livre. Vous ne pouvez pas simplement restaurer une seule table de base de données si la machine a également modifié les règles de mise en réseau, déclenché des fonctions sans serveur en aval et modifié les politiques de gestion des accès aux identités au cours de son exécution.
Pour y parvenir, Commvault relie l’architecture de sauvegarde traditionnelle à une surveillance continue du cloud. En cartographiant le rayon d’explosion de la session de l’agent, le logiciel isole les dégâts. Il démêle les modifications spécifiques apportées par l’IA des modifications légitimes apportées par les utilisateurs humains au cours de la même période. Cela empêche une restauration massive de supprimer des transactions client valides ou d’effacer des heures de travail d’ingénierie légitime.
Les machines continueront d’exécuter les tâches plus rapidement que les opérateurs humains ne peuvent les surveiller. La priorité est désormais de mettre en œuvre des garde-fous garantissant que les actions autonomes peuvent être inversées instantanément et avec précision.
