Comment améliorer la visibilité dans l’écosystème d’IA de votre entreprise

L’écart entre l’adoption de l’IA en entreprise et la gouvernance de l’IA est de plus en plus difficile à ignorer pour les responsables de la sécurité. L’indice de préparation à la cybersécurité 2025 de Cisco révèle que 60 % des organisations ne connaissent pas les demandes spécifiques que les employés adressent aux outils GenAI. Ce manque de visibilité rend plus difficile la surveillance des mouvements de données, l’application des politiques et la compréhension des outils ou agents utilisés dans l’entreprise.

Le problème est structurel et non culturel. Les organisations ont construit leurs outils de surveillance pour suivre les logiciels traditionnels, et ces systèmes n’ont jamais été conçus pour détecter la manière dont l’IA se déplace à travers un réseau. Les outils de découverte standard peuvent identifier un abonnement logiciel, mais ignorent souvent complètement les modèles d’utilisation de l’IA.

Lorsque les employés contournent les canaux officiels pour utiliser les outils d’IA, le service informatique perd la visibilité sur la destination réelle des données sensibles de l’entreprise. Cette lacune structurelle pose un réel risque opérationnel, car les données circulent vers des destinations que l’équipe de sécurité ne peut ni surveiller ni contrôler.

L’IA fantôme fait référence aux employés qui utilisent des outils et des applications d’IA sans l’approbation explicite de l’organisation. Cela diffère du shadow IT traditionnel, car les abonnements à des logiciels malveillants restent visibles pour les outils de découverte standard, contrairement à l’utilisation de l’IA. Chaque dimension de l’IA fantôme présente un profil de risque distinct et nécessite un type de réponse différent.

Une version courante de ce risque se produit lorsqu’un employé colle un document ou un ensemble de données dans un chatbot public pour gagner du temps sur une tâche de routine. Ce comportement est rarement malveillant. Cela reflète le fait que les travailleurs normaux recherchent l’outil disponible le plus pratique, et non l’intention de contourner les protocoles de sécurité.

Ce risque réside dans les outils qu’une entreprise a déjà approuvés, puisque l’examen de sécurité initial est antérieur aux fonctionnalités d’IA ajoutées ultérieurement à la plate-forme. Les fonctionnalités intégrées sont plus difficiles à détecter que l’utilisation d’outils autonomes, car le trafic semble identique à l’activité normale de la plateforme du point de vue de la surveillance.

Les agents agissent au sein d’un système plutôt que de simplement répondre à une question, ce qui les distingue de la plupart des assistants. La surveillance est loin derrière le déploiement, car les agents sont souvent appelés à résoudre rapidement un problème de flux de travail immédiat, sans processus de révision formel. Un agent agissant avec un accès non surveillé peut affecter les systèmes et les données à une vitesse qu’aucun processus d’examen humain ne peut égaler, ce qui en fait un risque urgent à gérer.

L’échec est architectural plutôt qu’une question d’effort ou de budget insuffisant. Les outils de sécurité traditionnels ont été conçus pour suivre les logiciels connus dans des emplacements prévus, ce qui ne correspond pas à la manière dont les capacités d’IA se déplacent réellement dans une organisation.

Un outil conçu pour cataloguer les applications ne dispose d’aucun moyen fiable pour classer ou contrôler le comportement d’un agent d’IA agissant à l’intérieur d’un outil. Les systèmes de surveillance sur lesquels s’appuient la plupart des entreprises ne disposent tout simplement pas du cadre nécessaire pour capturer les modèles d’activité de l’IA, ce qui crée des écarts de visibilité qui se creusent à mesure que l’adoption de l’IA s’accélère.

Les organisations doivent adopter des stratégies spécifiques pour combler le déficit de visibilité et reprendre le contrôle de l’activité de l’IA dans l’ensemble de l’entreprise. Les approches suivantes constituent la base de la sécurisation des écosystèmes d’IA.

Un audit ponctuel ne suffit pas, car de nouveaux outils et fonctionnalités d’IA sont ajoutés en continu plutôt que selon un calendrier prévisible. Les équipes de sécurité doivent appliquer la même discipline que celle utilisée pour les charges de travail cloud, dans lesquelles chaque actif est suivi de manière routinière et non seulement après un incident.

Un inventaire évolutif permet aux équipes de sécurité de conserver une image actuelle par rapport à laquelle mesurer les nouvelles activités, plutôt que de la reconstruire après un problème. Cette approche continue garantit que l’organisation sait quelles capacités d’IA sont disponibles dans l’environnement à tout moment.

Pour sécuriser efficacement l’IA, il faut l’appliquer au problème, car l’examen humain ne peut à lui seul suivre le volume et la vitesse de la tâche. Les plates-formes qui utilisent une analyse comportementale avancée peuvent aider les équipes de sécurité à identifier les activités inhabituelles de l’IA sans s’appuyer uniquement sur les signatures d’attaque connues.

Darktrace fournit un exemple de plateforme construite autour de cette approche. L’entreprise est pionnière en matière d’IA depuis 2013, précédant la vague la plus récente d’outils de sécurité de marque IA. Sa plateforme utilise une IA multicouche pour offrir une visibilité sur le réseau sur site, les applications cloud, la messagerie électronique, les systèmes OT et les points de terminaison.

Ce qui rend cette approche unique, c’est qu’il n’y a pas de point de départ ni d’hypothèses préalables sur l’apparence d’une menace. La technologie apprend chaque appareil, utilisateur et interaction, développant ainsi une compréhension du comportement normal à partir de ce qu’elle observe. Cela lui permet de repérer et de regrouper des anomalies comportementales subtiles qui indiquent une menace, alors que d’autres solutions de sécurité tentent de prédéfinir ce qui constitue une menace sur la base de modèles d’attaque observés dans le passé.

Aucun système ou agent ne doit se voir accorder un accès sur la base d’une confiance présumée plutôt que d’un besoin spécifique vérifié. Les agents d’IA peuvent agir sur des données, des outils et des applications. Pour cette raison, chaque agent ne doit recevoir que l’accès minimum requis pour sa tâche spécifique.

Un accès correctement limité limite les dommages qu’une compromission ou un dysfonctionnement non détecté peut causer. Ce principe devient particulièrement important dans les environnements d’IA où les agents opèrent à la vitesse d’une machine et peuvent propager les problèmes plus rapidement que les opérateurs humains ne peuvent y répondre.

La visibilité reste l’étape fondamentale pour sécuriser l’innovation en matière d’IA dans toute l’entreprise. Les organisations qui mettent en œuvre des plateformes de découverte continue et de détection avancée des menaces se positionnent pour sécuriser efficacement leurs écosystèmes d’IA. Les responsables informatiques doivent donner la priorité aux plates-formes offrant une couverture complète de tous les points de contact de l’IA et utiliser l’analyse comportementale plutôt que la détection basée sur les signatures pour identifier les menaces en temps réel.