L’IA se propage sur les lieux de travail plus rapidement que toute autre technologie de mémoire récente. Chaque jour, les employés connectent les technologies d’IA aux systèmes de l’entreprise, souvent sans autorisation ni surveillance des équipes de sécurité informatique. Le résultat est ce que les experts appellent l’IA fantôme : un réseau croissant d’outils et d’intégrations qui accèdent aux données de l’entreprise sans surveillance.
Dr. Tal Shapira, co-fondateur et CTO chez Reco, fournisseur de solutions de sécurité et de gouvernance de l’IA SaaS, affirme que cette prolifération invisible pourrait devenir l’une des plus grandes menaces auxquelles les organisations sont aujourd’hui confrontées, d’autant plus que la vitesse actuelle d’adoption de l’IA a dépassé les mesures de protection de l’entreprise.
« Nous sommes passés de ‘l’IA arrive’ à ‘l’IA est partout’ en 18 mois environ. Le problème est que les cadres de gouvernance n’ont tout simplement pas rattrapé leur retard », a déclaré Shapira.
Le risque invisible au sein des systèmes de l’entreprise
Shapira a déclaré que la plupart des systèmes de sécurité d’entreprise ont été conçus pour un monde plus ancien où tout restait derrière les pare-feu et les frontières du réseau. Shadow AI brise ce modèle car il fonctionne de l’intérieur, caché dans les propres outils de l’entreprise.
De nombreux outils d’IA modernes se connectent directement aux plateformes SaaS quotidiennes telles que Salesforce, Slack ou Google Workspace. Bien que cela ne constitue pas un risque en soi, l’IA le fait souvent via des autorisations et des plug-ins qui restent actifs après l’installation. Ces liens « silencieux » peuvent continuer à permettre aux systèmes d’IA d’accéder aux données de l’entreprise, même après que la personne qui les a configurés a cessé de les utiliser ou a quitté l’organisation. C’est un gros problème d’IA fantôme.
Shapira a déclaré : « Le problème le plus profond est que ces outils s’intègrent dans l’infrastructure de l’entreprise, parfois pendant des mois ou des années sans être détectés. »
Cette nouvelle classe de risque est particulièrement difficile à suivre car de nombreux systèmes d’IA sont probabilistes. Au lieu d’exécuter des commandes claires, l’IA fait des prédictions basées sur des modèles, de sorte que ses actions peuvent changer d’une situation à l’autre, ce qui les rend plus difficiles à examiner et à contrôler.
Quand l’IA devient voyou
Les dégâts causés par l’IA fantôme sont déjà évidents dans des incidents réels. Reco a récemment travaillé avec une société financière Fortune 100 qui pensait que ses systèmes étaient sécurisés et conformes. Quelques jours après le déploiement de la surveillance de Reco, l’entreprise a découvert plus de 1 000 intégrations tierces non autorisées dans ses environnements Salesforce et Microsoft 365, dont plus de la moitié sont alimentées par l’IA.
Une intégration, un outil de transcription connecté à Zoom, enregistrait chaque appel client, y compris les discussions sur les prix et les commentaires confidentiels. « Ils formaient sans le savoir un modèle tiers sur leurs données les plus sensibles », a noté Shapira. « Il n’y avait aucun contrat, aucune compréhension de la manière dont ces données étaient stockées ou utilisées. »
Dans un autre cas, un employé a lié ChatGPT directement à Salesforce, permettant à l’IA de générer des centaines de rapports internes en quelques heures. Cela peut sembler efficace, mais cela expose également les informations sur les clients et les prévisions de ventes à un système d’IA externe.
Comment Reco détecte ce qui n’est pas détecté
La plateforme de Reco est conçue pour donner aux entreprises une visibilité complète sur les outils d’IA connectés à leurs systèmes et sur les données auxquelles ces outils peuvent accéder. Il analyse en permanence les environnements SaaS à la recherche de subventions OAuth, d’applications tierces et d’extensions de navigateur. Une fois identifié, Reco montre quels utilisateurs les ont installés, quelles autorisations ils détiennent et si le comportement semble suspect.
Si une connexion semble risquée, le système peut alerter les administrateurs ou révoquer automatiquement l’accès. « La vitesse est importante car les outils d’IA peuvent extraire d’énormes quantités de données en quelques heures, et non en quelques jours », a déclaré Shapira.
Contrairement aux produits de sécurité traditionnels qui s’appuient sur les limites du réseau, Reco se concentre sur la couche d’identité et d’accès. Cela le rend bien adapté aux organisations d’aujourd’hui axées sur le cloud et fortement SaaS, où la plupart des données se trouvent en dehors du pare-feu traditionnel.
Un signal d’alarme plus large en matière de sécurité
Les analystes du secteur affirment que le travail de Reco reflète une tendance plus large en matière de sécurité d’entreprise : le passage du blocage de l’IA à sa gouvernance. Selon un récent rapport de Cisco sur l’état de préparation à l’IA, en 2025, 62 % des organisations ont admis avoir peu de visibilité sur la façon dont leurs employés utilisent les outils d’IA au travail, et près de la moitié ont déjà subi au moins un incident de données lié à l’IA.
À mesure que les fonctionnalités d’IA sont intégrées dans les logiciels grand public – d’Einstein de Salesforce à Microsoft Copilot – le défi s’accroît. « Vous pensez peut-être que vous utilisez une plate-forme fiable », a déclaré Shapira, « mais vous ne réalisez peut-être pas que cette plate-forme inclut désormais des fonctionnalités d’IA accédant automatiquement à vos données. »
Le système de Reco contribue à combler l’écart en surveillant les activités d’IA sanctionnées et non autorisées, aidant ainsi les entreprises à avoir une idée plus claire de l’endroit où leurs données circulent et pourquoi.
Exploiter l’IA en toute sécurité
Shapira estime que les entreprises entrent dans ce qu’il appelle la phase d’infrastructure de l’IA – une période où chaque outil commercial inclura une forme d’IA, visible ou non. Cela rend essentiels une surveillance continue, un accès avec le moindre privilège et des autorisations de courte durée.
« Les entreprises qui réussiront ne seront pas celles qui bloqueront l’IA », a-t-il observé. « Ce seront eux qui l’adopteront en toute sécurité, avec des garde-fous qui protègent à la fois l’innovation et la confiance. »
Shadow AI, a-t-il déclaré, n’est pas un signe de l’insouciance des employés, mais de la rapidité avec laquelle la technologie a évolué. « Les gens essaient d’être productifs », a-t-il déclaré. « Notre travail consiste à nous assurer qu’ils peuvent le faire sans mettre l’organisation en danger. »
Pour les entreprises qui tentent d’exploiter l’IA sans perdre le contrôle de leurs données, le message de Reco est simple : vous ne pouvez pas sécuriser ce que vous ne pouvez pas voir.
Source de l’image : Unsplash
