Les systèmes d’IA commencent à aller au-delà des simples réponses. Dans de nombreuses organisations, les agents d’IA sont désormais testés pour planifier des tâches, prendre des décisions et exécuter des actions avec une intervention humaine limitée. Il ne s’agit plus seulement de savoir si un modèle donne la bonne réponse. Il s’agit de ce qui se passe lorsque ce modèle est autorisé à agir.
Les systèmes autonomes ont besoin de limites claires. Ils ont besoin de règles définissant ce à quoi ils peuvent accéder, ce qu’ils sont autorisés à faire et comment leurs actions sont suivies. Sans ces contrôles, même des systèmes bien entraînés peuvent créer des problèmes difficiles à détecter ou à inverser.
Deloitte est une entreprise qui travaille sur ce problème. Le cabinet développe des cadres de gouvernance et des approches de conseil pour aider les organisations à gérer les systèmes d’IA.
Des outils aux agents IA
La plupart des systèmes d’IA utilisés aujourd’hui dépendent encore des invites humaines. Ils génèrent du texte, analysent des données ou font des prédictions, mais c’est généralement une personne qui décide de ce qui se passera ensuite. L’IA agentique change ce modèle. Ces systèmes peuvent décomposer un objectif en étapes, choisir des actions et interagir avec d’autres systèmes pour accomplir des tâches.
Cette indépendance supplémentaire entraîne de nouveaux défis. Lorsqu’un système agit seul, il peut emprunter des chemins qui n’étaient pas entièrement prévus ou utiliser les données d’une manière qui n’était pas prévue.
Le travail de Deloitte vise à aider les organisations à se préparer à ces risques. Plutôt que de traiter l’IA comme un outil autonome, l’entreprise examine comment elle s’intègre dans les processus métier, notamment la manière dont les décisions sont prises et la manière dont les données circulent dans les systèmes.
Intégrer la gouvernance dans le cycle de vie
La gouvernance ne doit pas être ajoutée après le déploiement. Il doit être intégré au cycle de vie complet d’un système d’IA.
Cela commence dès la phase de conception. Les organisations doivent définir ce qu’un système est autorisé à faire et où se situent ses limites. Cela peut inclure l’établissement de règles concernant l’utilisation des données et la définition de la manière dont le système doit réagir dans des situations incertaines.
La prochaine étape est le déploiement. À ce stade, la gouvernance se concentre sur l’accès et le contrôle, notamment sur qui peut utiliser le système et à quoi il peut se connecter. Une fois le système opérationnel, la surveillance devient la principale préoccupation. Les systèmes autonomes peuvent évoluer au fil du temps à mesure qu’ils interagissent avec de nouvelles données. Sans contrôles réguliers, ils risquent de s’éloigner de leur objectif initial.
Le rôle de la transparence et de la responsabilité
À mesure que les systèmes d’IA assument davantage de responsabilités, il devient plus difficile de retracer la manière dont les décisions sont prises. Cela crée une demande pour une plus grande transparence. Les travaux de Deloitte soulignent l’importance de suivre le fonctionnement des systèmes. Cela inclut la journalisation des actions et la documentation des décisions. Ces enregistrements aident les organisations à déterminer ce qui s’est passé en cas de problème. Si un système autonome entreprend une action, il doit être clair quant à savoir qui en est responsable.
Une étude de Deloitte montre que l’adoption des agents IA évolue plus rapidement que les contrôles nécessaires pour les gérer. Environ 23 % des entreprises les utilisent déjà, et ce chiffre devrait atteindre 74 % d’ici deux ans. Seuls 21 % déclarent avoir mis en place des mesures de protection solides pour surveiller leur comportement.
Surveillance en temps réel des agents IA
Une fois qu’un système autonome est actif, l’accent est mis sur son comportement dans des conditions réelles. Les règles statiques ne suffisent pas toujours et les systèmes doivent être respectés pendant leur fonctionnement.
L’approche de Deloitte inclut une surveillance en temps réel, permettant aux organisations de suivre ce que fait un système d’IA pendant qu’il exécute des tâches. Si le système se comporte de manière inattendue, les équipes peuvent intervenir rapidement. Cela peut impliquer de suspendre certaines actions ou d’ajuster les autorisations. La surveillance en temps réel contribue également à la conformité. Dans les secteurs réglementés, les entreprises doivent montrer que les systèmes respectent les règles et les normes.
En pratique, ces contrôles commencent à apparaître dans les contextes opérationnels. Deloitte décrit des scénarios dans lesquels les systèmes d’IA surveillent les performances des équipements sur tous les sites. Les données des capteurs peuvent signaler des signes précoces de défaillance, ce qui peut déclencher des flux de travail de maintenance et mettre à jour les systèmes internes. Les cadres de gouvernance définissent les actions que le système peut entreprendre, les moments où l’approbation humaine est requise et la manière dont les décisions sont enregistrées. Le processus s’exécute sur plusieurs systèmes, mais du point de vue de l’utilisateur, il apparaît comme une action unique.
La gouvernance fait partie des discussions de l’AI & Big Data Expo North America 2026, qui se tiendra les 18 et 19 mai à Santa Clara, en Californie. Deloitte est répertorié comme sponsor diamant de l’événement, ce qui le place parmi les entreprises contribuant aux conversations sur la manière dont les systèmes autonomes sont déployés et contrôlés dans la pratique.
Le défi ne consiste pas seulement à créer des systèmes plus intelligents, mais également à garantir qu’ils se comportent de manière à ce que les organisations puissent les comprendre, les gérer et leur faire confiance au fil du temps.
(Photo de Romain)
