La confiance dans l’IA agentique s’améliore cependant. OutSystems rapporte que 73 % des personnes interrogées expriment une confiance élevée ou modérée dans la possibilité pour les agents d’agir de manière autonome, soit une augmentation d’environ 10 % par rapport à une enquête similaire menée par l’entreprise l’année dernière. La confiance dans le code ou les flux de travail générés par des outils d’IA tiers est légèrement inférieure, à 67 %, une augmentation substantielle par rapport au chiffre de l’année précédente, où seulement 40 % « faisaient principalement confiance » à l’IA générative pour écrire du code sans aide humaine.
Seulement 36 % des personnes interrogées déclarent disposer d’une approche centralisée de la gouvernance de l’IA, tandis que 64 % déclarent ne pas disposer d’une telle fonctionnalité et 41 % s’appuient sur des règles mises en œuvre pour chaque projet. Les deux tiers déclarent que la création de points de contrôle avec intervention humaine est techniquement difficile, car elle nécessite une orchestration capable de mettre les agents en pause, ce qui revient à insérer un freinage manuel sur des opérations qui pourraient être entièrement autonomes.
De nombreuses organisations semblent déployer des modèles de surveillance plus souples, même s’il n’est pas clair si cela est dû à une plus grande confiance dans les modèles ou si les fonctions commerciales sont sous pression pour déployer l’IA indépendamment des problèmes de sécurité ou de fiabilité. Si la tendance à l’assouplissement de la surveillance se poursuit, les auteurs du rapport notent que l’adoption de l’IA agentique pourrait progresser plus rapidement que les méthodes de responsabilisation que beaucoup considèrent comme importantes.
Selon les résultats de l’enquête, les entreprises qui souhaitent faire évoluer leurs agents dans des environnements réglementés ou critiques devraient considérer l’orchestration et l’auditabilité comme faisant partie du produit. Lorsque les contrôles de conformité portent sur les opérations d’une entreprise, les fils d’Ariane sous forme de fichiers journaux et de responsabilités définies sont considérés comme des éléments importants de tout déploiement d’IA agentique.
Le rapport indique que 94 % des dirigeants sont préoccupés par « la prolifération de l’IA », qui n’est pas définie, mais pourrait être déduite d’un manque de plateforme de gestion centralisée qui supervise tous les déploiements d’IA dans l’entreprise. 39 % sont très ou extrêmement préoccupés par le problème, et seulement 12 % utilisent actuellement une plateforme centralisée pour contrôler cette prolifération.
L’enquête complète peut être consultée ici.
(Source de l’image : « Relax » de Koijots est sous licence CC BY-SA 2.0. Pour afficher une copie de cette licence, visitez https://creativecommons.org/licenses/by-sa/2.0)
