E.SUN Bank travaille avec IBM pour élaborer des règles de gouvernance de l’IA plus claires sur la manière dont l’intelligence artificielle peut être utilisée au sein d’une banque. Cet effort reflète un changement plus large dans le domaine financier. De nombreuses entreprises utilisent déjà l’IA pour les contrôles de fraude et l’évaluation du crédit, et certaines l’utilisent également pour traiter les requêtes du service client. Le nouveau défi consiste à savoir comment gérer ces systèmes de manière à respecter les règles juridiques et en matière de risques.
Les banques sont confrontées à une liste croissante de questions à mesure qu’elles déploient l’IA. Comment tester un modèle avant sa mise en ligne ? Qui est responsable en cas de mauvais appel ? Et comment les entreprises peuvent-elles prouver aux régulateurs que leurs systèmes sont équitables et sûrs ?
Pour résoudre ces problèmes, E.SUN Bank et IBM Consulting ont créé un cadre de gouvernance de l’IA pour le secteur bancaire. Le projet comprend également un livre blanc sur la gouvernance de l’IA qui explique comment les sociétés financières peuvent mettre en place des contrôles internes autour des systèmes d’IA. Selon le communiqué de presse des entreprises, le travail adapte des normes mondiales telles que la loi européenne sur l’IA et la norme ISO/IEC 42001 pour les services financiers.
Le cadre explique comment les banques peuvent examiner les modèles d’IA avant leur déploiement. Il explique également comment ces modèles doivent être surveillés après leur entrée en production. Il comprend des règles sur la manière dont les données sont utilisées et sur la manière dont les examens des risques doivent avoir lieu.
La banque E.SUN a déclaré que le cadre vise à aider les institutions financières à introduire des systèmes d’IA tout en maintenant la gouvernance et la surveillance réglementaire. De nombreuses entreprises utilisent déjà des outils d’IA limités. La prochaine étape consiste à étendre ces systèmes à des opérations de base telles que les prêts et les paiements, tout en respectant les limites réglementaires.
Les banques tentent de gérer les risques liés à l’IA
Les sociétés financières ont de bonnes raisons de placer des garde-fous autour des systèmes d’IA. Le secteur bancaire repose sur la confiance et les régulateurs exigent que les entreprises suivent la manière dont les décisions sont prises. Les modèles d’IA agissent souvent comme des « boîtes noires », ce qui signifie qu’il peut être difficile d’expliquer comment ils arrivent à un résultat. Cela peut créer des problèmes dans des domaines tels que les décisions de crédit ou les contrôles de fraude. Les régulateurs de nombreuses régions ont commencé à se concentrer sur ces risques.
La loi de l’Union européenne sur l’IA, adoptée en 2024, impose des règles strictes aux systèmes d’IA utilisés dans des secteurs à haut risque comme la finance. La loi oblige les entreprises à évaluer les risques et à documenter les données de formation. Cela les oblige également à surveiller le comportement des modèles d’IA après le déploiement.
Des normes mondiales prennent également forme. La norme ISO/IEC 42001, publiée en 2023, explique comment les organisations peuvent créer des systèmes de gestion pour l’IA. La norme se concentre sur la surveillance et le suivi des modèles. Il explique également comment les organisations doivent gérer les données d’IA. L’objectif est de donner aux entreprises une manière structurée de gérer l’IA dans l’ensemble de l’entreprise plutôt que de traiter chaque modèle comme un outil distinct.
Le projet de la banque E.SUN avec IBM s’inspire des deux cadres. Il vise à montrer comment ces règles pourraient fonctionner dans les opérations bancaires quotidiennes.
Des pilotes d’IA aux systèmes d’entreprise
Les banques utilisent l’apprentissage automatique depuis des années, principalement pour l’analyse des risques et la détection des fraudes. Les nouveaux modèles d’IA élargissent la manière dont les banques utilisent la technologie. Beaucoup l’appliquent désormais au service client et à la révision de documents. Certains l’utilisent également dans des systèmes de connaissances internes.
Cette expansion entraîne de nouveaux besoins en matière de gouvernance. Un système qui suggère des réponses aux requêtes des clients peut sembler à faible risque. Mais un modèle permettant d’approuver des prêts ou de détecter des fraudes peut avoir des effets financiers directs.
Le cadre de gouvernance créé par E.SUN Bank et IBM définit un processus pour suivre ces risques. Les modèles sont examinés avant leur mise en ligne et les équipes surveillent leur résultat après le déploiement. Le cadre attribue également des responsabilités à toutes les équipes, des développeurs au personnel de conformité. Le projet a également produit un livre blanc expliquant les étapes plus en détail. Il explique comment les banques peuvent classer les systèmes d’IA par niveau de risque et appliquer différents niveaux de surveillance.
La gouvernance de l’IA s’étend à tous les services financiers
Le travail de la banque E.SUN reflète une tendance dans la finance mondiale. De nombreuses banques considèrent désormais la gouvernance comme une étape clé avant d’étendre l’IA à l’ensemble de leurs opérations.
Les enquêtes sectorielles suggèrent que l’adoption de l’IA dans les services financiers est déjà répandue. Un rapport de 2024 de NVIDIA a révélé qu’environ 91 % des sociétés de services financiers évaluaient ou utilisaient déjà l’IA. Les utilisations courantes incluent la détection de la fraude et la modélisation des risques. Certaines banques utilisent également l’IA pour automatiser les tâches de service client.
Une étude de Deloitte montre que plus de 70 % des institutions financières prévoient d’augmenter leurs investissements dans l’IA. Une grande partie de ces dépenses est destinée au contrôle de la conformité et à l’analyse des risques. Certaines banques s’attendent également à ce que l’IA améliore les opérations internes.
Dans le même temps, les régulateurs y prêtent une plus grande attention. Les autorités de plusieurs régions ont averti les banques de surveiller l’impact des systèmes automatisés sur les décisions telles que l’approbation du crédit et la détection des fraudes. Cette pression a conduit les banques à investir davantage dans les systèmes de contrôle interne. Au lieu de se concentrer uniquement sur la précision des modèles, les entreprises suivent désormais également les sources de données et la logique décisionnelle. Beaucoup surveillent également le comportement des modèles au fil du temps.
Pourquoi la gouvernance peut façonner l’adoption de l’IA
La pression en faveur d’une gouvernance de l’IA pourrait influencer la rapidité avec laquelle les banques adopteront de nouveaux outils. Sans règles claires, de nombreuses entreprises hésitent à aller au-delà de petites expériences. Un cadre structuré peut les aider à développer leurs projets d’IA tout en répondant aux exigences réglementaires.
C’est l’idée derrière le projet de la Banque E.SUN. En combinant les normes mondiales avec les flux de travail bancaires, le cadre définit comment l’IA peut être déployée sous une surveillance claire. Selon l’annonce des sociétés, IBM a déclaré que le cadre avait été développé pour aider les institutions financières à gérer les risques liés à l’IA à mesure qu’elles élargissent leur utilisation de l’IA dans le secteur bancaire.
Cet effort reflète également le rôle croissant de la gouvernance dans l’IA d’entreprise. Les premiers projets d’IA se concentraient sur la création de modèles et l’amélioration des performances. Aujourd’hui, l’attention se porte désormais sur la façon dont ces systèmes sont gérés au fil du temps. À mesure que de plus en plus de banques intègrent l’IA à leurs opérations principales, cette question pourrait devenir tout aussi importante que la technologie elle-même.
(Photo de Markus Spiske)
