La société de paiement numérique et de technologie financière Ant International a remporté le concours NeurIPS d’équité dans la détection des visages par l’IA. La société affirme s’être engagée à développer des services financiers sécurisés et inclusifs, d’autant plus que les technologies de deepfake sont de plus en plus courantes.
L’utilisation croissante de la reconnaissance faciale dans de nombreux secteurs a mis en lumière la question des biais algorithmiques dans l’IA. Une recherche menée par le NIST (National Institute of Standards and Technology) montre que de nombreux algorithmes de reconnaissance faciale largement utilisés affichent des taux d’erreur considérablement plus élevés lors de l’analyse des visages des femmes et des personnes de couleur, une disparité qui découle du manque de diversité des données de formation et des caractéristiques démographiques de ceux qui construisent et contrôlent de nombreuses plateformes d’IA grand public. Les conséquences d’algorithmes biaisés peuvent conduire au refus de services financiers à de larges pans de la population et sont considérées comme une vulnérabilité des protocoles de sécurité.
Le concours NeurIPS s’est tenu parallèlement à la Conférence sur les systèmes de traitement de l’information neuronale, la très respectée conférence sur l’IA, et a mis les participants au défi de créer des modèles d’IA capables de hautes performances et d’équité couvrant une gamme de facteurs démographiques : sexe, âge et teint. L’équipe d’Ant International a battu plus de 2 100 candidatures provenant de 162 équipes venant du monde entier. La tâche confiée consistait à détecter avec précision 1,2 million d’images de visages générées par l’IA, choisies comme étant correctement représentatives des groupes démographiques.
L’approche adoptée par le modèle d’IA gagnant d’Ant combine une architecture Mixture of Experts (MoE) avec un mécanisme de détection de biais. Le système entraîne deux réseaux de neurones concurrents : l’un axé sur l’identification des deepfakes et l’autre conçu pour défier le premier, l’obligeant à ignorer les caractéristiques démographiques. Ce processus dynamique permet de garantir que le système apprend à détecter de véritables signes de manipulation plutôt que de s’appuyer par inadvertance sur des modèles démographiques. La formation du modèle a incorporé un ensemble de données représentatif à l’échelle mondiale et des scénarios de fraude aux paiements réels pour garantir ses performances à grande échelle.
« Un système d’IA biaisé est intrinsèquement non sécurisé », a expliqué le Dr Tianyi Zhang, directeur général de la gestion des risques et de la cybersécurité chez Ant International. « L’équité de notre modèle n’est pas seulement une question d’éthique ; elle est fondamentale pour empêcher l’exploitation des deepfakes et garantir une vérification fiable de l’identité de chaque utilisateur ».
La technologie derrière l’entrée gagnante est désormais intégrée aux services de paiement et financiers d’Ant pour aider à contrer la menace des deepfakes, et les sociétés affirment qu’elle atteint un taux de détection supérieur à 99,8 % dans tous les segments démographiques et sur les 200 marchés dans lesquels Ant opère.
La technologie d’Ant aide ses clients à répondre aux normes mondiales Electronic Know Your Customer (eKYC), en particulier lors de l’intégration des clients, sans biais algorithmique. Cela est considéré comme particulièrement important sur les marchés émergents où une plus grande inclusion financière peut être entravée.
Ant International sert plus de 150 millions de commerçants et 1,8 milliard de comptes d’utilisateurs, connus pour des services comme Alipay+, Antom, Bettr et WorldFirst. La société a déclaré que la sécurité de l’IA est un pilier de ses opérations. Son AI SHIELD, un cadre de gestion des risques basé sur AI Security Docker pour aider à atténuer le risque de vulnérabilités dans les services d’IA telles que les accès non autorisés et les fuites de données.
AI SHIELD sous-tend une suite de solutions de gestion des risques qui offrent une protection plus large des transactions financières, y compris des mesures contre les attaques de deepfake et la fraude. Alipay+ EasySafePay 360 a réduit de 90 % les incidents de piratage de compte dans les paiements par portefeuille numérique, indique la société.
(Source de l’image : « art abstrait d’un beau portrait, formes solides, formes géométriques, couleurs neotokyo, couleurs sourdes, pixar, artstation, greg rutkowski, samdoesart, ge » – domaine public)
