Une équipe Powerhouse a lancé une nouvelle initiative intitulée «Faire AI différemment», qui appelle à une approche centrée sur l’homme du développement futur.
Pendant des années, nous avons traité les résultats de l’IA comme ils sont les résultats d’un problème mathématique géant. Mais les chercheurs – de l’Alan Turing Institute, de l’Université d’Édimbourg, de l’AHRC-Ukri et de la Lloy’s Register Foundation – derrière ce projet disent que c’est la mauvaise façon de l’examiner.
Ce que l’IA crée, ce sont essentiellement des artefacts culturels. Ils sont plus comme un roman ou une peinture qu’une feuille de calcul. Le problème est que l’IA crée cette «culture» sans en comprendre. C’est comme quelqu’un qui a mémorisé un dictionnaire mais n’a aucune idée de la façon de tenir une vraie conversation.
C’est pourquoi l’IA échoue souvent lorsque «les nuances et le contexte comptent le plus», explique le professeur Drew Hemment, leader du thème pour les technologies d’interprétation pour la durabilité à l’Institut Alan Turing. Le système n’a tout simplement pas la «profondeur d’interprétation» pour obtenir ce qu’elle dit vraiment.
Cependant, la majeure partie de l’IA dans le monde est construite sur une poignée de conceptions similaires. Le rapport appelle cela le «problème d’homogénéisation» et le développement futur de l’IA doit le surmonter.
Imaginez si chaque boulanger du monde utilisait exactement la même recette. Vous obtiendrez beaucoup de gâteaux identiques et franchement ennuyeux. Avec l’IA, cela signifie les mêmes angles morts, les mêmes biais et les mêmes limitations sont copiées et collées dans des milliers d’outils que nous utilisons chaque jour.
Nous avons vu cela se produire avec les médias sociaux. Il a été déployé avec des objectifs simples, et nous vivons maintenant avec les conséquences sociétales involontaires. L’équipe «Faire Ai différemment» sonne l’alarme pour s’assurer que nous ne faisons pas la même erreur avec l’IA.
L’équipe a un plan pour construire un nouveau type d’IA, celui qu’ils appellent l’interprétation AI. Il s’agit de concevoir des systèmes dès le début à travailler comme les gens; avec ambiguïté, plusieurs points de vue et une compréhension approfondie du contexte.
La vision est de créer des technologies d’interprétation qui peuvent offrir plusieurs perspectives valides au lieu d’une seule réponse rigide. Cela signifie également explorer des architectures d’IA alternatives pour briser le moule des conceptions actuelles. Plus important encore, l’avenir ne concerne pas l’IA qui nous remplace; Il s’agit de créer des ensembles humains-AI où nous travaillons ensemble, combinant notre créativité avec le pouvoir de traitement de l’IA pour résoudre d’énormes défis.
Cela a le potentiel de toucher nos vies de manière très réelle. Dans les soins de santé, par exemple, votre expérience avec un médecin est une histoire, pas seulement une liste de symptômes. Une IA d’interprétation pourrait aider à capturer cette histoire complète, améliorant vos soins et votre confiance dans le système.
Pour l’action climatique, cela pourrait aider à combler l’écart entre les données climatiques mondiales et les réalités culturelles et politiques uniques d’une communauté locale, créant des solutions qui fonctionnent réellement sur le terrain.
Un nouvel appel de financement international est lancé pour rassembler des chercheurs du Royaume-Uni et du Canada dans cette mission. Mais nous sommes à la croisée des chemins.
«Nous sommes à un moment central pour l’IA», prévient le professeur Hemment. «Nous avons une fenêtre de rétrécissement pour construire des capacités d’interprétation à partir de zéro».
Pour des partenaires comme Lloyd’s Register Foundation, tout se résume à une chose: la sécurité.
«En tant que charité mondiale de sécurité, notre priorité est de garantir que les futurs systèmes d’IA, quelle que soit la forme qu’ils prennent, sont déployés de manière sûre et fiable», explique leur directeur des technologies, Jan Przydatek.
Il ne s’agit pas seulement de créer une meilleure technologie. Il s’agit de créer une IA qui peut aider à résoudre nos plus grands défis et, ce faisant, à amplifier les meilleures parties de notre propre humanité.
(Photo de Ben Sweet)
