Mark Zuckerberg a publié un article d’opinion dans le WSJ qui soutient que la superintelligence doit atteindre les individus, et pas seulement une poignée d’institutions.
Le chef de Meta a publié l’article comme une déclaration de la philosophie de l’entreprise plutôt que comme une annonce de produit. Il ne contient aucune date de sortie, aucun chiffre de référence, aucun modèle nommé. Ce qu’il contient, c’est l’argument selon lequel la question centrale à laquelle est confrontée l’industrie n’est pas de savoir si la superintelligence arrivera, mais plutôt de savoir qui pourra l’utiliser une fois qu’elle arrivera.
Zuckerberg estime que le choix est binaire : des systèmes concentrés au sein d’un petit nombre d’institutions, ou des systèmes distribués sous forme d’outils que les individus contrôlent directement. Il appelle sa version préférée « superintelligence personnelle » et engage Meta à s’appuyer sur trois principes énoncés : l’autonomisation individuelle comme source de prospérité, l’invention comme objectif principal de la superintelligence et l’équilibre des pouvoirs comme fondement de la sécurité.
Meta vise les laboratoires rivaux de superintelligence de l’IA
L’éditorial passe plus de temps à critiquer le ton de l’industrie qu’à décrire le propre travail technique de Meta.
Zuckerberg écrit qu’il est « surprenant que le discours de beaucoup de ceux qui développent l’intelligence artificielle soit si catastrophique », et se demande pourquoi quiconque est convaincu que l’IA « éliminera la plupart des emplois et une grande partie de la pertinence de l’humanité » se précipiterait alors pour la construire.
Il va plus loin, qualifiant de « dangereuse » en soi l’idée selon laquelle le danger de l’IA justifie la concentration du pouvoir entre quelques mains, et ajoute que « l’espoir qu’un pouvoir absolu subvienne aux besoins de l’humanité avec bienveillance s’il est suffisamment éclairé n’a pas conduit à des résultats sûrs ou positifs ».
Aucun des laboratoires qu’il décrit n’est nommé dans l’article, mais je suis sûr que les lecteurs peuvent fournir eux-mêmes ces détails. Ce que l’éditorial établit est une affirmation de positionnement : Meta veut être lu comme une entreprise plaidant en faveur d’une large distribution contre un domaine qu’elle caractérise comme tendant vers la centralisation.
Pour illustrer son propos, Zuckerberg demande à ses lecteurs d’imaginer une seule personne ayant accès à un avocat superintelligent, obtenant « un avantage injuste devant le tribunal – même si sa position était erronée sur le fond », ce qui, selon lui, « conduirait à une société pire ».
Cependant, Zuckerberg inverse ensuite le scénario : tout le monde a un avocat super intelligent, et « la justice serait rendue beaucoup plus équitable et efficace qu’elle ne l’est aujourd’hui ».
C’est une expérience de pensée, pas un déploiement. Il n’y a aucun programme pilote, système judiciaire ou partenaire de services juridiques référencé nulle part dans le matériel source, et l’article doit être lu comme une analogie soutenant l’affirmation plus large de Zuckerberg selon laquelle l’accès généralisé contrôle le pouvoir concentré plutôt qu’une description de tout ce que Meta a construit ou testé.
Le même schéma vaut pour ses références historiques. Il cite « les frères d’un magasin de vélos qui croyaient que les gens pouvaient voler », « l’apprenti relieur sans instruction qui a compris comment produire de l’électricité » et « l’enfant dans un garage qui pensait que les ordinateurs personnels pouvaient être pour tout le monde » comme preuves que le progrès tend à venir des individus plutôt que des institutions.
L’article d’opinion fait valoir une affirmation directement pertinente pour la planification d’entreprise : l’équilibre entre l’IA en tant qu’outil d’automatisation et outil d’autonomisation. Zuckerberg écrit que « si la balance penche en faveur de l’automatisation, l’impact sur l’emploi et l’économie pourrait être négatif ».
La contre-position de Zuckerberg est qu’une large diffusion de la superintelligence génère plus d’emplois, et non moins, en grande partie parce que démarrer une entreprise devient possible « sans lever de gros capitaux ». Il s’attend à ce que l’économie s’oriente vers « un plus grand nombre de personnes travaillant dans des petites entreprises plutôt que dans des grandes entreprises ».
Les catégories de risque liées à l’IA sont traitées de manière inégale
Zuckerberg fait une distinction entre les types de risques, et cette distinction est utile pour quiconque tente de déterminer ce que Meta considère comme gérable par rapport à ce qu’il considère comme nécessitant une coordination externe.
Concernant la cybersécurité, il affirme que « l’histoire des logiciels open source a montré que donner à chacun un accès complet à des systèmes puissants sera le meilleur moyen de protéger la sûreté et la sécurité au fil du temps ». Sur les risques biologiques, sa position est différente : il appelle à « davantage de coordination entre les gouvernements et les autres institutions pour déployer de manière responsable des modèles performants ».
C’est une séparation significative. Une catégorie bénéficie d’un argument en libre accès fondé sur l’histoire du logiciel ; l’autre se voit admettre que la coordination gouvernementale est nécessaire. L’article d’opinion ne concilie pas la manière dont une entreprise engagée dans une large distribution gère la deuxième catégorie dans la pratique, et ce n’est pas nécessaire pour les besoins d’une chronique d’opinion.
Rien dans l’article ne précise comment la « superintelligence personnelle » serait présentée, tarifée ou régie au sein d’une organisation. Il n’y a aucune mention des contrôles d’entreprise, de la gestion des données, de l’architecture de déploiement ou des niveaux d’accès au modèle.
Zuckerberg conclut en déclarant que « Meta s’engage à construire avec les principes d’autonomisation individuelle, d’invention et d’équilibre des pouvoirs », ce qui est une déclaration d’intention plutôt qu’une feuille de route. L’article d’opinion indique où Zuckerberg souhaite que l’argument se situe, mais il ne dit pas ce que Meta livrera, quand ou selon quelles conditions de gouvernance.
