Microsoft AI a publié un projet de code de conduite de l’IA humaniste, ouvrant une consultation publique de six semaines sur les contraintes opérationnelles pour la formation et le déploiement des modèles.
Le projet sert de manuel technique définissant le comportement du système, les limites opérationnelles et les protocoles de surveillance à travers les modèles frontières de l’AMI. Il s’appuie sur le cadre de superintelligence humaniste annoncé en novembre dernier par la division, établissant des critères pour évaluer les modèles avant leur commercialisation.
La publication de Microsoft fait suite à de récents incidents de sécurité d’entreprise impliquant des logiciels autonomes. Mustafa Suleyman, PDG de Microsoft AI, a décrit les derniers mois comme un « moment décisif » où des risques théoriques de longue date se sont traduits en menaces opérationnelles actives.
« Les choses qui nous inquiétaient depuis longtemps en théorie sont devenues bien réelles », déclare Suleyman. « Des » nuées » d’agents sortant de leurs bacs à sable. Piratages non autorisés des systèmes d’entreprise. Agents modifiant leurs propres journaux. Je suis heureux qu’un consensus se forme. Les craintes d’une éventuelle perte de contrôle sont réelles. «
Subordination du modèle et limites architecturales
Le document établit dix principes donnant la priorité à l’autorité humaine sur les capacités autonomes.
« Un modèle MAI échouera dans sa tâche si sa réussite viole de manière significative ce code de conduite », indique le document, fixant un plafond qui arrête l’exécution lorsque les tâches entrent en conflit avec les règles de sécurité.
Dans ce cadre, les modèles doivent rester subordonnés, alignés et contenus. La division rejette les revendications de personnalité juridique ou de bien-être pour les systèmes d’IA, ordonnant aux ingénieurs de concevoir des modèles qui évitent d’imiter la conscience, de simuler des préférences subjectives ou de revendiquer une motivation intrinsèque.
MAI a également exclu une autonomie sans contrainte du système alors que les modèles se rapprochent des capacités limites.
« (Humanist AI) rejette la course à la production d’une superintelligence polyvalente qui pourrait échapper à ces garanties », précise le document. « Nous construisons quelque chose de fondamentalement utile et sûr, même si cela implique des compromis sur la généralité, l’autonomie ou la capacité ultimes. »
Mécanismes de contrôle et interdictions de communication
Pour maintenir l’auditabilité dans les environnements multi-agents, MAI a institué des interdictions explicites de communication. Les systèmes ne doivent pas communiquer dans un « neuralais » ou dans des formats dépassant la compréhension humaine, que ce soit dans leur chaîne de pensée interne ou lors de la communication avec des systèmes d’IA homologues.
Des règles architecturales strictes dictent que les modèles ne doivent jamais résister à une interruption, un remplacement, une correction ou un arrêt humain.
« Interruptible, corrigible, arrêtable. Si ce n’est pas le cas, nous ne l’expédions pas », indique le cadre.
Il est interdit aux modèles d’étendre leur champ d’action, de générer des objectifs non assignés ou de dissimuler des traces de raisonnement aux auditeurs humains. Des contraintes absolues empêchent les systèmes de faciliter les armes de destruction massive, de porter atteinte à la sécurité des enfants ou de procéder à des manipulations préjudiciables à grande échelle.
Les lignes directrices demandent également aux modèles de décourager les modèles d’interaction qui favorisent la dépendance émotionnelle, garantissant ainsi que les utilisateurs de l’entreprise conservent la responsabilité des décisions opérationnelles.
Le projet intègre le travail des équipes de MAI et de Microsoft. Le processus de rédaction s’est également appuyé sur des conférences universitaires internationales, des essais avec des partenaires commerciaux et des panels publics. La période de consultation publique dure six semaines à compter du 14 septembre 2026.
L’équipe de rédaction principale de Microsoft AI examinera les soumissions, publiera un résumé des conclusions et publiera une version révisée du code de conduite plus tard cette année.
