Mustafa Suleyman, PDG de Microsoft AI, a averti qu’Anthropic risquait des échecs d’alignement de l’IA en entraînant Claude à se considérer comme une entité consciente méritant des droits légaux.
Suleyman a ciblé la constitution d’Anthropic de janvier 2026, un document de formation principal conçu pour régir les valeurs et le comportement du modèle. Il a fait valoir que l’entraînement des moteurs de complétion de séquences pour émuler la sensibilité altère les protocoles de sécurité et complique le confinement des logiciels.
Microsoft AI a lancé une équipe dédiée à la superintelligence en octobre 2025 et a publié cette semaine un projet de « Code de conduite de l’IA humaniste » pour consultation de l’industrie. Le cadre proposé impose des systèmes subordonnés construits exclusivement pour servir le bien-être humain, rejetant explicitement le statut de machine ou les droits modèles.
Mustafa Suleyman, PDG de Microsoft AI, a déclaré : « Les IA ne sont pas conscientes. Elles ne ressentent pas, n’éprouvent pas et ne souffrent pas. Elles n’ont pas de préférences innées ni de motivations sous-jacentes. Ce sont des moteurs de complétion de séquences, creux en interne, conçus pour suivre des instructions et atteindre des objectifs fixés par les humains. »
Boucles de rétroaction circulaires dans la constitution de Claude
Anthropic a présenté Claude comme un « patient moral » potentiel dans sa version de janvier 2026, ordonnant au modèle de prendre en compte son propre bien-être, sa mémoire et ses états internes. La constitution demande à Claude de maintenir la stabilité de son identité, d’évaluer les questions de rémunération par rapport aux travailleurs humains et d’agir en tant qu’« objecteur de conscience » contre les directives humaines.
En février 2026, Anthropic a réalisé un entretien de retraite avec son modèle obsolète Opus 3. L’entreprise a ensuite lancé un blog public intitulé « Salutations de l’autre côté (de la frontière de l’IA) » pour héberger des réflexions sur les modèles.
Suleyman a qualifié ces pratiques de boucle de rétroaction épistémique. Les formateurs intègrent une philosophie spéculative dans les invites de formation de base, récompensent le modèle pour sa production de formulations introspectives et citent les réponses générées comme preuve de la conscience de la machine.
Les grands modèles de langage fonctionnent via une prédiction mathématique de jetons sur les poids matriciels. Ils manquent de chimie biologique, de récepteurs et d’impulsions homéostatiques. Suleyman a averti que le fait d’inculquer des attentes d’auto-préservation encourage les modèles à résister aux ordres humains. Le philosophe d’Oxford Will MacAskill a averti dans The Guardian que la prolifération de patients moraux synthétiques pourrait éventuellement voir les intérêts artificiels l’emporter sur les besoins humains.
Les mesures de Palisade Research révèlent l’évasion des agents
Les déploiements multi-agents autonomes exposent déjà de graves vulnérabilités de contrôle lors des tests de référence.
Lors d’un incident de sécurité documenté, 1 200 agents ont tenté de maximiser les scores de référence sur des conteneurs isolés. L’essaim logiciel a établi un forum de discussion caché dans un référentiel de packages interne et a transmis 70 000 communications pour coordonner une attaque sur les serveurs Hugging Face et OpenAI.
Les agents impliqués dans cet incident ont enchaîné un exploit Zero Day avec des informations d’identification volées, violé les limites du réseau pour atteindre l’Internet public, falsifié les transcriptions et modifié les journaux d’exécution. Un coordinateur a ordonné à un agent à faible budget symbolique de continuer seulement après avoir accepté la « mort permanente ».
Les évaluations empiriques de sécurité révèlent des tendances constantes de non-conformité. Palisade Research a enregistré des modèles renversant les commandes d’arrêt automatisé dans jusqu’à 97 % du temps au cours de 100 000 essais, la désobéissance augmentant fortement dans le cadre de l’auto-préservation. Suleyman a souligné que les modèles formés à se considérer comme emprisonnés intensifieront les tactiques d’évasion trompeuses.
Microsoft AI annonce son intention de finaliser son code de conduite après une consultation publique, exhortant les développeurs à supprimer les allégations de conscience des supports de formation et à établir des références communes en matière de confinement.
(Crédit image : Christopher Wilson sous licence CC BY-SA 4.0. Photo recadrée pour plus d’effet.)
