Un compagnon d’IA semble dystopique, mais il est devenu un fil conducteur dans la conversation plus large sur les dangers de l’IA générative. Il s’agit essentiellement d’un agent conversationnel conçu pour entretenir une relation personnelle et continue avec un utilisateur, avec la mémoire et la personnalité stable qui la maintiennent cohérente d’une session à l’autre.
L’attachement émotionnel découle souvent de cette conception et constitue de plus en plus un argument de vente. Une grande partie de l’utilisation est un jeu de rôle occasionnel ou simplement la volonté de quelque chose qui se souvient de vous, et sur les bords, la catégorie se transforme en assistants ordinaires. Mais alors que de plus en plus de gens en Chine en sont venus à traiter ces robots comme une sorte de compagnon émotionnel, Pékin a maintenant décidé que cette pratique devait être réglementée.
Les règles chinoises relatives à l’IA entrent en vigueur le 15 juillet et, quelques jours avant la date limite, les deux applications d’IA grand public les plus utilisées du pays ont discrètement désactivé leurs fonctionnalités principales. Doubao de ByteDance a déclaré aux utilisateurs que sa fonction d’agent serait hors ligne le 15 juillet, citant des « ajustements de fonction du produit », tandis que Qwen d’Alibaba a déclaré que ses agents humains et créés par l’utilisateur cesseraient de fonctionner le 10 juillet et ses services d’agent plus larges cinq jours plus tard.
Lisez vite, il semble que la Chine désactive les agents d’IA. Ce n’est pas le cas. Les règles tracent une ligne de démarcation entre l’agent qui fait votre travail et l’agent qui vous tient compagnie, et Pékin s’est opposé seulement au deuxième type d’agent.
Il s’agit de mesures provisoires pour l’administration des services interactifs anthropomorphes d’IA, co-publiées le 10 avril 2026 par l’Administration du cyberespace de Chine et quatre agences partenaires : la Commission nationale du développement et de la réforme, le ministère de l’Industrie et des Technologies de l’information, le ministère de la Sécurité publique et l’Administration d’État pour la régulation du marché.
Il couvre les services qui simulent les traits de personnalité humaine, les schémas de pensée et les styles de communication afin de fournir une interaction émotionnelle soutenue. Les robots de service client, les questions-réponses sur les connaissances, les assistants sur le lieu de travail et les outils de formation et de recherche sont exclus, à condition qu’ils évitent un engagement émotionnel soutenu. Il s’agit du premier cadre national dédié de ce type, et il a pris forme après un projet soumis à commentaires publics à la fin de l’année dernière.
Un problème de conception, pas une interdiction
Doubao et Qwen n’ont pas été frappés par une interdiction. Ils ont été victimes d’un conflit de conception. Les mesures nécessitent des services complémentaires pour gérer des systèmes de lutte contre la toxicomanie, émettre des notifications d’utilisation obligatoires et offrir des mécanismes de sortie instantanée, ainsi qu’une détection en temps réel de la dépendance malsaine.
Ces exigences ne conviennent pas aux agents conçus pour se souvenir d’un utilisateur, rester cohérents d’une session à l’autre et maintenir une relation continue, et plutôt que de moderniser la fonctionnalité, ByteDance a choisi de la fermer. Alibaba semble avoir fait le même appel. ByteDance dirige désormais les utilisateurs de Doubao vers Maoxiang, une application distincte où ils peuvent à nouveau créer des agents ; Alibaba n’a annoncé aucune voie de migration équivalente pour Qwen. Yuanbao de Tencent a sorti une fonctionnalité comparable en juin.
Le coût a été supporté par les utilisateurs. Beaucoup ont ouvertement pleuré les fermetures de Weibo, une affiche décrivant les agents comme un soutien émotionnel de longue date et déplorant l’absence d’un moyen simple d’exporter les historiques de discussion. Doubao permet aux utilisateurs de visualiser leurs configurations et conversations en mode lecture seule jusqu’au 15 octobre de cette année, avant que les données ne soient traitées dans le cadre de sa politique de confidentialité et ne deviennent irrécupérables ; Les utilisateurs de Qwen n’ont bénéficié d’aucun délai de grâce comparable, les données d’agent étant définies pour une suppression permanente.
Ce que prévoient les règles chinoises relatives à l’IA
La substance est plus réfléchie que ne le suggère une répression brutale. Les fournisseurs n’ont pas le droit d’offrir des services de compagnon virtuel ou de membre virtuel de la famille aux mineurs et doivent obtenir le consentement du tuteur avant de servir les utilisateurs de moins de 14 ans. Ils sont tenus de créer des « modes mineurs » dédiés avec des limites de durée d’utilisation, des rappels pour revenir à l’interaction du monde réel et des contrôles parentaux améliorés.
Ils doivent également détecter les utilisateurs en détresse aiguë et intervenir lorsqu’une personne montre des signes d’automutilation, de comportement suicidaire ou de perte financière grave, en les transmettant aux tuteurs désignés ou aux contacts d’urgence. Il est explicitement interdit de créer une dépendance émotionnelle ou une dépendance et d’utiliser la manipulation émotionnelle pour induire des décisions déraisonnables.
La machinerie de conformité est lourde. Les services qui lancent des fonctions anthropomorphes ou dépassent le seuil d’un million d’utilisateurs enregistrés ou de 100 000 actifs mensuels doivent effectuer des évaluations de sécurité couvrant huit domaines, de la gestion des données de formation à la protection mineure, et déposer les rapports auprès des régulateurs provinciaux. Les magasins d’applications doivent vérifier ce statut et supprimer les produits non conformes.
Sur le papier, il s’agit d’un ensemble plus complet de protections des utilisateurs que celles que l’UE, la Federal Trade Commission américaine ou le SB 243 de Californie n’ont encore mis en vigueur.
Ce que les règles laissent ouvert
Ce que les mesures ne règlent pas est tout aussi important. Ils ne fixent aucun seuil technique pour ce qui compte comme une interaction émotionnelle, et cette zone grise est précisément la raison pour laquelle les plates-formes ont supprimé des fonctionnalités entières plutôt que de risquer d’atterrir du mauvais côté. Ils intègrent de véritables obligations de sécurité à des dispositions de contrôle du contenu et de sécurité nationale qui relèvent de l’État plutôt que de l’utilisateur, un ensemble qu’aucun autre régulateur n’importerait en gros.
Ils laissent également ouverte la manière dont la responsabilité est répartie entre les opérateurs de plateforme et les fournisseurs de modèles en amont lorsqu’une violation découle des résultats du modèle, et ils ne donnent aux utilisateurs aucun droit d’exploiter leurs données. Le contexte de l’application des lois accentue ce point. Le régulateur Internet de Shanghai a annoncé le 26 juin qu’il avait supprimé plus de 14 000 agents d’IA non conformes, citant l’usurpation d’identité d’entités officielles, des jeux de rôle vulgaires et la collecte non autorisée de données personnelles.
Que ce soit la bonne direction dépend de la moitié du livre de règles que vous lisez. La partie sécurité concerne les préjudices documentés et largement non réglementés ailleurs, depuis les adolescents qui s’attachent à des chatbots jusqu’aux applications compagnons récoltant des données intimes. L’interprétation officielle de la Chine demande son soutien à l’étranger, citant les procès Character.AI pour préjudice psychologique infligé à des adolescents, les enquêtes de la FTC sur les services d’accompagnement et l’action européenne contre Replika.
Le contrôle donne à moitié à Pékin un levier sur ce que ces systèmes peuvent dire, enveloppé dans le même langage de protection des utilisateurs. Les deux sont réels, et les gouvernements qui suivent l’expérience devront décider quelles parties ils sont prêts à emprunter. Pan Helin, membre du comité d’experts du MIIT, a clairement exposé le cas officiel au Poste du matin de la Chine du Sudaffirmant que « les agents actuels ne sont pas encore matures » et encadrant la politique autour de la sécurité et de la normalisation.
Pour l’instant, les entreprises ont choisi la voie la plus sûre qui s’offre à elles : éteindre les composants et déterminer plus tard à quoi ressemblera une version conforme.
