Les critiques craignent que la loi révisée No Fakes ne soit passée de la protection ciblée de l’IA Deepfakes en des pouvoirs de censure balayants.
Ce qui a commencé comme une tentative apparemment raisonnable de lutter contre les Deepfakes générés par l’IA, a fait boule de neige en quelque chose de beaucoup plus troublant, selon les défenseurs des droits numériques. Le Nurture Originals, Foster Art et maintenir un acte de divertissement (pas de contrefaçon) – à l’origine à l’origine à l’origine de prévenir les répliques numériques non autorisées des personnes – menace désormais de modifier fondamentalement le fonctionnement d’Internet.
L’expansion du projet de loi a mis des sonnettes d’alarme qui sonnent dans la communauté technologique. Il est allé bien au-delà de la simple protection des célébrités des fausses vidéos à potentiellement de créer un cadre de censure radical.
Des garanties sensibles à l’approche du marteau
L’idée initiale n’était pas entièrement erronée: créer des protections contre les systèmes d’IA générant de fausses vidéos de vraies personnes sans autorisation. Nous avons tous vu ces profondeurs troubles circuler en ligne.
Mais plutôt que de fabriquer des mesures étroites et ciblées, les législateurs ont opté pour ce que la Fondation Frontier électronique appelle un «système de licence fédéral d’image» qui va bien au-delà des protections raisonnables.
« Le projet de loi mis à jour double cette approche erronée initiale », note l’EFF, « en obligeant une toute nouvelle infrastructure de censure pour ce système, englobant non seulement des images mais les produits et services utilisés pour les créer. »
Ce qui est particulièrement inquiétant, c’est l’exigence de No Fakes Act pour presque toutes les plateformes Internet pour implémenter des systèmes qui non seulement supprimeraient le contenu après avoir reçu des avis de retrait, mais empêcheront également le contenu similaire d’être à nouveau téléchargé. Essentiellement, cela oblige les plateformes à déployer des filtres de contenu qui se sont révélés notoirement peu fiables dans d’autres contextes.
Effrayant l’innovation
Peut-être que le plus préoccupant pour le secteur de l’IA est la façon dont le NO FAKES ACT cible les outils eux-mêmes. Le projet de loi révisé n’irait pas seulement après un contenu nocif; Il fermerait potentiellement des plates-formes de développement entières et des outils logiciels qui pourraient être utilisés pour créer des images non autorisées.
Cette approche semble rappeler d’essayer d’interdire les traitements de texte parce que quelqu’un pourrait en utiliser un pour écrire du contenu diffamatoire. Le projet de loi comprend certaines limites (par exemple, les outils doivent être «principalement conçus» pour faire des répliques non autorisées ou avoir d’autres utilisations commerciales limitées), mais ces distinctions sont notoirement sujettes à l’interprétation.
De petites startups britanniques s’aventurant dans la génération d’images de l’IA pourraient se retrouver prises dans des batailles juridiques coûteuses basées sur des allégations fragiles bien avant d’avoir la possibilité de s’établir. Pendant ce temps, les géants de la technologie avec des armées d’avocats peuvent mieux résister à de telles tempêtes, potentiellement ancré leur domination.
Quiconque a traité avec le système de contenu de YouTube ou des outils de filtrage de droit d’auteur similaires sait à quel point ils peuvent être frustrants. Ces systèmes signalent régulièrement un contenu légitime comme les musiciens exécutant leurs propres chansons ou créateurs en utilisant du matériel sous des dispositions de transactions équitables.
La loi No Fakes obligerait efficacement les systèmes de filtrage similaires sur Internet. Bien qu’il comprenne des sculptures pour la parodie, la satire et les commentaires, l’application de ces distinctions algorithmique s’est avérée pratiquement impossible.
«Ces systèmes signalent souvent des choses similaires mais pas les mêmes», explique l’EFF, «comme deux personnes différentes jouant le même morceau de musique de domaine public».
Pour les petites plateformes sans ressources à l’échelle de Google, la mise en œuvre de ces filtres pourrait s’avérer prohibitive. Le résultat probable? Beaucoup se feraient simplement sur censoir pour éviter les risques juridiques.
En fait, on pourrait s’attendre à ce que les grandes entreprises technologiques s’opposent à une telle réglementation radicale. Cependant, beaucoup sont restés visiblement silencieux. Certains observateurs de l’industrie suggèrent que ce n’est pas une coïncidence – les géants établis peuvent absorber plus facilement les coûts de conformité qui écraseraient les petits concurrents.
« Ce n’est probablement pas une coïncidence que certains de ces mêmes géants soient d’accord avec cette nouvelle version de No Fakes », note l’EFF.
Ce modèle se répète tout au long de l’histoire de la réglementation technologique – ce qui semble être la réglementation régnant dans Big Tech finit souvent par cimenter leur position sur le marché en créant des obstacles trop coûteux pour les nouveaux arrivants.
Aucun acte de contrefaçon menace le discours anonyme
Niché dans la législation est une autre disposition troublante qui pourrait exposer les internautes anonymes sur la base de simples allégations. Le projet de loi permettrait à quiconque d’obtenir une assignation auprès d’un commis de tribunal – sans revue judiciaire ni preuve – forçant les services à révéler des informations d’identification sur les utilisateurs accusés d’avoir créé des répliques non autorisées.
L’histoire montre que de tels mécanismes sont mûrs pour abus. Les critiques avec des points valides peuvent être démasqués et potentiellement harcelés lorsque leur commentaire comprend des captures d’écran ou des citations des personnes mêmes essayant de les faire taire.
Cette vulnérabilité pourrait avoir un effet profond sur la critique légitime et la dénonciation. Imaginez exposer une faute d’entreprise uniquement pour que votre identité soit révélée par le biais d’un processus d’assignation d’établissement en caoutchouc.
Cette pression pour une réglementation supplémentaire semble étrange étant donné que le Congrès a récemment adopté l’acte de reprise, qui cible déjà des images impliquant un contenu intime ou sexuel. Cette législation elle-même a soulevé des problèmes de confidentialité, en particulier en matière de surveillance des communications cryptées.
Plutôt que d’évaluer les impacts de la législation existante, les législateurs semblent déterminés à avancer avec des restrictions plus larges qui pourraient remodeler la gouvernance Internet pour les décennies à venir.
Les semaines à venir s’avéreront essentielles à mesure que la loi No Fakes passe par le processus législatif. Pour tous ceux qui apprécient la liberté d’Internet, l’innovation et les approches équilibrées pour les défis technologiques émergents, cela est en effet en effet regardé.
(Photo de Markus Spiske)
