Deux douzaines d’entreprises et d’organisations ont signé une lettre ouverte exhortant les décideurs politiques américains à protéger les modèles d’IA ouverts.
La lettre, publiée aujourd’hui (PDF), porte les signatures d’une liste qui couvre des concurrents commerciaux directs et des organisations avec peu de chevauchement évident dans leur modèle commercial : Meta, Microsoft, Nvidia, IBM, Dell Technologies, CrowdStrike, Palantir, ServiceNow, Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, la Linux Foundation, Mozilla et d’autres.
L’argument de la lettre se concentre sur une comparaison entre le mouvement des logiciels open source des années 1980 et la lutte actuelle pour savoir si les pondérations des modèles d’IA doivent circuler librement ou rester verrouillées derrière des API commerciales.
Les modèles à poids ouvert sont des systèmes d’IA dans lesquels les paramètres formés sont publiés pour que quiconque puisse les télécharger, les inspecter, les modifier et les exécuter sur leur propre matériel. Cela se distingue des modèles fermés comme les produits pionniers proposés par OpenAI ou Anthropic via un accès API uniquement, où les pondérations sous-jacentes ne quittent jamais l’infrastructure du fournisseur.
Les signataires considèrent les pondérations ouvertes comme le mécanisme par lequel les capacités de l’IA se propagent au-delà d’une poignée de laboratoires bien capitalisés dans ce que la lettre appelle les flux de travail des « usines, hôpitaux, fermes, salles de classe et entreprises principales ».
Leur argument s’articule autour de trois axes :
- Poids ouverts réduire le coût d’entrée pour les startups et les institutions publiques qui ne peuvent pas se permettre de former des modèles frontières à partir de zéro ou de payer des frais par jeton à des prix frontières pour les tâches de routine.
- Ils accroître la concurrence à travers la pile, des puces à l’infrastructure cloud en passant par les applications, ce qui, selon la lettre, permet de réduire les coûts et d’empêcher la capture de la valeur par un petit nombre de fournisseurs.
- Les pondérations ouvertes offrent également aux entreprises clientes un moyen pour éviter le verrouillage du fournisseurpuisque les organisations exécutant des modèles ouverts contrôlent leurs propres données et peuvent adapter le modèle aux exigences internes sans dépendre de la feuille de route ou des décisions de tarification d’un seul fournisseur.
L’argument de la sécurité va à l’encontre de l’instinct
La section la plus pointue de la lettre aborde directement le cas de risque, et elle mérite d’être lue attentivement car elle inverse le cadre habituel autour des modèles ouverts et de la sécurité.
Une fois les poids publiés, concède la lettre, ils échappent au contrôle du développeur d’origine. Les versions modifiées deviennent difficiles à retracer ou à inverser. Une version affinée ou allégée d’un modèle ouvert peut circuler avec les garde-corps de sécurité retirés et il n’y a pas de mécanisme de rappel.
Les signataires affirment que la réponse n’est pas l’interdiction. Leur argument repose sur une comparaison avec la cybersécurité : les défenseurs confrontés à des attaquants équipés d’IA ont besoin d’accéder à des modèles dotés de capacités comparables pour détecter et simuler les menaces, ce que les systèmes fermés et soumis à autorisation ne fournissent pas facilement.
Ils étendent cela à une affirmation de sécurité plus large, en faisant valoir que les modèles fermés ne sont pas intrinsèquement plus sûrs parce qu’ils peuvent être violés, utilisés à mauvais escient ou échouer d’une manière que les chercheurs externes ne peuvent pas observer ou vérifier. Selon cette lecture, concentrer les capacités avancées derrière un petit nombre de fournisseurs fermés crée des points de défaillance uniques plutôt que de les supprimer.
Les modèles ouverts, en revanche, permettent aux chercheurs externes d’examiner le comportement, d’exécuter des exercices d’équipe rouge et d’identifier les vulnérabilités de plusieurs équipes plutôt que de s’appuyer sur les tests internes d’un seul fournisseur.
La lettre établit un parallèle direct avec l’argument selon lequel « l’open source est plus sécurisé que l’obscurité » qui a façonné des décennies de débat sur la sécurité des logiciels, bien qu’elle ne cite pas de données spécifiques de découverte de vulnérabilités ou de chiffres d’incidents pour étayer cette affirmation appliquée spécifiquement aux systèmes d’IA.
La distillation bénéficie d’une défense spécifique
La lettre réserve un espace pour une technique devenue controversée dans les cercles de l’IA : la distillation, où les résultats d’un modèle sont utilisés pour entraîner ou améliorer un deuxième modèle. Il s’agit d’une pratique courante dans la recherche sur l’apprentissage automatique et le développement de produits, utilisée pour l’évaluation, la validation et le transfert de capacités entre des modèles de différentes tailles.
Les signataires tracent une ligne entre la distillation en tant que technique légitime et ce qu’ils appellent « les efforts illégaux visant à extraire de la valeur de modèles fermés », arguant que la première ne devrait pas être entraînée dans des restrictions visant la seconde.
Cela se lit comme une réponse directe aux différends qui ont éclaté après la montée en puissance de modèles chinois comme DeepSeek et Kimi, lorsque plusieurs laboratoires américains ont suggéré que des modèles rivaux avaient été entraînés en distillant les résultats de leurs propres systèmes fermés sans autorisation.
La position de la lettre : lutter contre le détournement de fonds par des mécanismes juridiques et commerciaux ciblés, et non par des restrictions générales sur une technique dont dépend l’ensemble du domaine.
Ce que cela signifie pour le combat politique à venir
La lettre arrive sans qu’une proposition législative ou réglementaire spécifique soit jointe. Il s’agit d’un document de positionnement en amont de l’action prévue sur la politique de l’IA à Washington, appelant les législateurs à étendre l’accès au calcul pour les startups et les chercheurs, à financer des ensembles de données de formation et des cadres d’évaluation partagés, et à éviter ce qu’il appelle des « restrictions prématurées » sur les modèles ouverts.
Cela devrait être traité moins comme un résultat politique établi que comme un indicateur de l’endroit où les principaux fournisseurs d’infrastructures et de puces souhaitent que le débat sur la réglementation aboutisse. Des acteurs comme Nvidia, IBM et Dell ont des raisons commerciales directes de vouloir que les écosystèmes à poids ouvert prospèrent, car une gamme plus large de modèles déployables vend plus de calcul et de services, quel que soit le laboratoire qui a produit les poids.
Les équipes d’approvisionnement qui évaluent les déploiements en modèle ouvert par rapport aux déploiements en modèle fermé doivent tenir compte du fait que l’environnement politique favorisant une approche par rapport à l’autre reste non résolu, et que toute restriction sur la distillation ou les versions ouvertes pourrait modifier l’économie de l’IA auto-hébergée au cours d’un seul cycle législatif.
