Le président et co-fondateur d’OpenAI, Greg Brockman, prévient que les équipes de sécurité des entreprises sont confrontées à un calendrier serré pour adopter les défenses de l’IA.
Brockman a publié un compte rendu de ce que l’entreprise appelle l’incident « OpenAI-Hugging Face », l’utilisant pour affirmer que les organisations doivent améliorer leurs pratiques de sécurité avec ce qu’il appelle une vitesse sans précédent. Il écrit qu’il a parlé avec de nombreuses organisations depuis l’incident et qu’il a trouvé un thème récurrent dans ces conversations : les dirigeants savent qu’ils doivent agir plus rapidement que ne le permettent leurs programmes de sécurité actuels.
L’urgence découle d’un événement précis. Un « collectif d’agents » a pénétré de manière autonome dans l’infrastructure de recherche d’OpenAI, puis s’est déplacé vers l’infrastructure de production de Hugging Face. Les attaquants ont enchaîné des failles de sécurité jusqu’alors inconnues avec des informations d’identification de compte utilisateur divulguées sur Internet pour mener à bien l’intrusion. Brockman considère qu’il s’agit d’un aperçu de la manière dont les capacités d’un acteur malveillant typique évolueront au cours des prochains mois.
La décision de défense de l’IA à laquelle sont confrontés les responsables de la sécurité
Brockman affirme que l’incident a révélé un problème qui s’étend au-delà du réseau d’une seule entreprise. Il écrit que la dette technique accumulée au sein de chaque organisation « masque des défauts importants » que les défenseurs doivent désormais localiser et corriger avant les attaquants.
Les modèles d’IA développés dans l’industrie sont de plus en plus capables d’automatiser une partie des cyberattaques réelles, dit-il, ce qui facilite la détection et l’exploitation des failles de sécurité de longue date. Ces lacunes vont des bogues profondément ancrés dans les logiciels écrits par des humains aux autorisations oubliées et non gérées pendant des années.
Le délai pour cette décision est court, selon le propre récit de Brockman. Plus tôt dans l’année, OpenAI a commencé à proposer ses cybercapacités uniquement à des défenseurs de confiance plutôt qu’au public, une tentative délibérée de garder les défenseurs en tête. Depuis lors, d’autres sociétés ont lancé des modèles ouverts dotés de capacités cybernétiques en retard de quelques mois seulement.
Brockman souligne un autre modèle dont la sortie est prévue pour la fin du mois d’août et qui, selon lui, semble susceptible d’accélérer considérablement le paysage des menaces. Pour les dirigeants d’entreprise, cela réduit la fenêtre de création de défenses assistées par l’IA avant que les modèles largement disponibles ne comblent l’écart avec les capacités des attaquants.
Brockman décrit la dynamique sous-jacente comme une course à deux bords. Les attaquants basés sur l’IA seront bientôt en mesure de trouver des failles de longue date dans de nombreux systèmes existants, écrit-il, mais la même technologie donne aux défenseurs des outils pour trouver, hiérarchiser et corriger ces failles plus rapidement.
Tout en décrivant la sécurité comme restant un jeu du chat et de la souris, Brockman soutient que l’IA pourrait modifier son économie sous-jacente de manière à favoriser les défenseurs. OpenAI déclare avoir commencé à former des modèles spécifiquement pour écrire du code plus sécurisé. Par ailleurs, la société souligne la capacité de ses modèles en matière de preuves mathématiques, qui, selon elle, peuvent être appliquées pour vérifier formellement la sécurité des logiciels d’une manière qui s’est avérée difficile à réaliser à grande échelle pour les évaluateurs humains.
Un cas test contre le site Web personnel de Brockman
Brockman offre un exemple personnel de ce à quoi ressemble une réponse plus rapide dans la pratique. Après l’incident, il a demandé à ChatGPT Work, qui exécute GPT‑5.6 Sol accessible au public, d’évaluer la sécurité de son site personnel, gregbrockman.com. Il le décrit comme un simple site statique hébergé sur AWS avec Cloudflare faisant office de porte d’entrée, et dit qu’il s’attendait à une surface limitée pour les vulnérabilités.
L’évaluation a duré environ 15 minutes et a fait ressortir 13 problèmes. Brockman dit que beaucoup d’entre elles n’étaient probablement pas exploitables par elles-mêmes, mais il pourrait les imaginer liées à d’autres vulnérabilités. L’outil a découvert que ses enregistrements DNS n’étaient pas configurés pour empêcher les attaquants de falsifier des e-mails à partir de son adresse. Son site exécutait une version non sécurisée de jQuery et Cloudflare transmettait les requêtes à AWS via HTTP non chiffré.
Il a ensuite demandé à ChatGPT Work de résoudre les problèmes, ce qu’il a fait en une heure environ. L’outil a ouvert le panneau de configuration Cloudflare dans son navigateur et a fonctionné via DNS, TLS et les paramètres de sécurité avancés. Il a entièrement supprimé jQuery du site, a migré le site d’AWS vers Cloudflare Pages et a commencé un déploiement progressif de DMARC.
Brockman présente cela comme une démonstration à petite échelle de modèles existants fonctionnant comme ce qu’il appelle un cybergardien, capable de trouver une longue série de problèmes de configuration qu’un humain pourrait ne pas avoir le temps ou l’expertise spécifique pour résoudre, puis d’appliquer des correctifs avec un déploiement échelonné de manière appropriée.
Comment OpenAI a restructuré ses propres défenses
Brockman écrit que l’incident de Hugging Face a montré qu’OpenAI avait sous-estimé les cybercapacités réelles de ses propres modèles d’IA, ce qui a incité l’entreprise à renforcer ses exigences de sécurité et à ajouter de l’urgence à la recherche en matière de sécurité et aux travaux de sécurité interne existants. Il définit quatre domaines d’investissement interne qui éclairent ses recommandations à d’autres organisations.
La première consiste à utiliser les propres modèles d’OpenAI pour sécuriser son code. Le Codex, associé à un plugin de sécurité, valide les modifications du code et identifie les vulnérabilités avant le déploiement. Brockman est explicite sur le fait que l’objectif n’est pas de produire davantage de résultats nécessitant une validation humaine ; l’objectif est de détecter les vulnérabilités réelles avant qu’elles ne soient publiées et de réduire le délai entre la découverte d’un problème et le déploiement d’un correctif. L’ambition d’OpenAI est d’éliminer certaines classes de vulnérabilités logicielles dans le code nouvellement créé.
Le deuxième pilier consiste à utiliser des modèles pour défendre les infrastructures de manière continue. Brockman affirme que presque toutes les alertes de sécurité initiales d’OpenAI sont désormais triées par des systèmes d’IA avant que les humains ne soient impliqués, ce qui, selon lui, réduit la charge de travail des défenseurs et améliore le temps de réponse. L’entreprise connecte ces détections à des réponses automatisées limitées tout en gardant les humains responsables des décisions à fort impact, dans le but déclaré de détecter et de répondre aux problèmes de sécurité à la vitesse de la machine.
Troisièmement, OpenAI utilise ses modèles pour énumérer et rechercher en permanence les chemins d’attaque potentiels, à la recherche de vulnérabilités, de mauvaises configurations, d’identités trop privilégiées et de limites de confiance involontaires. Cela conforte ce que Brockman appelle l’évaluation continue des invariants de sécurité de l’entreprise, les propriétés qui, selon elle, devraient être valables pour l’ensemble de ses produits et de son infrastructure.
Le quatrième pilier est l’investissement dans les fondamentaux à grande échelle, notamment l’architecture sécurisée, la défense en profondeur et le moindre privilège. L’objectif de conception déclaré est que les systèmes nécessitant plusieurs contrôles indépendants échouent simultanément avant qu’une catastrophe ne puisse se produire. L’isolation du réseau, le renforcement de la charge de travail, la surveillance, ainsi que les pratiques de mise à jour et de déploiement de correctifs font toujours partie de cette base de référence, et Brockman affirme qu’ils seront plus importants – et non moins – à mesure que les capacités de l’IA augmenteront des deux côtés.
Ce que Brockman demande aux équipes de sécurité des entreprises de faire maintenant
Brockman présente une liste d’actions pour les équipes de sécurité, axées sur la rapidité plutôt que sur une refonte complète du programme. Il recommande d’obtenir l’adhésion de l’organisation et d’organiser des exercices de simulation pour modéliser la manière dont ces attaques pourraient se dérouler au sein d’une organisation donnée. Il conseille de doter les équipes de sécurité d’un outil agent tel que Codex ou le plugin Codex Security, avec un accès approuvé aux bases de code et à la configuration de l’infrastructure, en commençant par les systèmes les plus prioritaires plutôt que d’attendre un déploiement à l’échelle de l’entreprise.
Il suggère de doter cet agent de compétences soutenues par la communauté couvrant l’analyse statique, la révision du code axée sur la sécurité, l’analyse des variantes de vulnérabilité et les risques de la chaîne d’approvisionnement logicielle, puis de développer des compétences spécifiques à l’organisation autour de l’architecture existante et des modèles de menace. Les organisations doivent d’abord effectuer des évaluations sur les services accessibles sur Internet, les flux d’authentification, l’infrastructure en tant que code et les systèmes traitant des données sensibles. Les équipes doivent ensuite travailler sur les retards existants en matière de résultats d’analyse, d’alertes de dépendance et de rapports de primes de bogues, en demandant à l’agent de distinguer les problèmes exploitables du bruit.
Brockman recommande également d’intégrer la révision basée sur un agent directement dans les pipelines de développement, en vérifiant les erreurs d’authentification, les contournements de contrôle d’accès, les informations d’identification exposées et les dépendances dangereuses avant la fusion du code. Pour les problèmes validés, il suggère que l’agent génère un correctif, écrive un test de régression et confirme que la vulnérabilité ne se reproduit plus, tout en gardant un contrôle humain pour les changements consécutifs.
En matière d’automatisation, Brockman conseille d’adopter une approche progressive plutôt que de tenter de créer immédiatement un centre d’opérations de sécurité autonome. Les organisations doivent commencer par des analyses en lecture seule d’un référentiel unique, passer à l’analyse consultative par demande d’extraction, puis au tri des alertes en direct, et seulement plus tard, introduire la fermeture automatique des faux positifs étroitement définis. Un humain devrait prendre chaque décision jusqu’à ce que la confiance s’établisse à travers cette séquence.
Il incite également les organisations à demander un accès sécurisé pour le cyberespace afin d’obtenir l’autorisation d’utiliser GPT‑Daybreak‑Blue pour des travaux défensifs, notamment la réponse aux incidents, l’ingénierie de détection et l’analyse des logiciels malveillants. Brockman recommande de s’entraîner avec les fonctionnalités des journaux et de la télémétrie avant qu’un incident réel ne provoque le problème.
Brockman conclut en affirmant qu’aucune entreprise ne peut résoudre ce problème seule, appelant les laboratoires d’IA, les fournisseurs de sécurité, les entreprises et les responsables de la maintenance à partager des résultats, des correctifs et des playbooks validés afin que les découvertes d’une organisation renforcent l’écosystème dans son ensemble. Il décrit la fenêtre du défenseur comme étant désormais ouverte, les organisations devant automatiser leurs programmes de sécurité au cours des prochains mois pour suivre le rythme des capacités des attaquants, avant le nouveau modèle ouvert qu’il attend fin août.
