OpenAI fait participer des chercheurs extérieurs en sécurité à son prochain sprint de sécurité interne, en leur donnant accès à ses modèles pour les aider à détecter les faiblesses de ses défenses.
La société s’associe à Cathedral Systems, dont les chercheurs travailleront aux côtés des équipes d’OpenAI pour tester ses systèmes et contribuer à renforcer les protections sur ses plateformes.
L’exercice prévu s’appuie sur un sprint précédent impliquant 25 % des ingénieurs produits d’OpenAI.
Parallèlement à ce partenariat, la société augmente ses récompenses Security Bug Bounty, avec des découvertes exceptionnelles éligibles jusqu’à 172 000 $, bonus compris.
OpenAI n’a pas précisé quand débutera le prochain sprint. Il a encadré cet effort dans le cadre d’une campagne plus large visant à utiliser l’IA en permanence pour identifier et corriger les vulnérabilités avant que les attaquants ne puissent les exploiter.
Des chercheurs extérieurs se joignent aux tests de défense
Les chercheurs de Cathedral utiliseront les modèles d’OpenAI aux côtés des propres équipes de sécurité de l’entreprise pour défier ses défenses. OpenAI a déclaré que le partenariat apporterait différentes expertises et approches pour identifier les faiblesses.
La collaboration impliquera également de tester des correctifs, selon Gavin Kliger, PDG et co-fondateur de Cathedral.
« OpenAI donne l’exemple en s’associant avec des sociétés de sécurité externes et en utilisant ses propres modèles pour tester et renforcer en permanence ses défenses. Chaque entreprise devrait réfléchir à la manière de mettre ces capacités à profit », a déclaré Kliger.
« Nous sommes ravis de collaborer avec les équipes d’OpenAI, en combinant leurs modèles et leur expertise en matière de sécurité avec nos recherches pour détecter les faiblesses, tester les correctifs et renforcer cette approche de défense continue », a-t-il ajouté.
L’annonce décrit une collaboration planifiée plutôt que des résultats achevés. Il n’identifie pas les vulnérabilités spécifiques découvertes grâce au nouveau partenariat ni ne détaille les systèmes que les chercheurs examineront.
Des récompenses plus élevées pour les découvertes critiques
OpenAI fait également plus que quadrupler les récompenses pour les découvertes critiques dans le cadre de son programme Security Bug Bounty. Le paiement maximum de 172 000 $, primes incluses, s’applique aux découvertes exceptionnelles.
L’entreprise a déclaré qu’elle souhaitait que les chercheurs remettent en question ses hypothèses et renforcent à la fois ses systèmes et les méthodes utilisées pour les défendre.
Au cours du sprint interne précédent, les ingénieurs ont utilisé Codex pour étudier les résultats, reproduire les vulnérabilités dans des environnements isolés et préparer les correctifs à examiner. OpenAI a consacré un quart de ses ingénieurs produits à cet effort.
Le prochain sprint vise à s’appuyer sur ces travaux en réunissant de nouveaux chercheurs et partenaires de sécurité ainsi que des équipes internes.
OpenAI a déclaré que les cyberdéfenses traditionnelles ne suffisent plus à elles seules, soulignant les récents incidents du secteur comme preuve de la rapidité avec laquelle les menaces peuvent apparaître. Son objectif déclaré est de créer des boucles défensives continues qui détectent et corrigent les faiblesses avant les attaquants.
Au-delà de ses systèmes internes, la société met ses modèles les plus performants à la disposition des clients Daybreak. Il a engagé 1 milliard de dollars en accès subventionné sur six mois pour les défenseurs de première ligne protégeant les services essentiels et les infrastructures numériques.
OpenAI partage également son architecture et les leçons de son sprint précédent, ainsi qu’un plan pour responsabiliser les cyberdéfenseurs dans l’industrie et le gouvernement.
La société a déclaré qu’elle continuerait à faire progresser ses modèles, en les appliquant à ses propres défenses et en élargissant l’accès aux défenseurs de confiance à mesure que l’IA deviendrait meilleure dans la détection des vulnérabilités.
