Google DeepMind et Isomorphic Labs ont présenté un programme de biorésilience visant à freiner l’utilisation abusive de l’IA en biologie tout en contribuant à la réponse aux épidémies.
Les deux organisations ont publié une mise à jour sur une initiative conjointe qui a débuté discrètement et qui a permis de nouer plus de 15 partenariats avec des organismes gouvernementaux, des organisations de biosécurité et des groupes de recherche au cours des 12 derniers mois.
La divulgation arrive avec un problème de cadrage spécifique attaché. Les modèles frontières tels que Gemini apportent une compréhension de plus en plus détaillée de la biologie, et DeepMind reconnaît que l’association de ces systèmes avec des modèles biologiques spécialisés, des agents comme sa plate-forme Antigravity et des bases de données tierces ne fera qu’affiner davantage cette capacité.
Cependant, les mêmes connaissances qui aident un chercheur à cartographier une cible vaccinale pourraient, en principe, aider un acteur menaçant à combler les lacunes de sa propre compréhension. DeepMind et Isomorphic décrivent cela comme un double mandat : permettre les avancées scientifiques rendues possibles par l’IA, tout en gardant ces mêmes outils hors de la portée des personnes qui en abuseraient.
Le programme repose sur trois piliers, selon les entreprises : prévenir les abus, détecter plus rapidement les épidémies et réagir lorsqu’une épidémie ou une attaque est en cours.
Les plus de 15 partenariats construits au cours de l’année dernière touchent les trois, bien que la mise à jour donne peu de détails sur les organisations impliquées au-delà d’une poignée de collaborateurs nommés, notamment le Lawrence Livermore National Laboratory, le UK AI Security Institute, le CEPI et le Francis Crick Institute.
DeepMind affirme avoir l’intention d’élargir ces relations au cours des six à douze prochains mois, en mettant l’accent sur les renseignements sur les menaces, les méthodes d’évaluation des agents d’IA et l’atténuation des jailbreaks. Il se coordonne également avec le Frontier Model Forum sur des questions telles que la manière de gérer les catégories de données de formation les plus risquées, les ensembles de données virologiques étant l’exemple donné.
Verrouiller les Gémeaux sans bloquer la science légitime
Le travail de prévention repose sur une modélisation des menaces conçue pour identifier les acteurs les plus susceptibles de tenter des abus et les goulots d’étranglement qui les empêchent actuellement. DeepMind affirme utiliser un mélange d’équipes rouges d’experts et d’essais contrôlés randomisés pour juger si Gemini pourrait aider quelqu’un à éliminer ces goulots d’étranglement.
Les méthodes post-formation visent à apprendre au modèle à refuser les requêtes nuisibles tout en évitant ce que l’entreprise appelle un refus excessif des questions scientifiques légitimes, un équilibre qui s’est avéré difficile dans l’ensemble du secteur, pas seulement pour DeepMind. Des classificateurs et des sondes sont déployés pour signaler les activités à risque en temps réel, et la société affirme effectuer une analyse ciblée des journaux pour détecter des modèles d’utilisation abusive plus subtils que les filtres automatisés pourraient manquer.
Aucune de ces mesures d’atténuation n’est décrite comme résolue. DeepMind les présente comme un processus continu plutôt que comme un système fini, ce qui est important pour toute entreprise ou organisme gouvernemental évaluant s’il doit s’appuyer sur les protections telles qu’actuellement configurées. Un classificateur adapté aux modèles de jailbreak connus dans le cadre d’une évaluation contrôlée ne garantit pas des performances équivalentes contre les nouvelles méthodes d’attaque apparaissant en utilisation réelle, et la société ne prétend pas le contraire.
Le problème du criblage de la synthèse de l’ADN
L’un des risques les plus concrets à l’étude concerne la synthèse de l’ADN. Les entreprises du Consortium international de synthèse génétique examinent actuellement les commandes par rapport à des listes d’agents pathogènes et de toxines nocifs connus, associées à des algorithmes de dépistage. DeepMind déclare clairement que cette approche commence à s’effilocher, car l’IA peut désormais aider à concevoir des séquences d’ADN ayant une fonction similaire à celle d’un agent pathogène dangereux sans correspondre suffisamment à sa séquence pour déclencher les écrans existants.
Le correctif proposé emprunte au système de filigrane existant de DeepMind, SynthID, qui, selon la société, est devenu une norme industrielle pour le marquage des images et du texte générés par l’IA. Son adaptation aux séquences biologiques est présentée comme un travail exploratoire et non comme un produit expédié.
Un objectif à plus long terme, décrit comme un défi technique ouvert plutôt que comme quelque chose de presque résolu, implique un dépistage qui prédit si une nouvelle séquence d’ADN est probablement toxique ou pathogène en fonction de sa fonction, qu’elle ressemble ou non à quelque chose dans les bases de données existantes.
Séquençage moins cher comme couche de détection
La détection dépend du séquençage métagénomique, qui caractérise chaque micro-organisme présent dans un échantillon plutôt que de rechercher une liste restreinte d’agents pathogènes connus comme le font les diagnostics traditionnels. Le facteur limitant est le coût, et pour étendre l’approche aux régions où les épidémies sont les plus susceptibles de provenir, il faut que ce coût diminue considérablement.
DeepMind souligne une collaboration entre Google et Pacific Biosciences qui a utilisé son agent de codage AlphaEvolve pour améliorer la précision du séquençage comme un point de données vers cet objectif. La société affirme qu’elle étudie désormais d’autres opportunités – depuis l’optimisation des algorithmes qui traitent les données de séquençage jusqu’à la conception du matériel – et explore séparément si AlphaGenome pourrait aider à caractériser les agents pathogènes directement à partir des données de séquence.
Il s’agit de collaborations de recherche plutôt que de systèmes déployés sur le terrain, et la distance entre un gain de précision de séquençage dans un pipeline contrôlé et un réseau d’alerte précoce fonctionnel dans les centres de traitement des eaux usées et de transit dans les contextes à faibles ressources n’est pas minime.
Le record de publication d’AlphaFold et l’écart des contre-mesures
Le pilier de la réponse s’appuie sur le manque de mesures médicales qui laisse de nombreux agents pathogènes connus sans diagnostic, vaccin ou traitement autorisé. DeepMind cite plus de 10 000 publications sur les maladies infectieuses qui ont fait référence à AlphaFold sur cinq ans, couvrant des travaux sur la transmission de la tuberculose et du paludisme et la cartographie des cibles pour les menaces telles que Mpox et Nipah.
Le plus récent ajout à ce record est un partenariat avec le programme de biorésilience de Lawrence Livermore, qui prévoit d’utiliser AlphaFold 3 pour des travaux de conception d’anticorps à large spectre, y compris un effort d’anticorps pan-filovirus. DeepMind indique qu’il continuera cette année à ajouter des structures et des complexes protéiques à la base de données sur la structure des protéines AlphaFold, en donnant la priorité aux cibles pertinentes pour le développement de contre-mesures.
L’accès aux nouveaux systèmes d’agents, y compris Co-Scientist, est étendu à des chercheurs sélectionnés, parmi lesquels des scientifiques des laboratoires nationaux du ministère américain de l’Énergie travaillant dans le cadre de la mission Genesis.
Isomorphic Labs est allé plus loin en créant une unité dédiée destinée à déployer rapidement son moteur de conception de médicaments lors d’une nouvelle épidémie, en collaboration avec des organismes de recherche gouvernementaux et nationaux tels que Lawrence Livermore, l’IA Security Institute du Royaume-Uni, le CEPI et le Francis Crick Institute. La société a également promis 7 millions de dollars à Health for Human Potential, un programme de Philanthropy Asia Alliance, pour la recherche sur les maladies infectieuses en Asie.
Les recommandations de DeepMind aux décideurs politiques américains s’appuient directement sur ses trois piliers et s’appuient sur une législation spécifique en attente :
- Sur préventionil soutient un cadre fédéral de sécurité de l’IA à la frontière, la AI-Ready Bio-Data Standards Act (HR 7907), le contrôle obligatoire de la synthèse de l’ADN par le biais de la Biosecurity Modernization and Innovation Act (S. 3741) et de la SCALE Biology Act (HR 8981).
- Sur détectionil souhaite que le séquençage métagénomique soit étendu aux centres de transit et aux centres de population denses, soutenu par l’America’s Living Library Act (S. 4023) et un financement supplémentaire de la DARPA et du HHS pour la recherche d’alerte précoce.
- Sur réponseil appelle à la loi sur le Web des données biologiques (HR 9307 / S. 4770) et à des investissements dans des capacités de fabrication maintenues « au chaud » et prêtes à être activées rapidement, aux côtés de réseaux d’essais cliniques préétablis et de voies réglementaires plus rapides.
Aucune de ces lois n’est promulguée, et c’est dans l’écart entre la liste de souhaits politiques d’une entreprise et un cadre fédéral de biosécurité fonctionnel que se déroulera le véritable test de ce programme au cours des 6 à 12 prochains mois.
