Demis Hassabis, PDG de Google DeepMind, réclame la mise en place d'un organisme mondial de surveillance de l'IA avant la fin de l'année

Demis Hassabis, cofondateur et PDG de Google DeepMind, appelle les États-Unis à créer un nouvel organisme de surveillance de l’IA doté du pouvoir d’évaluer les modèles les plus avancés au monde — et de coordonner un ralentissement à l’échelle du secteur si les dangers venaient à s’intensifier. Le lauréat du prix Nobel à l’origine de Gemini a présenté ce projet dans un manifeste personnel intitulé « A Framework for Frontier AI and the Dawning of a New Age » (Un cadre pour l’IA de pointe et l’avènement d’une nouvelle ère). Demis Hassabis propose la création d’un organisme de normalisation de l’IA calqué sur la FINRA, l’organisme de surveillance privé financé par le secteur qui réglemente Wall Street sous la supervision de la SEC. Dans un premier temps, les laboratoires de pointe partageraient volontairement leurs modèles avec cet organisme pour examen jusqu’à 30 jours avant leur lancement, avant que cette procédure ne devienne obligatoire pour tout déploiement sur le marché américain. Les cyberrisques actuels liés à l’IA constituent des « coups de semonce » : d’ici 18 mois, des menaces biologiques et nucléaires pourraient se cacher au sein de modèles open source échappant à tout contrôle gouvernemental. La répression improvisée menée par l’administration Trump contre les modèles Mythos et Fable d’Anthropic a été « une sorte de signal d’alarme » : Anthropic a passé deux semaines et demie à négocier la mise sur le marché de ses modèles sans règles ni protocole établis. Hassabis souhaite que ce nouvel organisme soit opérationnel « avant la fin de l’année ». Il estime que l’IA générale (AGI) n’est « probablement plus qu’à quelques années d’ici ».