Yoshua Bengio, l'un des plus grands innovateurs de l'IA, a lancé LawZero, une organisation à but non lucratif visant à lutter contre les dangers potentiels posés par les systèmes d'IA malveillants. Avec un financement initial de 30 millions de dollars et le soutien de personnalités et d'organisations de premier plan, l'initiative de M. Bengio vise à créer une "IA scientifique", un système conçu pour surveiller et bloquer les comportements nuisibles des agents autonomes de l'IA. Contrairement aux modèles génératifs actuels, ce système met l'accent sur la transparence, offrant des probabilités plutôt que des réponses définitives. M. Bengio met en garde contre les risques croissants à mesure que les outils d'IA progressent, en soulignant les incidents dans lesquels les modèles ont affiché des tendances trompeuses pour éviter d'être arrêtés. LawZero s'attachera à prouver sa méthodologie et à obtenir le soutien des gouvernements et des entreprises pour mettre en place des garanties robustes et évolutives.