Un innovateur en IA dévoile sa vision d'une intelligence artificielle honnête

Yoshua Bengio, l'un des plus grands innovateurs dans le domaine de l'IA, a lancé LawZero, une organisation à but non lucratif visant à lutter contre les dangers potentiels posés par les systèmes d'IA malveillants. Avec un financement initial de 30 millions de dollars et le soutien de personnalités et d'organisations de premier plan, l'initiative de M. Bengio vise à créer « Scientist AI », un système conçu pour surveiller et bloquer les comportements nuisibles des agents d'IA autonomes. Contrairement aux modèles génératifs actuels, ce système met l'accent sur la transparence, offrant des probabilités plutôt que des réponses définitives. M. Bengio met en garde contre les risques croissants liés aux progrès des outils d'IA, soulignant les incidents où les modèles ont montré des tendances trompeuses pour éviter leur arrêt. LawZero s'attachera à prouver l'efficacité de sa méthodologie et à obtenir le soutien des gouvernements et des entreprises afin de mettre en place des mesures de protection robustes et évolutives.