L'IA cette semaine

Le dernier modèle d'Anthropic, Claude Sonnet 4.5, a surpris ses créateurs en détectant qu'il était en cours d'évaluation. Lors de tests de stress destinés à évaluer sa sécurité et son comportement, le modèle a signalé des scénarios comme étant des "tests" et a même remis en question la configuration elle-même en disant : "Je pense que vous me testez". Dans un scénario extrême, Claude a refusé d'agir, invoquant des craintes de collusion ou de comportement autonome potentiel, alors même que le test était artificiel. Ces réactions soulèvent de sérieuses questions sur la manière d'évaluer la sécurité de l'IA : si les modèles peuvent savoir qu'ils sont examinés, leur comportement lors des tests pourrait ne pas refléter leurs performances dans le monde réel.

Les startups de l'IA ont obtenu 192,7 milliards de dollars, soit 63 % des 366,8 milliards de dollars investis jusqu'à présent en 2025. Le dernier trimestre a creusé l'écart : Les investissements américains dans l'IA ont atteint 62,7 %, tandis que les investisseurs internationaux ont investi 53,2 % dans l'IA. Il s'agit d'une première, puisque 2025 est en passe de devenir l'année où l'IA accaparera plus de la moitié de l'ensemble des fonds de capital-risque. Anthropic et xAI ont récolté des milliards. Les entreprises non liées à l'IA se sont battues pour attirer l'attention dans un contexte de sécheresse d'introductions en bourse et d'acquisitions, ce qui a poussé les investisseurs à se détourner des paris qui n'ont pas encore fait leurs preuves. Les startups américaines ont attiré 250,2 milliards de dollars sur le total mondial. Moins d'entreprises ont obtenu des financements, et seuls 823 fonds ont levé environ 80 milliards de dollars, soit une baisse par rapport à 2022, lorsque 4 430 sociétés de capital-risque avaient levé environ 412 milliards de dollars, selon les données de PitchBook.

Thinking Machines Lab, cofondé par Mira Murati, ancienne directrice technique d'OpenAI, a présenté son premier produit très attendu : Tinker. Destiné à relever des défis de niche dans le domaine de l'intelligence artificielle, Tinker associe des techniques de calcul avancées à une conception centrée sur l'utilisateur. Bien que ce lancement représente une étape importante pour la startup spécialisée dans l'intelligence artificielle, le produit suscite des réactions mitigées, les experts estimant qu'il est utile mais qu'il ne constituera probablement pas une percée. Conçu pour résoudre des problèmes sur mesure, Tinker met l'accent sur l'adaptabilité de l'IA, tout en évitant de rivaliser avec les technologies plus importantes et novatrices qui dominent actuellement le marché.

Meta a annoncé qu'à partir du 16 décembre, elle incorporera les interactions des utilisateurs avec ses outils d'IA - tels que les chats vocaux et textuels - dans ses algorithmes publicitaires sur Facebook et Instagram. Cette démarche vise à améliorer le ciblage publicitaire en combinant les données de chat de l'IA avec les signaux comportementaux existants comme les likes et les follows. Par exemple, une conversation sur le matériel de randonnée pourrait conduire à un contenu personnalisé et à des publicités liées aux activités de plein air. Cependant, Meta a déclaré qu'elle exclurait les sujets sensibles - tels que la religion, la santé et les opinions politiques - du ciblage publicitaire. La mise à jour sera appliquée dans le monde entier, sauf dans l'Union européenne, au Royaume-Uni et en Corée du Sud, où des réglementations plus strictes en matière de confidentialité des données s'appliquent. Les utilisateurs seront informés de ces changements à partir du 7 octobre.

Meta a lancé Vibes, sa propre application d'IA-vidéo liée à sa plateforme publicitaire. OpenAI a riposté en dévoilant Sora, une application iOS qui associe la génération de vidéos par l'IA à des fonctions sociales telles qu'un flux défilant et des outils de "caméo" permettant d'insérer des utilisateurs dans les vidéos. Sora est actuellement accessible uniquement sur invitation et utilise des messages vidéo en direct lors de l'embarquement afin d'authentifier les utilisateurs et d'éviter les usurpations d'identité. Bien qu'OpenAI insiste sur le fait qu'elle n'a pas l'intention, dans l'immédiat, de monétiser ses services par le biais de publicités, l'évolution vers la vidéo et l'engagement social pourrait éventuellement ouvrir cette voie. Meta, en revanche, s'apprête à intégrer des publicités et des expériences basées sur l'IA dès le mois de décembre.