De nouvelles mesures de cybersécurité pour lutter contre les menaces liées à l'IA

Une coalition d'agences de cybersécurité de premier plan, dont la NSA, le FBI et la CISA, a dévoilé de nouvelles directives pour lutter contre les menaces émergentes pesant sur les systèmes d'IA. Ces directives mettent en garde contre les risques tels que l'empoisonnement des données, les failles de la chaîne d'approvisionnement et la dérive des données qui pourraient compromettre les systèmes d'IA. Elles exhortent les organisations à mettre en œuvre des mesures de sécurité à toutes les étapes du cycle de vie de l'IA : planification, collecte de données, construction de modèles et surveillance opérationnelle. Les principales recommandations comprennent la vérification des ensembles de données tiers, l'utilisation de protocoles d'ingestion sécurisés et l'audit régulier du comportement du système. Les directives insistent sur la prévention de l'empoisonnement des modèles et le suivi de la traçabilité des données pour garantir leur intégrité. Les organisations sont encouragées à réviser leurs plans d'intervention en cas d'incident, à auditer les projets en cours et à constituer des équipes interfonctionnelles. Les modèles d'IA devenant partie intégrante des infrastructures critiques, une sécurité robuste des données est essentielle.