Nuevas medidas de ciberseguridad combaten las amenazas de la IA

Una coalición de las principales agencias de ciberseguridad, entre las que se incluyen la NSA, el FBI y la CISA, ha presentado nuevas directrices para combatir las amenazas emergentes a los sistemas de IA. Las directrices advierten sobre riesgos como el envenenamiento de datos, los fallos en la cadena de suministro y la deriva de datos que podrían comprometer los sistemas de IA. Instan a las organizaciones a implementar medidas de seguridad en todas las fases del ciclo de vida de la IA: planificación, recopilación de datos, creación de modelos y supervisión operativa. Entre las recomendaciones clave se incluyen la verificación de los conjuntos de datos de terceros, el uso de protocolos de ingestión seguros y la auditoría periódica del comportamiento del sistema. Las directrices hacen hincapié en la prevención del envenenamiento de modelos y el seguimiento del linaje de los datos para garantizar su integridad. Se anima a las organizaciones a revisar sus planes de respuesta a incidentes, auditar los proyectos en curso y crear equipos multifuncionales. A medida que los modelos de IA se convierten en parte integral de las infraestructuras críticas, es esencial contar con una seguridad de datos sólida.