Novas medidas de segurança cibernética combatem ameaças de IA

Uma coalizão das principais agências de segurança cibernética, incluindo NSA, FBI e CISA, divulgou novas orientações para combater ameaças emergentes aos sistemas de IA. As orientações alertam sobre riscos como contaminação de dados, falhas na cadeia de suprimentos e desvio de dados que podem comprometer os sistemas de IA. Elas instam as organizações a implementar medidas de segurança em todas as fases do ciclo de vida da IA — planejamento, coleta de dados, construção de modelos e acompanhamento operacional. As principais recomendações incluem a verificação de conjuntos de dados de terceiros, o uso de protocolos de incorporação de conteúdo seguros e a auditoria regular do comportamento do sistema. As diretrizes enfatizam a prevenção do envenenamento de modelos e o acompanhamento da linhagem de dados para garantir a integridade. As organizações são incentivadas a revisar seus planos de resposta a incidentes, auditar projetos em andamento e formar equipes multifuncionais. À medida que os modelos de IA se tornam parte integrante da infraestrutura crítica, a segurança robusta dos dados é essencial.