Готова первая в России карта киберугроз для ИИ
Сбер разработал и представил первую в стране комплексную модель киберугроз, ориентированную на системы искусственного интеллекта (ИИ).
Модель создана экспертами по кибербезопасности Сбера и призвана помочь компаниям адаптировать защиту ИИ-инфраструктуры с учетом стремительно развивающегося цифрового ландшафта.
70 угроз для ИИ — от утечки данных до вмешательства в модели
Согласно опубликованным данным, модель описывает 70 типов киберугроз, которые могут повлиять на генеративный (GenAI) и предиктивный (PredAI) искусственный интеллект. В исследовании указаны:
Нарушаемые свойства информации: конфиденциальность, целостность, доступность и достоверность;
Объекты воздействия: от обучающих датасетов и open-source моделей до компонентов, уже внедренных в корпоративные приложения;
Механизмы реализации атак: включая манипуляции с исходными данными, вмешательство в архитектуру моделей и подмену входной информации.
Документ снабжен графической схемой, демонстрирующей взаимосвязи между различными объектами ИИ-систем и потенциальными уязвимостями.
Угрозы нового уровня — и ответ на них
«Внедрение ИИ в бизнес неизбежно сопровождается новыми вызовами в сфере информационной безопасности. Угрозы затрагивают каждый этап работы с искусственным интеллектом — от сбора данных до эксплуатации конечного решения. Эти риски требуют системного подхода и новых средств защиты», — отметил Сергей Лебедь, вице-президент Сбера по кибербезопасности.
Он добавил, что созданная модель киберугроз может стать основой для разработки отраслевых стандартов и адаптирована под нужды как финансового сектора, так и государственных учреждений, научных организаций, телекоммуникационных компаний и промышленных предприятий.
Что это даёт компаниям
Разработанная модель открывает для организаций новые инструменты оценки рисков и:
позволяет определить наиболее уязвимые точки в своих AI-системах;
способствует формированию архитектуры защиты с учетом специфики машинного обучения;
дает основу для создания нормативных и корпоративных регламентов по кибербезопасности ИИ.
Сбер активно внедряет ИИ в собственные процессы, и накопленный опыт лег в основу разработки этой модели. Таким образом банк не только усиливает собственную безопасность, но и формирует практики, которые могут быть полезны всему рынку.
Модель уже доступна заинтересованным организациям, и, как ожидается, станет базой для национального подхода к обеспечению безопасности искусственного интеллекта.
С уважением к Вашему делу, Ника Виноградова
Источник: Lenta.ru
