Применение технологий искусственного интеллекта в сфере кибербезопасности создает двойственный эффект: с одной стороны, автоматизация позволяет экспертам быстрее реагировать на инциденты и излобавляет их от рутинных задач, но с другой — дает киберпреступникам новые инструменты для атак. Чтобы минимизировать риски, российскому бизнесу рекомендуется развертывать ИИ-решения внутри собственного периметра. Использование локальных моделей помогает предотвратить утечку конфиденциальной информации в сторонние облачные платформы.
При этом государственные регуляторы уделяют особое внимание вопросам контроля доступа к критически важным данным и изоляции моделей. Основные опасения связаны с угрозой прямых атак на сами алгоритмы и попытками злоумышленников выудить из них секретную информацию.
Внедрение ИИ для автоматического отслеживания угроз будет успешным только при наличии четко выстроенных внутренних процессов.
По мнению Николая Гончарова, директора департамента мониторинга кибербезопасности Security Vision ГК «Солар», компаниям необходимо заранее определить и ограничить список операций, которые могут выполнять модели, чтобы обеспечить их безопасную эксплуатацию.
