В этом году атаки на ИИ-системы могут составить 5-10% от всех целевых атак на банки
Под угрозой будут как банки, которые сами разрабатывают IT-решения, так и кредитные организации, которые пользуются услугами сторонних поставщиков.
По оценке компании «Кросс технолоджис», в нынешнем году в 5–7% атак на крупные банки главной или дополнительной целью будут системы на базе искусственного интеллекта. Компания «Спикател» прогнозирует, что 5–10% атак ИТ-инфраструктуры банков будут связаны с уязвимостями ИИ. Вице-президент по информационной безопасности банка «Дом.РФ» Дмитрий Никишов отметил, что до 10% целевых атак на банки в текущем году в той или иной форме будут затрагивать ИИ-системы. Руководитель центра защиты приложений Т-Банка Роман Лебедь добавляет, что ИИ перестает быть экспериментом и все чаще становится частью цепочки атаки хакеров.
По оценкам системного интегратора компании «Информзащита», в прошлом году количество успешных атак на финсектор (банки, биржи, МФО и др.) составило 1,07 тыс., сократившись по сравнению с 2024 годом на 12% и более чем в три раза по сравнению с 2022 годом. В результате их доля в общем объеме атак на финсектор составила только 7%, минимальное значение за четыре года. Наибольшую (и возрастающую) долю в способах проведения успешных атак в 2025 году заняли социальная инженерия (53%) и вредоносное программное обеспечение (ВПО, 50%). При этом эксплуатация уязвимостей (21%), компрометация учетных данных (13%) и веб-атаки (вредоносные воздействия на веб-ресурсы, 8%) применялись реже. Хакеры сочетают разные типы атак, поэтому общая доля превышает 100%, отмечает Коммерсант.
Специалисты «Кросс технолоджис» отмечают, что более 20% отечественных банков активно используют системы на основе ИИ во внутренних процессах и в работе с клиентами, еще столько же в 2025 году запустили пилотные проекты. Также ИИ задействован во внешних процессах банка для оптимизации работы с клиентами. Со стороны клиента — это голосовые помощники, упрощающие получение клиентами информации о своих счетах и рекомендаций по управлению финансами, а также доступные в любое время суток чат-боты. Со стороны банка — это инструменты оценки кредитоспособности заемщиков и персонализированного клиентского обслуживания. Во внутренних банковских процессах ИИ нужен для принятия бизнес-решений, оптимизации работы сотрудников и обеспечения кибербезопасности.
В связи с этим главными тактиками атак на ИИ-системы будут prompt injection и data poisoning. В первом случае преступник манипулирует запросами, чтобы заставить ИИ-модель игнорировать внутренние ограничения и, например, предоставить конфиденциальную информацию. Второй способ заключается в подмене или «загрязнении» данных, на которых обучается модель. Например, в цифровых компаниях много поверхностей, где пользователи задают вопросы, и там мошенники могут запросить конфиденциальные данные или направить запрос на какое-то действие.
Аналитики компании «Спикател» отмечают, что в первую очередь под угрозой атак хакеров находятся банки, которые сами разрабатывают ИИ-модели без зрелой системы ИБ и аудита. Также под прицелом преступников банки, которые применяют внешние ИИ-сервисы без жесткого контроля доступа и интеграции, так как внешние API (генеративные модели) повышают риски утечек и компрометации через косвенные уязвимости. Последствия от атак на ИИ-системы могут быть серьезными. Это утечки чувствительных данных, репутационный и финансовый ущерб, нарушение операционной деятельности организаций.
Сейчас защита от подобных атак строится на адаптации классических подходов кибербезопасности под специфику ИИ. Например, включение элементов машинного обучения в процессы разработки (MLSecOps), строгая изоляция данных и моделей, непрерывный мониторинг «дрейфа» моделей и аномалий в их работе, а также культура безопасности среди разработчиков и аналитиков. Аналитики пока не ждут массовых атак на ИИ-системы. Во многом это связано с комплексным и многоступенчатым характером атак на ИИ, что требует от хакеров высокой квалификации и значительных временных затрат.
Фото: YandexART