Сбербанк рассказал о применении ИИ в сфере кибербезопасности

Сбербанк рассказал о применении ИИ в сфере кибербезопасности

Сбербанк рассказал о применении ИИ в сфере кибербезопасности

Сбербанк применяет искусственный интеллект в сфере кибербезопасности, сообщил глава банка Герман Греф в ходе пленарного заседания форума «Открытые инновации» в Сколково. Машинное обучение применяется для борьбы с социальной инженерией, которую активно используют мошенники.

"Сегодня фактически нет ни одной области нашего бизнеса, в которой мы бы не применяли искусственный интеллект. В финансовом бизнесе это пять ключевых направлений", - сказал топ-менеджер.

Он сообщил, что первое направление - это финансовый эдвайзинг, его компоненты - персональные финансовые менеджеры, боты, отвечающие на типовые вопросы, использование такого эдвайзинга в колл-центре, передает rns.online.

"За этим огромное будущее. Я думаю, что буквально через 3-5 лет у нас не останется на этой должности людей, потому что каждый день искусственный интеллект учится и становится все более и более точным в своих ответах и прогнозах", - отметил Греф.

Он пояснил, что второе направление - анализ big data, третье - кибербезопасность, четвертое - анализ клиентов, пятое - автоматизация деятельности банка.

«Третье направление — это, конечно, кибербезопасность. Мы, наверное, самая большая транзакционная организация в стране. У нас на пике примерно 7-8 тыс. транзакций...И анализировать эти транзакции можно только с использованием искусственного интеллекта, что мы сейчас и делаем. По опросам, 74% клиентов предпочитают безопасность транзакций по кредитным картам такой приятной вещи, как, например, кэшбэк. И безопасность входит в число самых главных приоритетов наших клиентов. Все, что связано с кибербезопаснотью, это то, где мы каждый день используем искусственный интеллект. Машины каждый день учатся с тем, чтобы бороться с хакерами, с тем, что мы называем социальной инженерией, когда человек сам вовлечён в процесс списания собственных денег», — сказал он.

Подпишитесь на новости

Swordfish Security добавила ИИ-агентов и RAG в оценку безопасности компаний

ИИ уже не просто отвечает на вопросы, корпоративные агенты получают доступ к инструментам и выполняют задачи без пошагового контроля человека. А значит, ошибка нейросети может превратиться в действие внутри рабочей системы. Swordfish Security обновила свой фреймворк оценки AI Security с учетом этих рисков.

Версия 2.0 методологии Swordfish: SAIMM представлена в центре экспертизы компании.

Документ предназначен для бесплатного использования специалистами по кибербезопасности и разработчиками. Он помогает оценить зрелость процессов защиты ИИ, выявить пробелы и определить очередность изменений.

Главное обновление — два дополнительных направления оценки: безопасность агентских систем и RAG-пайплайнов.

Первое касается поведения агентов, их действий и использования инструментов. Когда нейросети доверяют корпоративный процесс, одного контроля за текстом ответа уже мало: важно понимать, что она может сделать с выданными полномочиями.

Второе направление посвящено данным, которые ИИ использует для формирования ответов. RAG позволяет модели обращаться к внешним источникам — например, корпоративной базе знаний. Поэтому в оценку входят контроль данных, их связь с моделями, учет версий и происхождения компонентов.

По словам гендиректора Swordfish Security Александра Пинаева, обновленный фреймворк стал практичнее: компания может пройти по вопросам, зафиксировать текущий уровень зрелости и определить, какие следующие шаги дадут наибольший эффект.

Важная часть подхода — постоянный учет моделей и данных, фиксация инцидентов и наблюдение за нежелательным поведением. Генеративная система способна по-разному отвечать на один запрос, поэтому разовая проверка не закрывает вопрос безопасности.

RSS: Новости на портале Anti-Malware.ru