40% бизнеса считают риски генеративного ИИ критическими

40% бизнеса считают риски генеративного ИИ критическими

40% бизнеса считают риски генеративного ИИ критическими

Российский бизнес всё активнее доверяет искусственному интеллекту написание и анализ программного кода. Однако вместе с ростом популярности генеративного ИИ растет и тревога: почти все компании признают, что такие инструменты могут создавать серьезные риски для информационной безопасности.

К такому выводу пришли специалисты УЦСБ и группы компаний «Солар», опросившие более сотни организаций из сфер финансов, промышленности, телекома, энергетики, торговли, медицины и госсектора.

Согласно исследованию, более 80% компаний уже разрешают использовать генеративный ИИ при разработке программного обеспечения. Чаще всего его применяют для ускорения написания кода, анализа программ и поиска уязвимостей.

Но есть нюанс. Сразу 95% участников исследования считают, что генеративный ИИ несет существенные риски безопасности, а 40% называют их критическими.

При этом только половина компаний разрешает использование ИИ в контролируемом режиме — например, через сервисы, развернутые внутри собственного ИТ-контура. Еще тревожнее выглядит другая цифра: около 32% организаций фактически не контролируют использование ИИ разработчиками и не предъявляют требований по информационной безопасности.

На этом фоне бизнес всё активнее смотрит в сторону закрытых корпоративных языковых моделей. Почти 87% опрошенных положительно оценивают внедрение собственных LLM для анализа безопасности, поиска уязвимостей и автоматического исправления кода. Каждый четвертый считает такие решения необходимыми уже сейчас.

Эксперты объясняют осторожность компаний просто. Публичные ИИ-сервисы могут стать источником утечек данных, а их способность находить уязвимости далека от идеала. По оценкам специалистов, открытые LLM-модели пропускают от 40 до 50% проблем безопасности в программном коде.

Кроме того, генеративный ИИ зачастую анализирует код как набор шаблонов, а не понимает его логику целиком. В результате появляются ложные срабатывания, а сложные уязвимости могут остаться незамеченными.

Неудивительно, что компании готовы инвестировать не только в собственные ИИ-модели, но и в процессы MLSecOps, аудит безопасности, red teaming и пентесты ИИ-систем.

Получается парадоксальная ситуация: бизнес уже не хочет отказываться от искусственного интеллекта в разработке, но и полностью доверять ему пока тоже не готов. И чем глубже ИИ проникает в процессы создания ПО, тем острее становится вопрос — кто будет проверять самого ИИ.

ИИ в банковском антифроде пока проигрывает старым добрым правилам

Банки активно обсуждают искусственный интеллект, но ловить мошенников по-прежнему предпочитают проверенными методами. Только 13% российских банков используют машинное обучение как основной механизм антифрода, и ни один из них полностью не доволен результатом.

Такие данные получили «Инфосистемы Джет» после опроса руководителей антифрод-подразделений более чем 30 банков.

Главные претензии к ИИ: непрозрачные решения, высокие требования к данным и дорогая эксплуатация. Модель объявляет операцию подозрительной, а специалисту потом приходится гадать, что именно ей не понравилось.

У классических механизмов дела бодрее. Системами на основе правил довольны 87% участников, а многофакторными моделями оценки риска — все опрошенные. Правда, последние внедрили только 40% банков, поскольку для настройки требуется серьёзная внутренняя экспертиза.

И вот с ней как раз беда. У 70% банков нет собственных ресурсов для самостоятельной настройки антифрод-систем. Более половины организаций не смогли выполнить новые требования регуляторов без масштабной помощи вендора, а 73% считают встроенную аналитику своих платформ ограниченной.

Базовую защиту дистанционных каналов банки почти закрыли: интернет-банк и мобильные приложения охвачены средствами антифрода практически на 100%. Зато отделения и кредитные продукты остались на периферии, уровень покрытия там не превышает 40%.

Недостающую аналитику банки собирают сами: 80% создают собственные хранилища данных, а 40% внедряют инструменты поиска связей между клиентами, счетами и операциями.

По прогнозу «Инфосистем Джет», в ближайшие два-три года рынок будет соревноваться уже не в скорости, а в гибкости настройки. Победит тот, кто наконец отдаст управление антифродом самим аналитикам, а не заставит их каждый раз звать вендора. Результаты исследования.

RSS: Новости на портале Anti-Malware.ru