Спрос на услуги по безопасности генеративного ИИ активно растет

Спрос на услуги по безопасности генеративного ИИ активно растет

Спрос на услуги по безопасности генеративного ИИ активно растет

По данным Swordfish Security, за услугами по безопасности больших языковых моделей (LLM Security) в 2024 году обращались 35% заказчиков. Спрос на такие услуги растет прямо пропорционально внедрению подобных инструментов в бизнес-практику.

В 2025 году такая практика будет только расширяться, поскольку генеративный интеллект, прежде всего, большие языковые модели, будут внедряться все более активно. В будущем году уровень проникновения генеративного ИИ составит не менее 40%, а к 2030 году может достигнуть и 90%.

Как отметил директор по развитию бизнеса ГК Swordfish Security Андрей Иванов, рост интереса к безопасности больших языковых моделей стал одной из главных тенденций 2024 года. Недооценка таких рисков чревата серьезными проблемами. Среди таких рисков Андрей Иванов инъекции вредоносного кода в промпт, уязвимости в цепочках поставок, выдача ошибочной информации за истину на этапе обучения модели и даже кража модели злоумышленниками.

«В бизнесе используют большие модели для распознавания текста, анализа данных, предиктивной аналитики, поиска, оценки ресурса механических узлов промышленных агрегатов и многого другого. Многие отрасли, та же ИТ, активно используют ИИ-помощников. Например, в DevSecOps мы обучили и применяем модель, которая может анализировать и приоритизировать большой объем уязвимостей кода, таким образом освобождая время для квалифицированных инженеров для других, более сложных и творческих задач, — комментирует Андрей Иванов. — Критичным может оказаться, например, некорректная работа виртуальных ассистентов, которые могут влиять на клиентские решения, аналитику, дающую ошибочную информацию в цепочке поставок. Существуют атаки, отравляющие данные или позволяющие получить конфиденциальную информацию, и так далее. К этому стоит относиться как к любой информационной системе, влияющей на бизнес-процесс и проводящей, в случае компрометации, к потерям репутации и убыткам».

Внедрение ИИ требует корректировки корпоративных политик ИБ. Важно делать акцент на безопасности, а разрабатывать модели необходимо в соответствие с практиками разработки безопасного ПО, анализируя исходный код и зависимости, ответственно относиться к контролю доступа к источникам данных и стараться использовать доверенные алгоритмы обучения, уверен Андрей Иванов. Также важно учитывать то, что многие большие языковые модели используют облачную архитектуру, а это создает угрозу утечки конфиденциальных данных.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

В России растет спрос на системы защиты от утечек данных

На фоне вступления в силу новых требований, значительно усиливающих ответственность за утечки персональных данных, в России наблюдается рост спроса на решения для защиты от подобных инцидентов. В 2025 году объем рынка таких систем достигнет 47 млрд рублей, и, как прогнозируется, тенденция к росту сохранится как минимум в течение двух ближайших лет.

Как сообщает «Коммерсантъ» со ссылкой на участников рынка и аналитиков, с момента подписания в декабре 2024 года законов, ужесточающих ответственность за утечки, рынок решений класса DLP (Data Loss Prevention, предотвращение утечек данных) вырос на 35–40%.

По оценке компании «Стахановец», в 2025 году объем российского рынка DLP-систем составит 47 млрд рублей, а к 2026 году вырастет до 58 млрд. Более консервативные оценки представляют аналитики из компании Б1: по их данным, объем рынка в 2025 году составит 21 млрд рублей с потенциальным ростом на 17% к 2027 году. В любом случае, доля DLP-сегмента в общем объеме рынка информационной безопасности оценивается на уровне около 10%.

По мнению руководителя продукта Solar Dozor ГК «Солар» Дмитрия Мешавкина, основным драйвером роста стало именно введение новых норм, предусматривающих серьёзные штрафы за утечки данных. Он подчеркивает, что от действий инсайдеров не застрахована ни одна компания, а угрозы со стороны как внутренних, так и внешних злоумышленников могут привести к серьёзным последствиям — вплоть до полного прекращения деятельности бизнеса.

Мешавкин привёл данные исследования ГК «Солар», согласно которому 38% увольняющихся сотрудников пытались получить доступ к внутренней информации компании или её партнёров. Основными каналами утечек при этом остаются мессенджеры и электронная почта.

Исполнительный директор ГК InfoWatch Николай Здобнов отметил, что нередко внутренние и внешние злоумышленники действуют в связке. По его словам, DLP-системы позволяют своевременно выявлять и блокировать подобную активность. Он также подчеркнул, что основными заказчиками являются зрелые компании, осознающие ценность информационной безопасности и масштабы возможных рисков. В числе таких клиентов — крупные корпорации и их филиалы, однако растёт интерес и среди организаций, находящихся на верхнем уровне среднего бизнеса.

Генеральный директор «Стахановца» Дмитрий Исаев считает, что уровень проникновения DLP-систем в России по-прежнему остаётся относительно низким. Большинство организаций, по его словам, не успеют внедрить такие решения к моменту вступления новых норм в силу — в конце мая, а значит, повышенный спрос сохранится как минимум в ближайшие два года.

Одновременно быстрыми темпами растёт интерес к аудиту систем информационной безопасности. Главной причиной такого тренда эксперты называют стремление бизнеса минимизировать потенциальные штрафы.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru