Агентный ИИ несет целый комплекс угроз для корпораций

Агентный ИИ несет целый комплекс угроз для корпораций

Агентный ИИ несет целый комплекс угроз для корпораций

Агентный искусственный интеллект (ИИ), который работает автономно без участия человека и заранее прописанных алгоритмов, имеет целый ряд уязвимостей. Эти слабые места могут быть использованы злоумышленниками для атак на пользователей подобных систем, в первую очередь корпоративных.

Перечень таких рисков приведён в докладе «Агентный ИИ: маркетинговый ход или технологическая революция?», подготовленном Росконгрессом. Документ оказался в распоряжении РИА Новости.

Согласно докладу, атаки с применением агентного ИИ представляют собой крайне серьёзную угрозу. Потенциальный ущерб от их реализации может превысить последствия традиционных техник кибератак. В числе рисков — нежелательные действия, к совершению которых злоумышленники способны запрограммировать ИИ-агентов.

Отдельное внимание уделено угрозе «отравления памяти» ИИ. Такой сценарий стал возможен благодаря наличию у систем долговременной памяти. Исследования показывают, что использование техники MINJA (Memory INJection Attack) позволяет злоумышленникам добиваться нужных им действий с вероятностью до 70%, при этом не требуя от атакующих высоких привилегий доступа.

Авторы отмечают и другую проблему: современные ИИ-агенты получают доступ к конфиденциальным данным клиентов — финансовой информации, интеллектуальной собственности, юридическим документам и данным о транзакциях в цепочках поставок. В результате существует риск несанкционированного раскрытия этих данных. По статистике, с этим сталкивались почти 25% компаний, а 80% организаций, использующих ИИ-агентов, фиксировали попытки неавторизованного доступа к закрытой информации.

«Критически важными являются ограничение функциональности расширений до минимально необходимого уровня, использование множественных агентов с раздельными ролями вместо универсальных, обеспечение независимости функций безопасности от работы самих ИИ-агентов, а также непрерывный мониторинг с применением ограничений скорости и механизмов автоматического отключения агентов при аномальном поведении», — говорится в докладе.

35% компаний увеличили бюджеты на ИИ — больше, чем на кибербезопасность

Российский бизнес окончательно перестал воспринимать облака как модный эксперимент. Теперь главный вопрос звучит иначе: где запускать ИИ, как управлять несколькими облаками одновременно и кто поможет всё это не сломать.

К таким выводам пришли авторы исследования «Облачные тренды в корпоративном секторе России 2026», подготовленного VK Tech совместно с Apple Hills Digital, Cloud.ru и Selectel.

Главный герой отчёта — искусственный интеллект. Уже 24% компаний запустили ИИ-нагрузки в облаке, а ещё 22% находятся на стадии пилота или планируют стартовать в течение ближайшего года. В сумме получается, что почти половина российского бизнеса так или иначе движется в сторону облачного ИИ.

Более того, ИИ впервые стал главным направлением роста ИТ-бюджетов. В 2026 году 35% компаний увеличили расходы именно на проекты, связанные с искусственным интеллектом. Это больше, чем на кибербезопасность, которая традиционно считалась одним из главных получателей новых инвестиций.

Самым популярным вариантом оказались опенсорс-модели, доступные как сервис. Их используют 37% клиентов облачных провайдеров. За ними следуют ИИ-агенты и дообученные большие языковые модели — по 27%.

При этом выяснилась любопытная деталь. Несмотря на хайп вокруг ИИ, большинство компаний по-прежнему вынуждены разбираться с ним самостоятельно. По данным исследования, 41% организаций получают от провайдера только вычислительные мощности и инфраструктуру, а внедрением искусственного интеллекта занимаются своими силами. Лишь 10% активно используют экспертизу облачного провайдера.

Меняется и сам рынок облаков. Уже 58% компаний работают сразу с двумя или более облачными платформами. Но при этом 57% продолжают управлять такой инфраструктурой вручную. А зрелые практики контроля облачных расходов внедрила только каждая десятая компания.

Авторы исследования отмечают, что рынок перешёл в новую фазу. Споры о том, нужны ли облака, практически закончились. Теперь компании решают более сложные задачи: как эффективно использовать ИИ, как не потеряться в мультиоблачной среде и как не превратить растущие ИТ-бюджеты в бесконтрольные расходы.

Похоже, что в 2026 году облака стали обычной частью корпоративной жизни. А новым полем битвы между провайдерами постепенно становится уже не инфраструктура, а искусственный интеллект и сервисы вокруг него.

RSS: Новости на портале Anti-Malware.ru