Агентный ИИ несет целый комплекс угроз для корпораций

Яков Шпунт 20 Августа 2025 - 18:41

...

Агентный ИИ несет целый комплекс угроз для корпораций

Агентный искусственный интеллект (ИИ), который работает автономно без участия человека и заранее прописанных алгоритмов, имеет целый ряд уязвимостей. Эти слабые места могут быть использованы злоумышленниками для атак на пользователей подобных систем, в первую очередь корпоративных.

Перечень таких рисков приведён в докладе «Агентный ИИ: маркетинговый ход или технологическая революция?», подготовленном Росконгрессом. Документ оказался в распоряжении РИА Новости.

Согласно докладу, атаки с применением агентного ИИ представляют собой крайне серьёзную угрозу. Потенциальный ущерб от их реализации может превысить последствия традиционных техник кибератак. В числе рисков — нежелательные действия, к совершению которых злоумышленники способны запрограммировать ИИ-агентов.

Отдельное внимание уделено угрозе «отравления памяти» ИИ. Такой сценарий стал возможен благодаря наличию у систем долговременной памяти. Исследования показывают, что использование техники MINJA (Memory INJection Attack) позволяет злоумышленникам добиваться нужных им действий с вероятностью до 70%, при этом не требуя от атакующих высоких привилегий доступа.

Авторы отмечают и другую проблему: современные ИИ-агенты получают доступ к конфиденциальным данным клиентов — финансовой информации, интеллектуальной собственности, юридическим документам и данным о транзакциях в цепочках поставок. В результате существует риск несанкционированного раскрытия этих данных. По статистике, с этим сталкивались почти 25% компаний, а 80% организаций, использующих ИИ-агентов, фиксировали попытки неавторизованного доступа к закрытой информации.

«Критически важными являются ограничение функциональности расширений до минимально необходимого уровня, использование множественных агентов с раздельными ролями вместо универсальных, обеспечение независимости функций безопасности от работы самих ИИ-агентов, а также непрерывный мониторинг с применением ограничений скорости и механизмов автоматического отключения агентов при аномальном поведении», — говорится в докладе.

Следующая главная новость »

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!

Екатерина Быстрова 10 Июня 2026 - 09:09

Общее

Let’s Encrypt может перестать выдавать сертификаты для .RU и .SU

У российских владельцев сайтов появился новый повод для беспокойства. В сообществе обратили внимание на изменения в пользовательском соглашении Let's Encrypt — крупнейшего в мире центра сертификации, который бесплатно выдаёт SSL-сертификаты для миллионов сайтов.

В новой версии (PDF) соглашения LE-SA v1.7 от 4 июня 2026 года появилась формулировка, которая может затронуть выдачу и продление сертификатов для доменов в зонах .RU и .SU.

На фоне этих обсуждений появились опасения, что российские сайты могут лишиться возможности получать или автоматически продлевать бесплатные сертификаты Let's Encrypt, которые за последние годы стали фактическим стандартом для защиты веб-ресурсов.

Ситуацию подогрело и то, что к ограничениям, по сообщениям участников рынка, присоединился другой популярный поставщик бесплатных сертификатов — ZeroSSL. Впрочем, говорить о полном отключении российских доменов пока рано.

Один из пользователей Хабра, обратившийся напрямую в Let's Encrypt за разъяснениями, получил официальный ответ от команды проекта. В нём говорится, что организация может выдавать сертификаты негосударственным структурам в России благодаря существующим исключениям в санкционном законодательстве США и специальным разрешениям Управления по контролю за иностранными активами (OFAC), направленным на поддержку свободы интернета и личных коммуникаций.

Однако ключевым словом в ответе оказалось именно «может». В юридическом смысле это означает наличие возможности, но не обязательства продолжать оказание услуг.

Поэтому вопрос о будущем сертификатов для российских доменов пока остаётся открытым. Автор запроса уже попросил Let's Encrypt уточнить позицию относительно дальнейшей выдачи и продления сертификатов.

Если ограничения всё же будут введены, последствия могут оказаться серьёзными. Let's Encrypt сегодня используется огромным количеством российских сайтов, небольших интернет-магазинов, корпоративных порталов и личных проектов. Для многих из них автоматическое продление бесплатных сертификатов давно стало привычной и практически незаметной частью работы инфраструктуры.

Кибератака на завод: как избежать простоя и убытков?
Регистрируйтесь на эфир!