Агентный ИИ несет целый комплекс угроз для корпораций

Агентный ИИ несет целый комплекс угроз для корпораций

Агентный ИИ несет целый комплекс угроз для корпораций

Агентный искусственный интеллект (ИИ), который работает автономно без участия человека и заранее прописанных алгоритмов, имеет целый ряд уязвимостей. Эти слабые места могут быть использованы злоумышленниками для атак на пользователей подобных систем, в первую очередь корпоративных.

Перечень таких рисков приведён в докладе «Агентный ИИ: маркетинговый ход или технологическая революция?», подготовленном Росконгрессом. Документ оказался в распоряжении РИА Новости.

Согласно докладу, атаки с применением агентного ИИ представляют собой крайне серьёзную угрозу. Потенциальный ущерб от их реализации может превысить последствия традиционных техник кибератак. В числе рисков — нежелательные действия, к совершению которых злоумышленники способны запрограммировать ИИ-агентов.

Отдельное внимание уделено угрозе «отравления памяти» ИИ. Такой сценарий стал возможен благодаря наличию у систем долговременной памяти. Исследования показывают, что использование техники MINJA (Memory INJection Attack) позволяет злоумышленникам добиваться нужных им действий с вероятностью до 70%, при этом не требуя от атакующих высоких привилегий доступа.

Авторы отмечают и другую проблему: современные ИИ-агенты получают доступ к конфиденциальным данным клиентов — финансовой информации, интеллектуальной собственности, юридическим документам и данным о транзакциях в цепочках поставок. В результате существует риск несанкционированного раскрытия этих данных. По статистике, с этим сталкивались почти 25% компаний, а 80% организаций, использующих ИИ-агентов, фиксировали попытки неавторизованного доступа к закрытой информации.

«Критически важными являются ограничение функциональности расширений до минимально необходимого уровня, использование множественных агентов с раздельными ролями вместо универсальных, обеспечение независимости функций безопасности от работы самих ИИ-агентов, а также непрерывный мониторинг с применением ограничений скорости и механизмов автоматического отключения агентов при аномальном поведении», — говорится в докладе.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Банк России определил критерии сомнительных операций для снятия наличных

С 1 сентября банки получат право временно ограничивать снятие наличных в банкоматах, если у них возникнут подозрения в сомнительном характере операций. Банк России утвердил порядок, по которому при выявлении определённых признаков выдача наличных может быть ограничена на 48 часов. Цель этой меры — снизить риски мошенничества и защитить клиентов от возможной кражи средств.

Регулятор выпустил приказ, где перечислены 9 признаков подозрительных операций.

К ним относятся:

  • Нетипичное поведение клиента (нехарактерное время суток, сумма операции, местоположение банкомата или терминала).
  • Резкие изменения в активности телефонных звонков минимум за 6 часов до попытки снять наличные.
  • Снятие денег менее чем через сутки после получения кредита.
  • Перевод более 200 тыс. рублей через СБП со счёта в другом банке.
  • Досрочное закрытие банковского вклада.
  • Смена номера телефона, используемого для авторизации в интернет-банке.
  • Изменение характеристик устройства, с которого выполняется вход в онлайн-банк.
  • Обнаружение вредоносных программ на мобильном устройстве клиента.

При выявлении таких признаков банк обязан ограничить снятие наличных до 50 тыс. рублей в сутки сроком на 48 часов. Клиент будет уведомлён об ограничении и его причинах. При этом возможность получить более крупную сумму в офисе банка сохраняется.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru