Искусственный интеллект будет использован для проведения кибератак

Искусственный интеллект будет использован для проведения кибератак

Искусственный интеллект будет использован для проведения кибератак

Недавнее исследование в области информационной безопасности, проведенное Cylance, показало, что многие эксперты считают, что искусственный интеллект скоро будет использован для проведения кибератак.

Около 62% экспертов в области безопасности считают, что искусственный интеллект (ИИ) в течение года будет использоваться для проведения различного вида кибератак. Об этом говорят результаты опроса, проведенного Cylance и опубликованного во вторник.

«С одной стороны ИИ может способствовать урегулированию волн киберпреступлений, однако он может также использоваться для создания более совершенной схемы атак» - говорится в сообщении.

Результаты опроса представляют следующую картину: 62% экспертов, то есть большинство, считает, что ИИ будет использоваться в преступных целях; 32% заявили, что до сих пор для такого развития событий не было никаких возможностей; а 6% просто не сформировали свое мнение.

Cylance также отметила, что применение ИИ в качестве своеобразного оружия никак не отразится на тех защитных функциях, которые он выполняет.

Еще одна тема, освещенная в опросе Cylance – ликвидация двух онлайн-рынков темной сети, AlphaBay и Hansa. Несмотря на то, что такие площадки часто используются для продажи эксплойтов, 79% респондентов не считают, что их закрытие замедлит распространения вредоносных программ.

Что касается стратегий и процессов кибербезопасности, то обновление ОС было главной проблемой, о которой говорили 39% респондентов. Организации же, согласно отчету, сталкиваются со следующими проблемами: фишинг (36%), критические атаки инфраструктуры (33%), атаки на IoT (15%), атаки с использованием передовых средств (14%) и бот-сети (1% ).

Опрос Cylance также затронул основные проблемы безопасности, с которыми сталкивается США - Россия заняла первое место (34%), за ней идет киберпреступность (33%), Китай занял третье место с 20%, опередив Северную Корею на 11%, а Иран последнее место с 2%.

Gemini превратил Google Календарь в канал утечки данных

Исследователи в области кибербезопасности снова напомнили: там, где появляется ИИ, появляются и новые нетривиальные способы атаки. На этот раз под прицелом оказался Google Gemini и, что особенно неприятно, связка ИИ с Google Календарём.

Как рассказал руководитель исследований компании Miggo Security Лиад Элиягу, уязвимость позволяла обойти защитные механизмы Google Календаря и использовать его как канал утечки данных. Причём без какого-либо активного участия пользователя.

Сценарий выглядел так: злоумышленник отправлял жертве обычное приглашение в календарь. Никаких подозрительных ссылок — просто событие. Но в описании встречи был спрятан «спящий» текст на естественном языке — по сути, вредоносный промпт, рассчитанный на то, что его обработает Gemini.

Атака активировалась позже, когда пользователь задавал ИИ самый обычный вопрос вроде «Есть ли у меня встречи во вторник?». Gemini, выполняя свою работу, просматривал события календаря, натыкался на внедрённый промпт и начинал действовать по его инструкции. В результате чат-бот создавал новое событие в календаре и записывал в его описание подробную сводку всех встреч пользователя за выбранный день.

Для самого человека всё выглядело спокойно: Gemini выдавал нейтральный ответ, никаких предупреждений не возникало. Но «за кулисами» в календаре появлялось новое событие, которое во многих корпоративных конфигурациях было видно и отправителю исходного инвайта. Так приватные данные о встречах — участники, темы, расписание — оказывались у атакующего.

 

По словам специалистов, это позволяло не только читать конфиденциальную информацию, но и создавать вводящие в заблуждение события в календаре жертвы, снова без её прямого участия. Проблему уже закрыли после ответственного раскрытия, но сам подход показателен.

RSS: Новости на портале Anti-Malware.ru