Искусственный интеллект будет использован для проведения кибератак

Искусственный интеллект будет использован для проведения кибератак

Искусственный интеллект будет использован для проведения кибератак

Недавнее исследование в области информационной безопасности, проведенное Cylance, показало, что многие эксперты считают, что искусственный интеллект скоро будет использован для проведения кибератак.

Около 62% экспертов в области безопасности считают, что искусственный интеллект (ИИ) в течение года будет использоваться для проведения различного вида кибератак. Об этом говорят результаты опроса, проведенного Cylance и опубликованного во вторник.

«С одной стороны ИИ может способствовать урегулированию волн киберпреступлений, однако он может также использоваться для создания более совершенной схемы атак» - говорится в сообщении.

Результаты опроса представляют следующую картину: 62% экспертов, то есть большинство, считает, что ИИ будет использоваться в преступных целях; 32% заявили, что до сих пор для такого развития событий не было никаких возможностей; а 6% просто не сформировали свое мнение.

Cylance также отметила, что применение ИИ в качестве своеобразного оружия никак не отразится на тех защитных функциях, которые он выполняет.

Еще одна тема, освещенная в опросе Cylance – ликвидация двух онлайн-рынков темной сети, AlphaBay и Hansa. Несмотря на то, что такие площадки часто используются для продажи эксплойтов, 79% респондентов не считают, что их закрытие замедлит распространения вредоносных программ.

Что касается стратегий и процессов кибербезопасности, то обновление ОС было главной проблемой, о которой говорили 39% респондентов. Организации же, согласно отчету, сталкиваются со следующими проблемами: фишинг (36%), критические атаки инфраструктуры (33%), атаки на IoT (15%), атаки с использованием передовых средств (14%) и бот-сети (1% ).

Опрос Cylance также затронул основные проблемы безопасности, с которыми сталкивается США - Россия заняла первое место (34%), за ней идет киберпреступность (33%), Китай занял третье место с 20%, опередив Северную Корею на 11%, а Иран последнее место с 2%.

Сотни iOS-приложений с ИИ в App Store сливают данные пользователей

Исследователи обнаружили в App Store сотни приложений, сливающих пользовательские данные — от имён и адресов электронной почты до истории чатов. И что особенно показательно, подавляющее большинство таких приложений связано с ИИ.

На проблему обратили внимание авторы инициативы Firehound, которую ведёт исследовательская команда CovertLabs.

Проект сканирует и индексирует приложения в App Store, выявляя те, которые по неосторожности (или халатности) оставляют данные пользователей в открытом доступе. На это указал известный исследователь @vxunderground, который без лишних церемоний охарактеризовал происходящее как «slopocalypse» («слопокалипсис» — от «AI-slop» — прим. Anti-Malware.ru).

По состоянию на текущий момент проект Firehound выявил 198 iOS-приложений, которые в той или иной форме раскрывают пользовательские данные. Причём 196 из них грозят серьёзными утечками.

 

Антирекордсменом стало приложение Chat & Ask AI. Оно уверенно возглавляет рейтинги Firehound по количеству открытых файлов и записей: более 406 миллионов записей, относящихся к 18+ миллионам пользователей. И это не абстрактные метаданные — речь идёт о реальной пользовательской информации.

Исследователь @Harrris0n, один из участников проекта, отдельно прокомментировал находку, подчеркнув масштабы проблемы и её системный характер.

Большинство утечек связано с неправильно настроенными базами данных и облачными хранилищами. Во многих случаях приложения не только оставляют данные открытыми, но и фактически «помогают» исследователям — раскрывая схемы данных и точное количество записей.

Хотя наибольшее число проблемных приложений действительно относится к ИИ-сервисам (чат-боты, ассистенты, генераторы контента), список категорий куда шире. Среди них:

  • образование,
  • развлечения,
  • графика и дизайн,
  • здоровье и фитнес,
  • образ жизни,
  • социальные сети.

Публичная версия Firehound намеренно ограничена. Самые чувствительные результаты не выкладываются в открытый доступ — их сначала проверяют и редактируют, чтобы не усугубить ситуацию.

Хотя в соцсетях Firehound уже окрестили каталогом ИИ-слопа, сами авторы проекта осторожны в формулировках. Нет прямых доказательств, что эти приложения были созданы с помощью вайб-кодинга или автономных ИИ-инструментов. Да и сам термин больше отражает настроение, чем техническую суть проблемы.

RSS: Новости на портале Anti-Malware.ru