70% бизнеса опасаются ошибок ИИ и думают о страховании рисков

70% бизнеса опасаются ошибок ИИ и думают о страховании рисков

70% бизнеса опасаются ошибок ИИ и думают о страховании рисков

Почти 70% российских предпринимателей готовы застраховать свой бизнес от проблем, которые может вызвать некорректная работа искусственного интеллекта. Такие данные приводит исследование «Совкомбанк страхования» и «Всероссийского бизнес-центра», проведённое на платформе TenChat.

Больше всего компании боятся утечек конфиденциальной информации и ударов по деловой репутации.

Возможные прямые финансовые потери беспокоят значительно меньше — на них указала лишь треть опрошенных. Для каждого четвёртого бизнесмена страховка от рисков, связанных с ИИ, стала вопросом первоочередной важности.

Исследование также показало, что искусственный интеллект активно внедряется в бизнес-процессы. Более половины компаний (54%), которые уже внедрили ИИ, используют его каждый день или хотя бы несколько раз в неделю. 31% делают это время от времени, и лишь 15% пока обходятся без нейросетей.

Чаще всего ИИ применяют для автоматизации рутинных задач (38%), в маркетинге и персонализации (35%), а также в аналитике и прогнозировании (34%). Реже — в клиентском сервисе, логистике и разработке продуктов.

По словам Станислава Ежова, директора по ИИ «Группы Астра», компании часто внедряют новые инструменты без должного контроля.

«Сегодня бизнес массово внедряет ИИ, но более половины компаний не контролируют результаты, а каждый шестой уже несёт убытки. Важно понимать: когда вы что-то внедряете, нужно сразу думать о безопасной архитектуре. Иначе можно потерять чувствительную информацию вместо того, чтобы упростить себе жизнь», — отметил он.

Расширения Chrome могут слить секреты URL через атаку по стороннему каналу

Как оказалось, расширения Chrome можно использовать для слива кодов авторизации, сеансовых ID и других секретов из URL любой открытой вкладки. Никаких специальных разрешений для этого не понадобится, только доступ к declarativeNetRequest API.

Этот механизм, пришедший на смену webRequest API, позволяет расширениям сообщать браузеру, что следует изменить или заблокировать на загружаемой странице (заголовки, реклама, трекеры).

Правила обработки запросов при этом добавляются динамически, а фильтрация осуществляется по регулярным выражениям, соответствующим подмножествам знаков, которые могут присутствовать на определенных позициях в URL.

Исследователь Луан Эррера (Luan Herrera) обнаружил, что блокировку, диктуемую правилами, Chrome производит почти мгновенно, за 10-30 мс, а остальные запросы выполняются дольше (~50-100ms) — из-за сетевых подключений. Эту разницу во времени расширение может использовать для бинарного поиска с целью посимвольного слива URL.

// extensions/browser/api/web_request/extension_web_request_event_router.cc:1117-1127
case DNRRequestAction::Type::BLOCK:
  ClearPendingCallbacks(browser_context, *request);
  DCHECK_EQ(1u, actions.size());
  OnDNRActionMatched(browser_context, *request, action);
  return net::ERR_BLOCKED_BY_CLIENT;

Оракул для подобной тайминг-атаки строится с использованием chrome.tabs.reload для перезагрузки страницы и перехватчика chrome.tabs.onUpdated, помогающего отследить событие status === "complete". Замер времени между reload и завершением загрузки покажет, заблокирован запрос или успешно обработан.

Повторение проверок и бинарного поиска позволяет получить полный URL (с довеском после «?»), затратив на каждый знак строки несколько прогонов. Таким образом, можно незаметно для пользователя украсть включенные приложением в адрес секреты — токены OAuth и сброса пароля, API-ключи, ссылки на контент, закрытый для поисковых систем.

Проверка PoC проводилась на Windows 11 24H2 с использованием Chrome разных версий:

  • 144.0.7559.97 (Stable)
  • 145.0.7632.18 (Beta)
  • 146.0.7647.4 (Dev)
  • 146.0.7653.0 (Canary)

В Google подтвердили возможность подобной атаки по стороннему каналу, но заявили, что решить проблему нереально.

RSS: Новости на портале Anti-Malware.ru