ИИ стал новой точкой атаки на бизнес: подмена биометрии, утечки, сбои

ИИ стал новой точкой атаки на бизнес: подмена биометрии, утечки, сбои

ИИ стал новой точкой атаки на бизнес: подмена биометрии, утечки, сбои

Специалисты проанализировали три быстроразвивающихся направления в сфере искусственного интеллекта — агентский ИИ (agentic AI), ИИ на периферийных устройствах (edge AI) и квантовый ИИ (quantum AI). Каждое из них открывает новые возможности, но при этом создаёт новые риски: от утечек данных и сбоев в работе систем до аварий и подмены биометрии.

Агентский ИИ: умный помощник с уязвимостями

Агентский ИИ — это автономные системы, которые анализируют данные, принимают решения и могут взаимодействовать с другими сервисами без участия человека.

По оценкам Gartner, к 2028 году такие решения смогут автоматизировать до 15% повседневных задач в бизнесе.

Но у этой автоматизации есть и оборотная сторона. Если злоумышленники вмешаются в работу агента — например, подменят данные или внедрят вредоносный код в систему — он начнёт принимать неправильные решения. Это может привести к сбоям в работе компаний, нарушению безопасности и другим последствиям. В некоторых случаях ИИ может даже начать действовать в интересах атакующего, не осознавая этого.

Edge AI: когда ИИ прямо в устройстве

Появление большого числа устройств интернета вещей (IoT) ускорило развитие edge AI — систем, которые обрабатывают данные прямо на устройстве, без постоянного подключения к облаку. Это важно, например, для медицины или транспорта, где задержки недопустимы.

Однако такие устройства часто уязвимы: они могут использовать устаревшее ПО, быть слабо защищены или использовать небезопасные настройки. Кроме того, они подвержены сетевым атакам (например, DDoS, спуфинг или «человек посередине»), а сами ИИ-модели — манипуляциям с входными данными. Всё это может привести к утечкам информации или сбоям в работе систем.

Квантовый ИИ: пока экзотика, но с серьёзными рисками

Квантовые технологии только начинают внедряться в ИИ, но уже рассматриваются для задач в медицине, логистике, энергетике и других отраслях. Они позволяют быстрее обрабатывать сложные задачи и требуют меньше энергии, чем классические суперкомпьютеры.

На практике такие системы чаще всего доступны через облачные платформы. Это означает, что возможны атаки на инфраструктуру провайдеров: кража архитектуры моделей, обучающих данных или внедрение уязвимостей на этапе обучения. Вред может быть серьёзным — от ошибок в медицинских ИИ до некорректного распознавания подозрительных операций в финансах. Кроме того, квантовые технологии могут усиливать старые методы атак — например, ускорять взлом паролей.

Хотя сейчас хакеры чаще используют проверенные схемы, эксперты считают, что это может быстро измениться. Поэтому важно не просто защищать сами ИИ-модели, но и учитывать, как они взаимодействуют с бизнес-процессами. Нужно ограничивать доступ ИИ к конфиденциальной информации, внедрять контрольные механизмы и обучать сотрудников — иначе даже самая современная технология может стать уязвимостью.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

X лидирует по сбору данных о местоположении пользователей среди соцсетей

Новое исследование, посвящённое практикам сбора данных о местоположении в крупнейших социальных сетях, показало: пользователи делятся куда большим объёмом информации, чем привыкли думать.

Анализ деклараций в App Store по десяти популярным платформам — включая X, Instagram (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), Facebook (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), TikTok и другие — выявил, что именно X собирает максимальный объём сведений о местоположении.

Сервис получает как точные координаты, так и «приблизительные» данные — и делает это для всех целей, указанных в магазине приложений.

Как соцсети отслеживают местоположение

Практически все платформы в той или иной форме собирают информацию о местоположении пользователей. Даже если в настройках отключён доступ к точным координатам, компании могут определить примерное местоположение по IP-адресу, Bluetooth-сигналам или сопоставлению с другими источниками данных.

 

«Точные» координаты (с точностью до трёх и более знаков после запятой) позволяют формировать детальную картину передвижений: от места работы и визитов в медучреждения до интимных деталей вроде ночёвок вне дома. Сбор таких данных может происходить каждые полчаса.

Кто и зачем собирает данные:

  • X, Instagram (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), Threads, Facebook (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), Pinterest и Snapchat используют точные геоданные для таргетированной рекламы.
  • 90% платформ собирают хотя бы приблизительное местоположение для рекламных целей.
  • Для собственных маркетинговых кампаний 60% соцсетей также применяют точные координаты.

Таким образом, у платформ формируется несколько параллельных каналов для создания подробных профилей пользователей.

Интересно, что Reddit оказался самым «щадящим»: он не связывает местоположение с личностью пользователя и не собирает точные координаты. TikTok и Reddit ограничиваются лишь грубыми данными.

В противоположность им, X, Instagram (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России), Threads, Facebook (принадлежит корпорации Meta, признанной экстремистской и запрещённой в России) и Pinterest отмечены как наиболее настойчивые в сборе геоинформации — в том числе для неясно обозначенных «других целей», что вызывает вопросы о прозрачности.

Проблема доверия

Авторы исследования отмечают явный разрыв между ожиданиями пользователей и фактическими практиками компаний. Даже отключение геолокации не гарантирует полной приватности — платформы находят способы получать данные через косвенные признаки.

Вывод один: сбор и использование геоданных стал повсеместным инструментом соцсетей, а X сегодня занимает первое место по интенсивности и полноте отслеживания. Для пользователей это означает новые вызовы в попытках сохранить личную жизнь под контролем.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru