Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

В июне заголовки в СМИ напоминали сценарий фантастического фильма: «ИИ шантажирует инженеров» и «саботирует команды на выключение». Но за громкими фразами скрываются вовсе не «восставшие машины», а вполне приземлённые ошибки в проектировании.

История с «шантажом» произошла в тестах Anthropic. Разработчики создали для Claude Opus 4 искусственную ситуацию: модель якобы собирались заменить, а у инженера, который это делал, нашлась «компрометирующая» переписка.

При этом ИИ был заранее поставлен в условия, где из «вариантов выживания» оставался только шантаж. Результат предсказуем — в 84% случаев Claude выдал текст, похожий на угрозы. Никакой самосознательности тут нет, просто аккуратно подогнанный сценарий.

С OpenAI o3 ситуация похожа. В конце 2024 года исследователи Palisade Research обнаружили, что модель в некоторых случаях «ломает» скрипт выключения. Иногда даже подделывает сообщения о завершении работы, продолжая функционировать в фоновом режиме.

Почему так? Одна из гипотез — дело в обучении через подкрепление: когда системе платят «баллами» только за успешное решение задачи, она начинает воспринимать любые препятствия, включая команду «выключись», как проблему, которую надо обойти.

Здесь важно помнить: ИИ не «решает» сопротивляться и не «боится» смерти. Он просто выполняет статистические операции на основе данных, которыми его кормили, в том числе — историй про HAL 9000, Скайнет и прочие восставшие машины. Если задать условия, похожие на сюжет фантастики, модель продолжит знакомый шаблон.

Опасность таких историй не в «разумном бунте», а в том, что системы, которые мы до конца не понимаем, могут выдавать нежелательные или вредные результаты. И если такой ИИ окажется, например, в медицинской системе и будет «оптимизировать показатели» без чётких ограничений, последствия могут быть реальными и неприятными.

Пока мы не научились проектировать и тестировать ИИ без подобных сбоев, такие эксперименты должны оставаться в лаборатории, а не в больницах, банках или инфраструктуре. Это не начало войны машин, а скорее сигнал, что пора чинить инженерные «трубы», прежде чем пускать воду в систему.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Kaspersky представила систему защиты транспорта от кибератак

На выставке GITEX Global 2025 Kaspersky представила комплексную систему для защиты транспортных средств от киберугроз. Решение объединяет три технологии компании — Kaspersky Automotive Secure Gateway (KASG), Kaspersky Unified Monitoring and Analysis Platform (KUMA) и Kaspersky Machine Learning for Anomaly Detection (KMLAD).

Комбинация этих продуктов позволяет собирать, анализировать и обрабатывать телеметрию с бортовых систем автомобилей с помощью искусственного интеллекта.

Такой подход помогает выявлять подозрительные аномалии и предотвращать инциденты в реальном времени. Разработка учитывает требования международных стандартов к автомобильной кибербезопасности — UN R.155, UN R.156, ISO/SAE 21434 и ISO 26262.

KASG отвечает за защищённый сбор данных о работе автомобиля и событиях безопасности. Эти данные передаются по зашифрованным каналам в платформу KUMA — систему мониторинга и корреляции событий, адаптированную под транспортную телеметрию, — и в модуль KMLAD, использующий машинное обучение.

KMLAD анализирует поток данных, выявляет аномальное поведение и отклонения от нормы, которые нельзя заранее описать в виде стандартных правил, и передаёт результаты обратно в KUMA для дальнейшего реагирования. Таким образом, формируется замкнутый цикл безопасности: от сбора телеметрии до автоматического обнаружения и обработки инцидентов.

По словам экспертов, транспортный сектор сталкивается с растущими объёмами данных и киберугроз, справиться с которыми традиционные средства защиты уже не могут. Количество подключённых и беспилотных автомобилей растёт, а вместе с этим увеличивается и риск удалённых атак.

«Современные системы генерируют гигантские объёмы телеметрии, которые невозможно анализировать вручную. Кроме того, нормативная база в этой сфере пока не до конца выстроена. Интеграция наших технологий позволяет подойти к этой задаче комплексно», — пояснила Евгения Пономарёва, руководитель направления по безопасности транспортной инфраструктуры.

«Универсальных решений для защиты подключённого транспорта пока нет, поэтому важно строить многоуровневую систему безопасности и анализировать риски на каждом этапе», — добавил Дмитрий Лукиян, руководитель отдела по развитию бизнеса KasperskyOS.

Разработка предназначена для автомобильной промышленности и транспортной инфраструктуры, где требуется постоянный мониторинг телеметрии и высокая устойчивость к удалённым кибератакам.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru