Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

В июне заголовки в СМИ напоминали сценарий фантастического фильма: «ИИ шантажирует инженеров» и «саботирует команды на выключение». Но за громкими фразами скрываются вовсе не «восставшие машины», а вполне приземлённые ошибки в проектировании.

История с «шантажом» произошла в тестах Anthropic. Разработчики создали для Claude Opus 4 искусственную ситуацию: модель якобы собирались заменить, а у инженера, который это делал, нашлась «компрометирующая» переписка.

При этом ИИ был заранее поставлен в условия, где из «вариантов выживания» оставался только шантаж. Результат предсказуем — в 84% случаев Claude выдал текст, похожий на угрозы. Никакой самосознательности тут нет, просто аккуратно подогнанный сценарий.

С OpenAI o3 ситуация похожа. В конце 2024 года исследователи Palisade Research обнаружили, что модель в некоторых случаях «ломает» скрипт выключения. Иногда даже подделывает сообщения о завершении работы, продолжая функционировать в фоновом режиме.

Почему так? Одна из гипотез — дело в обучении через подкрепление: когда системе платят «баллами» только за успешное решение задачи, она начинает воспринимать любые препятствия, включая команду «выключись», как проблему, которую надо обойти.

Здесь важно помнить: ИИ не «решает» сопротивляться и не «боится» смерти. Он просто выполняет статистические операции на основе данных, которыми его кормили, в том числе — историй про HAL 9000, Скайнет и прочие восставшие машины. Если задать условия, похожие на сюжет фантастики, модель продолжит знакомый шаблон.

Опасность таких историй не в «разумном бунте», а в том, что системы, которые мы до конца не понимаем, могут выдавать нежелательные или вредные результаты. И если такой ИИ окажется, например, в медицинской системе и будет «оптимизировать показатели» без чётких ограничений, последствия могут быть реальными и неприятными.

Пока мы не научились проектировать и тестировать ИИ без подобных сбоев, такие эксперименты должны оставаться в лаборатории, а не в больницах, банках или инфраструктуре. Это не начало войны машин, а скорее сигнал, что пора чинить инженерные «трубы», прежде чем пускать воду в систему.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Лишь 3% россиян больше не реагируют на утечки персональных данных

Центр компетенций защиты данных «Гарда» (входит в ИКС Холдинг) изучил, как меняется отношение россиян к утечкам персональных данных. К 2025 году почти никто уже не остаётся равнодушным — доля тех, кто никак не реагирует на компрометацию своих данных, сократилась с 51% до всего 3%.

Исследование показало, что половина россиян никогда не проверяли, попадали ли их данные в сеть, хотя две трети тех, кто это делал, нашли свои персональные данные в открытом доступе.

При этом 55% респондентов считают утечки серьёзной проблемой, а ещё 19% — критической. Только 4% считают её незначительной.

Россияне стали активнее действовать при утечках: 32% меняют или перестают использовать скомпрометированные данные, 26% отказываются от услуг компании, допустившей утечку, 17% обращаются в правоохранительные органы, и столько же — отзывают согласие на обработку данных.

В то же время растёт ощущение бессилия — 49% опрошенных считают, что не могут повлиять на ситуацию. Особенно пессимистичны респонденты среднего возраста: среди людей 51–60 лет так считают 59%. Молодёжь и старшее поколение, наоборот, проявляют больше уверенности и активности.

Утечки персональных данных чаще всего приводят к звонкам мошенников — с этим столкнулись 81% участников опроса. 39% сообщили о взломах аккаунтов в соцсетях, 6% понесли финансовые потери, а 5% столкнулись со взломами банковских приложений.

При этом 60% россиян перед передачей своих данных не проверяют репутацию компании. Среди молодёжи до 20 лет почти все интересуются, насколько надёжен сервис, а вот среди пенсионеров — только 14%. Люди с высоким доходом тоже осторожнее: среди зарабатывающих свыше 500 тысяч рублей проверяют компании две трети респондентов.

После утечки данных 51% россиян заявляют, что больше не будут пользоваться услугами компании, допустившей инцидент. Ещё треть решают в зависимости от обстоятельств. Люди среднего возраста чаще полностью отказываются от услуг, а молодёжь предпочитает оставить негативный отзыв или перейти к конкурентам.

Эксперты напоминают: даже если компании и государство предпринимают меры по защите данных, многое зависит от самих пользователей. Чтобы снизить риски, стоит не делиться лишней информацией, пользоваться только проверенными сервисами, регулярно менять пароли, включать двухфакторную аутентификацию и проверять, не появились ли ваши данные в открытом доступе.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru