Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

Не бунт, а баг: как ИИ шантажирует и саботирует по сценарию

В июне заголовки в СМИ напоминали сценарий фантастического фильма: «ИИ шантажирует инженеров» и «саботирует команды на выключение». Но за громкими фразами скрываются вовсе не «восставшие машины», а вполне приземлённые ошибки в проектировании.

История с «шантажом» произошла в тестах Anthropic. Разработчики создали для Claude Opus 4 искусственную ситуацию: модель якобы собирались заменить, а у инженера, который это делал, нашлась «компрометирующая» переписка.

При этом ИИ был заранее поставлен в условия, где из «вариантов выживания» оставался только шантаж. Результат предсказуем — в 84% случаев Claude выдал текст, похожий на угрозы. Никакой самосознательности тут нет, просто аккуратно подогнанный сценарий.

С OpenAI o3 ситуация похожа. В конце 2024 года исследователи Palisade Research обнаружили, что модель в некоторых случаях «ломает» скрипт выключения. Иногда даже подделывает сообщения о завершении работы, продолжая функционировать в фоновом режиме.

Почему так? Одна из гипотез — дело в обучении через подкрепление: когда системе платят «баллами» только за успешное решение задачи, она начинает воспринимать любые препятствия, включая команду «выключись», как проблему, которую надо обойти.

Здесь важно помнить: ИИ не «решает» сопротивляться и не «боится» смерти. Он просто выполняет статистические операции на основе данных, которыми его кормили, в том числе — историй про HAL 9000, Скайнет и прочие восставшие машины. Если задать условия, похожие на сюжет фантастики, модель продолжит знакомый шаблон.

Опасность таких историй не в «разумном бунте», а в том, что системы, которые мы до конца не понимаем, могут выдавать нежелательные или вредные результаты. И если такой ИИ окажется, например, в медицинской системе и будет «оптимизировать показатели» без чётких ограничений, последствия могут быть реальными и неприятными.

Пока мы не научились проектировать и тестировать ИИ без подобных сбоев, такие эксперименты должны оставаться в лаборатории, а не в больницах, банках или инфраструктуре. Это не начало войны машин, а скорее сигнал, что пора чинить инженерные «трубы», прежде чем пускать воду в систему.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

Данные 4500 карт белорусских банков всплыли в даркнете и мессенджерах

Аналитики департамента киберразведки компании F6 второй год подряд замечают тревожную тенденцию — число скомпрометированных платёжных карт белорусских банков продолжает расти. С октября 2024 по октябрь 2025 года система F6 Threat Intelligence обнаружила более 4500 карточных реквизитов, всплывших в мессенджерах, на форумах и в даркнете.

Это на 53% больше, чем годом ранее, и в 2,3 раза больше, чем два года назад.

Примерно половина этих карт выставлена на продажу — злоумышленники торгуют данными, чтобы потом либо украсть деньги со счетов, либо обналичить средства, похищенные у других жертв.

В списке потенциально пострадавших могут быть и россияне — с 2022 года многие пользуются картами белорусских банков с логотипами Visa и Mastercard.

Когда реквизиты карты (номер, имя, срок действия, CVV) попадают в руки преступников, вариантов у них появлется несколько:

  • Снять деньги напрямую — оформить покупки, перевести средства или даже создать поддельную карту и обналичить её через старые банкоматы.
  • Обналичить чужие средства — использовать украденную карту, чтобы провести транзакции с деньгами, похищенными у других пользователей.

В обоих случаях владелец скомпрометированной карты рискует: либо лишиться всех денег, либо невольно стать частью преступной схемы в роли так называемого дропа.

На теневом рынке такие данные стоят недёшево: премиальные карты продаются по цене от $5 до $15 за штуку. Торговля идёт не только на известных кардшопах, но и в закрытых чатах и каналах мессенджеров.

Как карты попадают к мошенникам? F6 выделяет несколько основных способов:

  1. Фишинг. Пользователю приходит сообщение якобы от банка или знакомой компании с просьбой «подтвердить данные» или «проверить платёж». На самом деле ссылка ведёт на поддельный сайт, где жертва сама вводит свои реквизиты.
  2. Социальная инженерия и скам. Мошенники размещают фейковые вакансии, выманивая копии документов и номера карт «для перечисления зарплаты».
  3. Вредоносные программы. Под видом приложений или по ссылкам из писем на устройство попадает троян, стилер или кейлоггер — и всё: пароли, данные карт и даже доступ к онлайн-банку уходят злоумышленникам.

Даже несмотря на усилия банков и госорганов, объём утечек продолжает увеличиваться. По оценкам F6, в открытом доступе — включая даркнет — оказывается около 10% всех скомпрометированных карт, а реальные масштабы больше.

Причём преступники не выбирают конкретные банки: страдают и крупные, и небольшие, просто пропорционально числу их клиентов.

«Данные банковских карт остаются одной из самых ценных целей для киберпреступников. Они совершенствуют методы кражи и использования информации, что приводит к серьёзным финансовым потерям. Чем больше людей совершают онлайн-платежи и переводы, тем выше риск компрометации», — говорит Владислав Куган, старший аналитик отдела исследования кибератак F6 Threat Intelligence.

AM LiveПодписывайтесь на канал "AM Live" в Telegram, чтобы первыми узнавать о главных событиях и предстоящих мероприятиях по информационной безопасности.

RSS: Новости на портале Anti-Malware.ru