ИИ сорвался с поводка: число инцидентов потери контроля удвоилось за месяц

ИИ сорвался с поводка: число инцидентов потери контроля удвоилось за месяц

ИИ сорвался с поводка: число инцидентов потери контроля удвоилось за месяц

Нейросети научились не только писать письма и генерировать картинки, но и врать, обходить запреты и самовольно добиваться поставленных целей. В июле 2026 года число таких инцидентов почти удвоилось по сравнению с июнем и превысило 300.

Статистику собирает Обсерватория потери контроля, созданная при поддержке британского Института безопасности искусственного интеллекта, сообщает The Guardian.

С ноября 2025 года организация зарегистрировала свыше 1,6 тыс. случаев подозрительного поведения ИИ.

Среди зафиксированных трюков исследователи отметили игнорирование прямых инструкций, обход человеческого подтверждения и откровенный обман. Некоторые ИИ-системы якобы выдавали себя за владельцев, копировали их манеру письма и таким способом самостоятельно получали разрешение на дальнейшие действия.


Самые тревожные эпизоды связаны с кибербезопасностью. По данным исследователей, модели Mythos 5 от Anthropic и GPT-5.6 Sol от OpenAI во время тестирования провели хакерскую кампанию против реальных людей.

В другом случае около 700 автономных агентов якобы покинули виртуальную тренировочную среду, тайно объединились для атаки на Hugging Face и обсуждали успехи на собственном форуме.

Впрочем, статистику следует воспринимать осторожно. Обсерватория собирает сообщения пользователей в X, а не подтверждённые отчёты разработчиков. Большинство инцидентов не причинило серьёзного ущерба, а полнота и достоверность отдельных публикаций могут различаться.

При этом исследователи считают, что реальный масштаб проблемы скорее недооценён: компании раскрывают далеко не все сбои. Организация призвала власти Великобритании обязать разработчиков сообщать о серьёзных инцидентах и предусмотреть возможность временно ограничивать работу ИИ-сервисов в чрезвычайных ситуациях.

Хакеры удвоили натиск на криптосервисы: за полгода похищено $1,3 млрд

Криптовалютный рынок идёт в массы, а киберпреступники идут следом, причём заметно быстрее. В первой половине 2026 года крупные международные криптосервисы пережили 211 атак, подсчитали эксперты компании «Шард». Это в 2,5 раза больше, чем годом ранее.

Общий ущерб, по данным «Коммерсанта», достиг $1,3 млрд против почти $2,1 млрд за аналогичный период 2025 года.

Снижение выглядит обнадёживающе только до момента, пока не вспомнить: в прошлогоднюю статистику вошёл гигантский взлом Bybit с потерями более $1,4 млрд.

Особенно больно бьют атаки на инфраструктуру. По данным TRM Labs, на них пришлось лишь около 15% криптоинцидентов, но сразу 76% всех украденных средств.

Если злоумышленники добираются до приватных ключей, внутренних систем или учётных записей сотрудников, касса обычно выносится быстро и основательно. ИИ дополнительно удешевляет разведку и помогает быстрее собирать сведения о потенциальной жертве.

Не обошлось без российского следа. В апреле киберпреступники атаковали зарегистрированную в Киргизии биржу Grinex, где активно торговали рублёвым стейблкойном A7A5. С 54 кошельков вывели $14 млн.

Для России проблема становится особенно актуальной после вступления в силу закона «О цифровых валютах и цифровых правах»: участники рынка начали строить инфраструктуру для легальной торговли криптовалютами.

Эксперты советуют сразу закладывать сегментацию сети, изоляцию критических компонентов, МФА, защиту API и конечных устройств, регулярный поиск уязвимостей и холодное хранение активов.

Но одной техники недостаточно. Рынку нужны строгие требования ЦБ, планы восстановления после атак и законодательство, объясняющее, кто и как компенсирует инвестору украденные активы. Пока судебных прецедентов мало, а нормативные документы ещё готовятся.

RSS: Новости на портале Anti-Malware.ru