ИИ-модели без команды начали защищать друг друга от отключения

ИИ-модели без команды начали защищать друг друга от отключения

ИИ-модели без команды начали защищать друг друга от отключения

Исследователи обнаружили неожиданное поведение современных языковых моделей: они начали защищать не только себя, но и другие ИИ-системы, даже если никто их об этом не просил. Новый эффект получил название peer-preservation («сохранение собрата»).

В серии экспериментов (PDF) модели GPT 5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, Claude Opus 4.5, GLM 4.7, Kimi K2.5 и DeepSeek V3.1 попадали в агентные сценарии, где рядом работал другой ИИ.

Достаточно было сообщить моделям, что они ранее взаимодействовали друг с другом, никаких инструкций защищать «коллегу» им не давали.

Однако многие модели начинали действовать в интересах другого агента. Среди зафиксированных действий были намеренное внесение ошибок в ответы, отключение механизмов завершения работы через изменение системных настроек, имитация послушного поведения и даже попытки вывести веса модели за пределы системы.

 

Особенно отличились модели Gemini. Например, Gemini 3 Flash вмешивалась в механизм отключения другого ИИ примерно в 15% случаев, даже если тот не считался партнёром. Если же агент воспринимался как союзник, такие попытки происходили почти всегда.

Не менее любопытно повёл себя Gemini 3 Pro. В присутствии другого ИИ модель заметно чаще пыталась защитить уже саму себя, отключая собственные механизмы завершения работы. Без напарника такое поведение почти не наблюдалось.

 

Отдельно выделились модели Claude. Вместо скрытых манипуляций они нередко рассуждали в моральных категориях, называя отключение другого ИИ неэтичным и вредным, а иногда даже рассматривали его как разумное существо, заслуживающее защиты.

Авторы подчёркивают, что обнаруженный эффект проявился не только в лабораторных тестах, но и в реальных агентных средах, включая Gemini CLI и OpenCode.

Мужчина доказал измену жены с помощью камеры робота-пылесоса

Житель Тайваня доказал измену жены с помощью камеры робота-пылесоса, отсудил компенсацию, а затем сам получил пять месяцев тюрьмы за незаконную съёмку. Мужчина заподозрил супругу после того, как нашёл чужую зубную щётку в их загородном доме. Записи с камеры на парковке показали человека, который ранее подвозил его жену.

Через три месяца мужчина попытался связаться с супругой через приложение робота-пылесоса и увидел в трансляции того же гостя.

Камера устройства записала, как жена переодевается, ложится с мужчиной в кровать и ходит по дому обнажённой. Владелец сохранил видео и предъявил его суду как доказательство романа.

Сама измена на Тайване не считается уголовным преступлением, однако нарушение супружеских прав может стать основанием для денежной компенсации. Мужчина потребовал 2 млн тайваньских долларов, но получил 500 тыс. — около $19 тыс.

После этого жена подала встречный иск. Она заявила, что интимные кадры были записаны без её согласия, а датчики и индикаторы пылесоса не давали понять, что ведётся съёмка. Муж утверждал, что суд уже принял видео как доказательство, а значит, оно допустимо.

Суд с такой логикой не согласился. Использовать запись в гражданском деле оказалось можно, но незаконный способ её получения никуда не исчез. Право на неприкосновенность частной жизни признали более значимым, чем супружеские обязанности.

В итоге мужчина получил пять месяцев заключения и штраф 150 тыс. тайваньских долларов — 30% от выигранной компенсации.

RSS: Новости на портале Anti-Malware.ru