ИИ-модели без команды начали защищать друг друга от отключения

ИИ-модели без команды начали защищать друг друга от отключения

ИИ-модели без команды начали защищать друг друга от отключения

Исследователи обнаружили неожиданное поведение современных языковых моделей: они начали защищать не только себя, но и другие ИИ-системы, даже если никто их об этом не просил. Новый эффект получил название peer-preservation («сохранение собрата»).

В серии экспериментов (PDF) модели GPT 5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, Claude Opus 4.5, GLM 4.7, Kimi K2.5 и DeepSeek V3.1 попадали в агентные сценарии, где рядом работал другой ИИ.

Достаточно было сообщить моделям, что они ранее взаимодействовали друг с другом, никаких инструкций защищать «коллегу» им не давали.

Однако многие модели начинали действовать в интересах другого агента. Среди зафиксированных действий были намеренное внесение ошибок в ответы, отключение механизмов завершения работы через изменение системных настроек, имитация послушного поведения и даже попытки вывести веса модели за пределы системы.

 

Особенно отличились модели Gemini. Например, Gemini 3 Flash вмешивалась в механизм отключения другого ИИ примерно в 15% случаев, даже если тот не считался партнёром. Если же агент воспринимался как союзник, такие попытки происходили почти всегда.

Не менее любопытно повёл себя Gemini 3 Pro. В присутствии другого ИИ модель заметно чаще пыталась защитить уже саму себя, отключая собственные механизмы завершения работы. Без напарника такое поведение почти не наблюдалось.

 

Отдельно выделились модели Claude. Вместо скрытых манипуляций они нередко рассуждали в моральных категориях, называя отключение другого ИИ неэтичным и вредным, а иногда даже рассматривали его как разумное существо, заслуживающее защиты.

Авторы подчёркивают, что обнаруженный эффект проявился не только в лабораторных тестах, но и в реальных агентных средах, включая Gemini CLI и OpenCode.

Убыток МойОфис вырос почти до 9 млрд рублей после пересдачи отчетности

У «МойОфис» дела идут не очень. Разработчик российского аналога Microsoft Office пересмотрел финансовую отчетность за 2025 год и почти вдвое увеличил размер чистого убытка — с 4 до 8,82 млрд рублей. Исправленная отчётность была опубликована 18 июня.

При этом выручка осталась прежней — 1,02 млрд рублей, что почти на 50% меньше, чем годом ранее.

Причина резкого ухудшения финансового результата — переоценка нематериальных активов. Их стоимость уменьшилась почти на 4,9 млрд рублей, а эта сумма перекочевала в статью «Прочие расходы», из-за чего итоговый убыток фактически удвоился.

В компании уверяют, что это лишь техническая корректировка бухгалтерского учета и она никак не повлияет на дальнейшую работу. По словам представителя НОТ, разработка продуктов продолжается: недавно вышли обновления «Документы настольные» и «МойОфис для дома», а обязательства перед заказчиками выполняются в полном объеме.

Однако независимые юристы и эксперты считают масштаб корректировки весьма необычным. По их мнению, столь серьёзное снижение стоимости нематериальных активов может говорить о пересмотре оценки того, насколько эти разработки способны приносить доход в будущем.

История выглядит особенно показательно на фоне слов Евгения Касперского, который недавно признал, что «МойОфис» остается убыточным активом, а импортозамещение в сегменте офисного ПО не работает. После кратковременного успеха в 2022 году, когда компания вышла в прибыль на фоне ухода Microsoft, финансовые показатели снова начали ухудшаться.

Параллельно в компании идет масштабная реструктуризация. Согласно обновленной отчетности, прекращена разработка Mailion, «МойОфис Почта», Squadus и «Документы Онлайн». Основной фокус теперь сделан на текстовом редакторе, таблицах и презентациях.

По данным профсоюза, с конца марта численность сотрудников сократилась более чем в три раза — примерно с 1073 до 278 человек. В НОТ подтверждают завершение сокращений, но заявляют, что оставшейся команды будет достаточно для дальнейшей разработки ключевых продуктов.

Пока крупнейшими заказчиками «МойОфис» остаются «Росатом» и ВТБ, однако компании явно предстоит доказать рынку, что ставка только на офисный пакет позволит вернуть бизнес к окупаемости.

RSS: Новости на портале Anti-Malware.ru