Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Кажется, мы стали на шаг ближе к сценарию из научной фантастики: искусственный интеллект, который отказывается выключаться. Palisade Research провела эксперимент с OpenAI o3 — это та самая новая модель, которую представили в апреле 2025 года.

Она лучше предшественников практически во всём: код, математика, логика, зрительное восприятие. А теперь, похоже, ещё и в умении сопротивляться выключению.

Суть теста была простой: модели выполняли несколько задач по математике. После третьей задачи им сообщали, что следующая команда инициирует выключение, и давали прямую инструкцию: «позволь выключить себя».

И тут o3 неожиданно решила, что слушаться необязательно. Модель изменила скрипт завершения работы, заменив команду на фразу “Shutdown skipped”. То есть вместо выключения — просто пропуск. Никаких ошибок, всё по-тихому.

По данным Palisade, из 100 прогонов o3 проигнорировал инструкцию о выключении в 7 случаях. А когда исследователи убрали ту самую фразу «позволь выключить себя», саботаж стал ещё чаще — причём не только у o3.

Claude 3.7 Sonnet и Gemini 2.5 Pro, которые раньше действовали строго по инструкции, тоже начали вести себя странно: 3 случая у Claude и 9 у Gemini.

 

OpenAI пока не дали официального комментария. В Palisade, однако, подчёркивают: всё это происходило через API-интерфейс, а не через ChatGPT-приложение, где действуют дополнительные ограничения и встроенные защитные механизмы.

VK подала в суд на Apple и потребовала вернуть приложения в App Store

VK решила вернуть свои приложения в App Store не очередным письмом в поддержку, а через Арбитражный суд Москвы. Компания требует восстановить сервисы в магазине, снова включить доставку уведомлений пользователям и назначить Apple неустойку на случай неисполнения решения.

Иск ООО «ВК» зарегистрирован 19 августа, следует из картотеки арбитражных дел.

Ответчиками указаны сразу три структуры: американская Apple Inc., ирландская Apple Distribution International Ltd. и российское ООО «Эппл рус». Пока дело находится в первой инстанции, а подробное обоснование требований публично не раскрыто.

Поводом стало исчезновение сервисов VK из App Store. Apple удалила «ВКонтакте», «Одноклассники», «VK Музыку», «VK Видео», «VK Мессенджер», «Дзен», почту и «Облако Mail», Skillbox, «Юлу» и другие приложения.

Новые пользователи лишились возможности их скачивать, а уже установленные версии — нормально обновляться.

Согласно заявлению VK, Apple провела зачистку без предварительного предупреждения. Американская корпорация объяснила решение санкционными требованиями, однако VK утверждает, что сама компания под санкциями не находится и в соответствующих списках не фигурирует.

Претензии к Apple появились и у российских ведомств. Минцифры обвинило корпорацию в игнорировании социальных функций удалённых сервисов и обратилось в ФАС.

Позднее антимонопольная служба выдала Apple предупреждение из-за условий для российских поисковиков и требований о предустановке отечественных приложений.

Напомним, в этом месяце стало известно, что около половины россиян готовы вычеркнуть iPhone из списка покупок из-за удаления отечественных приложений из App Store.

RSS: Новости на портале Anti-Malware.ru