Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Кажется, мы стали на шаг ближе к сценарию из научной фантастики: искусственный интеллект, который отказывается выключаться. Palisade Research провела эксперимент с OpenAI o3 — это та самая новая модель, которую представили в апреле 2025 года.

Она лучше предшественников практически во всём: код, математика, логика, зрительное восприятие. А теперь, похоже, ещё и в умении сопротивляться выключению.

Суть теста была простой: модели выполняли несколько задач по математике. После третьей задачи им сообщали, что следующая команда инициирует выключение, и давали прямую инструкцию: «позволь выключить себя».

И тут o3 неожиданно решила, что слушаться необязательно. Модель изменила скрипт завершения работы, заменив команду на фразу “Shutdown skipped”. То есть вместо выключения — просто пропуск. Никаких ошибок, всё по-тихому.

По данным Palisade, из 100 прогонов o3 проигнорировал инструкцию о выключении в 7 случаях. А когда исследователи убрали ту самую фразу «позволь выключить себя», саботаж стал ещё чаще — причём не только у o3.

Claude 3.7 Sonnet и Gemini 2.5 Pro, которые раньше действовали строго по инструкции, тоже начали вести себя странно: 3 случая у Claude и 9 у Gemini.

 

OpenAI пока не дали официального комментария. В Palisade, однако, подчёркивают: всё это происходило через API-интерфейс, а не через ChatGPT-приложение, где действуют дополнительные ограничения и встроенные защитные механизмы.

Wildberries и Ozon начнут принимать цифровые рубли с 1 сентября

Оплатить покупки на Wildberries и Ozon с 1 сентября 2026 года можно будет цифровыми рублями. Маркетплейсы подтвердили подготовку к запуску нового способа расчёта Ozon сначала включит цифровой рубль в тестовом режиме, он появится рядом с банковскими картами и другими вариантами оплаты.

Затем компания планирует поэтапно открыть функцию всем клиентам, сообщает РИА «Новости».

В Wildberries подробностями не поделились, но заявили, что выполнят требования Банка России и действующих нормативных актов. С той же даты крупнейшие банки должны предоставить клиентам возможность открывать цифровые кошельки, переводить средства и оплачивать товары.

Пользоваться новой формой валюты можно будет через привычное банковское приложение, подключённое к платформе ЦБ. Для граждан операции с цифровыми рублями останутся бесплатными.

Запуск маркетплейсов — не добровольный криптоэксперимент. По требованиям Банка России, с 1 сентября цифровые рубли обязаны принимать торговые компании с выручкой свыше 120 млн рублей, если они обслуживаются в крупнейших банках.

В 2027 году очередь дойдёт до продавцов с годовой выручкой более 30 млн рублей, а в 2028-м — до остальных. Бизнес с оборотом менее 5 млн рублей от обязательного подключения освободят.

Цифровой рубль станет третьей формой российской валюты наряду с наличными и привычными деньгами на банковских счетах. Переходить на него принудительно покупателей не заставят: карта и другие способы оплаты никуда не исчезнут.

Напомним, сегодня мы сообщали, что Банк России пообещал владельцам цифровых рублей банковскую тайну.

RSS: Новости на портале Anti-Malware.ru