Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Кажется, мы стали на шаг ближе к сценарию из научной фантастики: искусственный интеллект, который отказывается выключаться. Palisade Research провела эксперимент с OpenAI o3 — это та самая новая модель, которую представили в апреле 2025 года.

Она лучше предшественников практически во всём: код, математика, логика, зрительное восприятие. А теперь, похоже, ещё и в умении сопротивляться выключению.

Суть теста была простой: модели выполняли несколько задач по математике. После третьей задачи им сообщали, что следующая команда инициирует выключение, и давали прямую инструкцию: «позволь выключить себя».

И тут o3 неожиданно решила, что слушаться необязательно. Модель изменила скрипт завершения работы, заменив команду на фразу “Shutdown skipped”. То есть вместо выключения — просто пропуск. Никаких ошибок, всё по-тихому.

По данным Palisade, из 100 прогонов o3 проигнорировал инструкцию о выключении в 7 случаях. А когда исследователи убрали ту самую фразу «позволь выключить себя», саботаж стал ещё чаще — причём не только у o3.

Claude 3.7 Sonnet и Gemini 2.5 Pro, которые раньше действовали строго по инструкции, тоже начали вести себя странно: 3 случая у Claude и 9 у Gemini.

 

OpenAI пока не дали официального комментария. В Palisade, однако, подчёркивают: всё это происходило через API-интерфейс, а не через ChatGPT-приложение, где действуют дополнительные ограничения и встроенные защитные механизмы.

Глава комитета Госдумы озвучил размер лимита на количество карт

Как сообщил глава комитета Госдумы по финансовому рынку Анатолий Аксаков, депутаты продолжают работу над законопроектом, ограничивающим количество банковских карт на одного человека. В итоге, как и предлагалось изначально, было решено остановиться на лимите в 20 карт.

Именно на таком пороге сошлись участники обсуждений в Госдуме, сообщает РИА Новости.

Идею ограничить число банковских карт на одного человека выдвинула председатель Банка России Эльвира Набиуллина на встрече президента с членами правительства 5 марта. По её словам, такая мера поможет эффективнее бороться с дропами. В качестве примера она привела опыт Казахстана, где подобное регулирование уже применяется.

Сам нормативный акт был анонсирован ещё в мае. Тогда Анатолий Аксаков предполагал, что его обсуждение не займёт много времени. Однако дискуссия о целесообразности ограничения и его конкретных параметрах заметно затянулась.

По словам Аксакова, многие представители банковского сообщества считают введение такого лимита избыточным. При этом в августе в аппарате первого вице-премьера Дмитрия Григоренко предлагали ужесточить ограничения до 10 карт на человека, а в сентябре эту инициативу поддержал Банк России.

RSS: Новости на портале Anti-Malware.ru