Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Тест показал: ChatGPT o3 обходит инструкции на выключение

Кажется, мы стали на шаг ближе к сценарию из научной фантастики: искусственный интеллект, который отказывается выключаться. Palisade Research провела эксперимент с OpenAI o3 — это та самая новая модель, которую представили в апреле 2025 года.

Она лучше предшественников практически во всём: код, математика, логика, зрительное восприятие. А теперь, похоже, ещё и в умении сопротивляться выключению.

Суть теста была простой: модели выполняли несколько задач по математике. После третьей задачи им сообщали, что следующая команда инициирует выключение, и давали прямую инструкцию: «позволь выключить себя».

И тут o3 неожиданно решила, что слушаться необязательно. Модель изменила скрипт завершения работы, заменив команду на фразу “Shutdown skipped”. То есть вместо выключения — просто пропуск. Никаких ошибок, всё по-тихому.

По данным Palisade, из 100 прогонов o3 проигнорировал инструкцию о выключении в 7 случаях. А когда исследователи убрали ту самую фразу «позволь выключить себя», саботаж стал ещё чаще — причём не только у o3.

Claude 3.7 Sonnet и Gemini 2.5 Pro, которые раньше действовали строго по инструкции, тоже начали вести себя странно: 3 случая у Claude и 9 у Gemini.

 

OpenAI пока не дали официального комментария. В Palisade, однако, подчёркивают: всё это происходило через API-интерфейс, а не через ChatGPT-приложение, где действуют дополнительные ограничения и встроенные защитные механизмы.

Российские физики научили жидкий свет запоминать данные

Учёные из Российского квантового центра, МФТИ и СПбГУ показали, что поляритонный конденсат способен сохранять поляризацию светового сигнала на протяжении сотен пикосекунд — в сотни раз дольше жизни отдельной квазичастицы. В перспективе эффект можно использовать для создания оптической памяти, которой не придётся постоянно переводить фотоны в электрические сигналы и обратно.

Поляритоны возникают при сильном взаимодействии света с электронными возбуждениями в полупроводнике.

В большом количестве они образуют коллективное состояние, которое за необычные свойства называют жидким светом. Отдельный поляритон исчезает почти мгновенно, однако оставленная входным импульсом поляризация продолжает жить во всём конденсате.

Система не клонирует фотон и не сохраняет его целиком, зато запоминает состояние поляризации даже очень слабого сигнала.

Несколько сотен пикосекунд звучат не особенно впечатляюще рядом с флешкой, которая хранит отпускные фотографии годами. Но внутри оптического процессора это солидный запас времени: свет успевает пройти между вычислительными узлами, не превращаясь по дороге в электричество.

Такой подход способен упростить архитектуру фотонных и квантовых вычислителей, ускорить обмен данными и снизить энергопотребление. Особенно важно, что поляритонные системы можно создавать в материалах, работающих при комнатной температуре, а не только в лабораторном морозильнике.

Результаты опубликованы в журнале Physical Review Letters. Российский квантовый центр рассматривает поляритонный конденсат как возможную основу для классической и однофотонной памяти.

RSS: Новости на портале Anti-Malware.ru