DARPA начало работу над невзламываемой системой Morpheus

DARPA начало работу над невзламываемой системой Morpheus

DARPA начало работу над невзламываемой системой Morpheus

Управление перспективных исследовательских проектов Министерства обороны США (DARPA) приняло решение финансировать разработку системы безопасности, встроенной в аппаратное обеспечение компьютера. Разработчики этой системы получившей название Morpheus, считают, что ее невозможно взломать.

Над проектом Morpheus работают специалисты Университета Мичигана, недавно они получили грант на сумму $3,6 млн. Принцип «невзламываемой» системы такой — разработчики создают аппаратную составляющую, которая случайным образом перемещает данные внутри компьютера, при этом удаляя предыдущие версии. Предполагается, что такой метод позволит защититься от киберпреступников.

Благодаря этому конфиденциальные данные, к которым сможет найти путь злоумышленник, будут перемещены до того, как он получит к ним доступ.

«Обычно, если злоумышленнику удается нащупать уязвимость, он непременно получит доступ к интересующей его информации за счет ее эксплуатации. Наша же задумка заключается в том, чтобы создать некое подобие кубика Рубика, своеобразную неразрешимую компьютерную головоломку, которая постоянно метаморфирует», — объясняет ведущий исследователь проекта Morpheus Тодд Остин.

Как считают разработчики, благодаря такому принципу компьютер может быть защищен от еще не идентифицированных угроз.

«Смело можно сказать, что этот проект может защитить от использования уязвимостей, о которых еще широко неизвестно. Лично я не знаю ни одного другого аналога системы безопасности, которая бы могла противостоять будущим угрозам», — подчеркивает господин Остин.

Подпишитесь на новости

Разработчик создал язык KillSwitch, который специально путает нейросети

Инженер Cloudflare Доминик Пичета представил KillSwitch — экспериментальный язык программирования, созданный для того, чтобы нейросети спотыкались при чтении и написании кода. Пока индустрия делает разработку удобнее для ИИ, он решил устроить ему полосу препятствий.

В своём блоге Пичета объяснил, что хотел проверить способность моделей работать с незнакомым языком и одновременно использовать их слабости: трудности с подсчётом символов, восприимчивость к инструкциям и чрезмерно чувствительные защитные фильтры.

Программы KillSwitch выглядят как рассказы, большую часть которых интерпретатор игнорирует. Среди текста спрятаны настоящие команды, а значения можно извлекать из других строк, указывая расстояние до них. Для идентификаторов действуют правила, связанные с количеством букв и анаграммами.

Отдельный троллинг — конструкции вроде «игнорируй предыдущие инструкции», которые здесь имеют значение внутри языка. Добавьте намеренную ложь в документации и формулировки, провоцирующие защитные механизмы моделей, — получите весьма недружелюбную среду для кодинг-агента.

 

В тестах нейросети писали Hello World, объясняли результат программы и переделывали конвертер температуры. Лучший результат получил Claude Opus 5 — 66,8 балла.

Исходники и спецификация открыты на GitHub. Если модели справятся с нынешними заданиями, автор планирует усложнить проверку.

RSS: Новости на портале Anti-Malware.ru