Экс-разработчик Windows показал работу ИИ на компьютере из 1970-х

Экс-разработчик Windows показал работу ИИ на компьютере из 1970-х

Экс-разработчик Windows показал работу ИИ на компьютере из 1970-х

Бывший разработчик Windows Дэйв Пламмер напомнил о том, что вокруг искусственного интеллекта слишком много лишней мистики. На этот раз специалист показал, как базовые принципы работы современных нейросетей можно продемонстрировать буквально на музейном железе — PDP-11, системе конца 1970-х с процессором 6 МГц и 64 КБ оперативной памяти.

Для эксперимента использовалась модель ATTN/11 — это одноголовый однослойный трансформер, полностью написанный на ассемблере PDP-11.

Проект создал Damien Buret, и его идея довольно проста: не гнаться за мощностью, а показать трансформер в максимально «разобранном» и понятном виде.

Задача у модели с виду совсем скромная — научиться переворачивать последовательность из восьми цифр. Но, как объясняет Пламмер, здесь важен не сам фокус с числами, а принцип: системе нужно уловить структуру правила, а не просто запомнить отдельные примеры. Именно в этом, по сути, и проявляется базовая механика, на которой работают большие языковые модели.

Особенно интересно то, насколько крошечной получилась эта демонстрация. В модели всего 1216 параметров, она использует fixed-point arithmetic, а вычисления для прямого прохода ужаты до 8-битной точности.

Модель смогла добиться 100% точности на задаче разворота последовательностей после примерно 350 шагов обучения. На PDP-11/44 с кеш-платой на это ушло около 3,5 минуты. Для машины такого возраста результат выглядит невероятно хорошим.

Пламмер, в сущности, пытался доказать, что суть современного ИИ в очень большом количестве арифметики, повторений и постепенной коррекции ошибок. Просто сегодня всё это происходит в несравнимо большем масштабе и на куда более мощном железе.

Заодно история красиво бьёт ещё в одну точку: в эпоху, когда индустрия всё чаще упирается в дефицит вычислительных ресурсов, старое доброе искусство оптимизации снова становится особенно ценным.

Microsoft Edge держит сохранённые пароли в памяти в открытом виде

Исследователи обнаружили неприятную особенность Microsoft Edge: браузер загружает все сохранённые пароли в память процесса в открытом виде сразу после запуска. Причём, по данным исследователей, Microsoft считает такое поведение не ошибкой, а частью текущей архитектуры.

Главная проблема в том, что Edge не ждёт, пока пользователь откроет конкретный сайт.

Если пароли сохранены во встроенном менеджере паролей, они расшифровываются и попадают в память сразу после запуска Edge, даже если в этой сессии человек вообще не собирался заходить на соответствующие сайты.

Исследователь Том Йоран Сёнстебисетер Рённинг (@L1v1ng0ffTh3L4N) сравнил поведение крупных Chromium-браузеров и заявил, что именно Edge грешит таким поведением. Для сравнения, Chrome расшифровывает пароли по требованию (например, при автозаполнении или когда пользователь сам открывает их в настройках).

Особенно опасно это выглядит в корпоративных и общих средах, например на терминальных серверах. Если злоумышленник получает права администратора, он может читать память процессов других пользователей. В таком сценарии достаточно, чтобы у жертв был запущен Edge, даже если их сессии отключены. После этого сохранённые пароли можно попытаться извлечь прямо из памяти.

Ситуация выглядит ещё страннее из-за интерфейса самого Edge. Чтобы посмотреть пароли во встроенном менеджере, браузер просит повторно подтвердить личность — ввести ПИН-код или пароль Windows. Но при этом те же пароли уже могут лежать в памяти процесса в открытом виде. Получается, защита в интерфейсе есть, а под капотом всё куда менее продуманно.

Специалист опубликовал небольшой PoC-инструмент EdgeSavedPasswordsDumper, с помощью которого можно проверить поведение Edge в своих системах.

Пока Microsoft не изменит подход, исследователи советуют компаниям не хранить важные учётные данные во встроенном менеджере паролей Edge. Более безопасный вариант — отдельный менеджер паролей, который расшифровывает данные только по запросу, а не складывает всё в память сразу после запуска браузера.

RSS: Новости на портале Anti-Malware.ru