Российские ученые предложили новую архитектуру памяти для ИИ

Российские ученые предложили новую архитектуру памяти для ИИ

Российские ученые предложили новую архитектуру памяти для ИИ

Российские учёные из МФТИ решили проблему, с которой сталкиваются современные нейросети: они склонны «забывать» ранее полученные данные в процессе обучения. Эта особенность долгое время мешала развитию автономного транспорта, робототехники и дронов. В МФТИ разработали новую модель памяти для искусственного интеллекта, способную устранить этот эффект.

Новая архитектура основана на тех же принципах, по которым работает человеческий мозг.

Ключевая идея — механизм перестройки нейронных связей, или ревайринг. Он работает совместно с обычными процессами обучения, помогая системе сохранять ранее усвоенную информацию и одновременно запоминать новую. Это достигается за счёт постепенного превращения кратковременной памяти в долговременную.

В результате, если традиционная нейросеть «забывает» данные уже после тысячи циклов активности, то новая архитектура выдерживает более 170 миллионов. Пока разработка существует в виде компьютерной модели, однако уже ведутся работы по созданию её физического аналога.

«Возможно, мы нашли ответ на одну из главных загадок мозга: как он умудряется учиться новому, не стирая при этом старые «файлы». Всё дело в постоянной перестройке нейронных связей — ревайринге. Именно он превращает хрупкую кратковременную память в прочные долговременные воспоминания», — рассказал «Известиям» ведущий научный сотрудник лаборатории нейробиоморфных технологий МФТИ Сергей Лобов.

Как отметил ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов, преимущества новой архитектуры памяти особенно важны для автономных систем — роботов и беспилотного транспорта. По его словам, именно склонность нейросетей к «забыванию» ранее накопленных данных является главным барьером для их дальнейшего развития.

«В промышленной робототехнике такие системы позволят создавать универсальных роботов-манипуляторов, которые смогут осваивать новые операции с деталями, не забывая предыдущие навыки сборки. Для беспилотных автомобилей и дронов это означает возможность непрерывно адаптироваться к уникальным дорожным условиям и ландшафтам, накапливая собственный опыт без вмешательства инженеров. Перспективно также их применение в персонализированных медицинских диагностических системах, способных эволюционировать вместе с историей болезни пациента, и в умных домах, подстраивающихся под привычки жильцов», — отметил Ярослав Селиверстов.

Руководитель программ развития МГУ им. М.В. Ломоносова Ольга Валаева добавила, что технология может найти применение и в медицинских устройствах — прежде всего в нейроимплантах, компенсирующих влияние дегенеративных процессов в головном мозге, например при болезни Паркинсона.

Эксперт рынка TechNet НТИ, генеральный директор группы компаний ST IT Антон Аверьянов уточнил, что пока полученные результаты нельзя напрямую применить к самым сложным моделям, обрабатывающим сотни миллиардов или триллионы параметров. Однако, по его мнению, эта задача будет решена в обозримом будущем.

Телегу заподозрили в перехвате трафика и скрытой модерации

Сторонний клиент Telegram под названием «Телега», который в последние недели стал быстро набирать популярность на фоне проблем с доступом к Telegram в России, оказался в центре нового скандала. Группа анонимных исследователей заявила, что приложение якобы использует схему «Человек посередине» и может вмешиваться в трафик между пользователем и серверами Telegram.

Суть претензии такая: «Телега», по версии авторов анализа, работает не как обычный клиент Telegram, который напрямую подключается к дата-центрам мессенджера, а как промежуточное звено.

Исследователи утверждают, что приложение сначала получает с собственного API список серверов, которые подменяют стандартные адреса Telegram, а затем перенастраивает подключение клиента на инфраструктуру «Телеги».

На этом подозрения не заканчиваются. По данным анализа APK-файла и нативной библиотеки клиента, в «Телеге» якобы встроен дополнительный RSA-публичный ключ, которого нет в официальном клиенте Telegram. Исследователи утверждают, что этот ключ принимают серверы «Телеги», но не серверы самого Telegram. Из этого они делают вывод, что приложение потенциально способно перехватывать первичное рукопожатие MTProto, а значит — оказываться «посередине» между пользователем и настоящим сервером мессенджера.

 

Именно такой сценарий теоретически открывает дорогу к классической MITM-схеме: договориться с клиентом об одном ключе шифрования, с Telegram — о другом, а весь трафик между ними просматривать, сохранять или даже изменять. Независимого публичного подтверждения того, что это действительно происходило в реальной эксплуатации, на данный момент нет, но сама архитектура вызвала у исследователей серьёзные вопросы.

Отдельно в анализе упоминается ещё один тревожный момент: в «Телега», как утверждается, по умолчанию отключена Perfect Forward Secrecy. В обычном Telegram этот механизм нужен затем, чтобы даже в случае компрометации одного ключа нельзя было расшифровать старую переписку. Здесь же, по версии авторов разбора, использование PFS может управляться удалённо через конфиг с серверов «Телега».

 

Ещё одна претензия касается секретных чатов. Исследователи утверждают, что в клиенте они фактически отключены удалённым флагом и входящие запросы на секретный чат могут просто игнорироваться. То есть пользователь может даже не узнать, что кто-то пытался начать с ним зашифрованный сквозным шифрованием диалог.

Кроме того, в приложении нашли и признаки собственной системы модерации и фильтрации. По данным анализа, «Телега» может обращаться к отдельному API, чтобы проверять пользователей, каналы, чаты и ботов по внутреннему «чёрному списку». Если объект попадает под фильтр, клиент показывает заглушку о недоступности материала, причём внешне это может выглядеть так, будто ограничение наложила сама платформа.

Дополнительный резонанс вызвали найденные на поддоменах «Телега» тестовые стенды с названиями Zeus и Cerberus. Авторы анализа связывают их с системой обработки запросов на блокировку контента и оперативной модерацией сообщений, в том числе с ИИ-анализом, автоудалением и автобаном. Но здесь тоже важно оговориться: речь идёт именно о найденных тестовых панелях, а не о доказанном использовании всех этих инструментов в боевой среде.

Напомним, сегодня мы также писали, что команда мессенджера «Телега» прокомментировала обсуждение вокруг происхождения приложения и его технологической базы. Поводом стали публикации, в которых поднимались вопросы о возможной связи сервиса со структурами VK.

RSS: Новости на портале Anti-Malware.ru