Российские учёные ускорили обучение нейросетей в распределённых системах

Российские учёные ускорили обучение нейросетей в распределённых системах

Российские учёные ускорили обучение нейросетей в распределённых системах

Российские исследователи из Центра практического искусственного интеллекта Сбербанка и МФТИ предложили метод, который помогает снизить нагрузку на вычислительные ресурсы и ускорить обучение нейросетей в распределённых системах. Работа «Ускоренные методы со сжатыми коммуникациями для гомогенных задач распределённой оптимизации» будет представлена на международной конференции AAAI’25.

Сейчас крупные нейросети содержат миллиарды параметров, и для их обучения часто используют распределённые системы: данные разделяют между тысячами машин.

Однако в таких условиях значительная часть времени уходит на обмен информацией между устройствами, и при неэффективной передаче данных обучение может идти медленнее, чем в централизованном варианте.

Предложенный метод уменьшает количество обменов данными между устройствами, используя гомогенность локальных выборок и сжатие передаваемой информации. Это позволяет синхронизироваться реже и пересылать меньше данных без потери качества модели. Такой подход особенно полезен, если пропускная способность сети ограничена, а задержки мешают быстрому обучению.

По словам Глеба Гусева, директора Центра практического искусственного интеллекта Сбербанка, ключевая задача разработки — снизить коммуникационные издержки. Использование похожести данных и методов сжатия даёт возможность ускорить обучение и уменьшить энергозатраты.

Александр Безносиков, доцент МФТИ, отметил, что в алгоритме объединили ускорение, сжатие и учёт схожести данных. Это позволило добиться рекордно низкой коммуникационной сложности и при правильных настройках значительно сократить время обучения без потери точности — что важно для внедрения ИИ в системах с ограниченными ресурсами, включая сети с edge-устройствами.

На IT Elements 2026 устроят ИТ-апокалипсис и прожарят российских вендоров

Конференция IT Elements 2026 раскрыла программу: 9-10 сентября в московском ДК «Серп и Молот» пройдут более сотни докладов, дискуссий, демонстраций и мастер-классов. Главной темой станет «Непрерывность бизнеса 2.0» — вопрос, как компании должны работать после успешной кибератаки, падения инфраструктуры или другого технологического апокалипсиса.

На открывающей пленарной сессии ИТ- и ИБ-директора обсудят, жива ли ещё схема «основной ЦОД — резервный ЦОД», спасает ли правило резервного копирования 3-2-1 от современных шифровальщиков и кто должен отвечать за киберустойчивость — CIO или CISO.

Отдельный вопрос звучит так: что делать утром после того, как злоумышленники зашифровали не только рабочие системы, но и план восстановления.

Практическая часть обещает обойтись без церемоний. Участникам покажут переезд с Microsoft за 60 минут, миграцию Exchange и MinIO на российские решения, разберут блеск и нищету отечественной гиперконвергенции и устроят прожарку российских вендоров.

На стол также выложат результаты сравнительных испытаний маршрутизаторов, NGFW- и VM-систем, организаторы обещают цифры без маркетингового тумана.

Кроме того, в программе мониторинг корпоративных моделей от GPU до промпта с учётом ФСТЭК № 117, OWASP Top 10 for LLM и MITRE ATLAS, а также кейсы «Росатома», «Билайна», «Сбера» и «Т-Банка».

В треке восстановления Трубная металлургическая компания смоделирует 48-часовую остановку ИТ и покажет, как перезапустить бизнес за полдня. Другие участники разберут защиту от шифровальщиков, кризисное реагирование, управление DR-планами и восстановление после реальных кибератак.

Первый день завершится премией «Инженерное искусство». Заявки от специалистов и команд принимают до 31 августа в шести номинациях — от инженера безопасности до лидера инженерной команды.

Полная программа опубликована на сайте IT Elements 2026.

RSS: Новости на портале Anti-Malware.ru