Российские учёные ускорили обучение нейросетей в распределённых системах

Российские учёные ускорили обучение нейросетей в распределённых системах

Российские учёные ускорили обучение нейросетей в распределённых системах

Российские исследователи из Центра практического искусственного интеллекта Сбербанка и МФТИ предложили метод, который помогает снизить нагрузку на вычислительные ресурсы и ускорить обучение нейросетей в распределённых системах. Работа «Ускоренные методы со сжатыми коммуникациями для гомогенных задач распределённой оптимизации» будет представлена на международной конференции AAAI’25.

Сейчас крупные нейросети содержат миллиарды параметров, и для их обучения часто используют распределённые системы: данные разделяют между тысячами машин.

Однако в таких условиях значительная часть времени уходит на обмен информацией между устройствами, и при неэффективной передаче данных обучение может идти медленнее, чем в централизованном варианте.

Предложенный метод уменьшает количество обменов данными между устройствами, используя гомогенность локальных выборок и сжатие передаваемой информации. Это позволяет синхронизироваться реже и пересылать меньше данных без потери качества модели. Такой подход особенно полезен, если пропускная способность сети ограничена, а задержки мешают быстрому обучению.

По словам Глеба Гусева, директора Центра практического искусственного интеллекта Сбербанка, ключевая задача разработки — снизить коммуникационные издержки. Использование похожести данных и методов сжатия даёт возможность ускорить обучение и уменьшить энергозатраты.

Александр Безносиков, доцент МФТИ, отметил, что в алгоритме объединили ускорение, сжатие и учёт схожести данных. Это позволило добиться рекордно низкой коммуникационной сложности и при правильных настройках значительно сократить время обучения без потери точности — что важно для внедрения ИИ в системах с ограниченными ресурсами, включая сети с edge-устройствами.

Telegram запустил ботов-секретарей, мошенники уже взяли их в оборот

Не успел Telegram запустить ботов-секретарей для автоматизации переписки, как мошенники начали использовать новую функцию в своих схемах. В конце мая Павел Дуров представил помощников, которых можно подключать к личным сообщениям. Такие боты способны сортировать переписку, выделять важные сообщения, готовить ответы и помогать разбираться с потоком чатов.

Как рассказали эксперты, пользователям уже предлагают фальшивые сервисы для умной обработки сообщений, автоответов и интеграции с ИИ.

Для подключения обычно просят пройти дополнительную аутентификацию или скачать специальное приложение.

Под видом полезного инструмента может скрываться инфостилер — вредоносная программа, которая ворует пароли, файлы cookie, данные криптокошельков и другую чувствительную информацию.

В результате злоумышленники получают доступ не только к Telegram, но и к банковским сервисам, соцсетям, криптобиржам и другим аккаунтам.

По данным специалистов компании «ЕСА ПРО», только с 7 по 27 мая было обнаружено около 20 подозрительных ботов, которые предлагали автоматизацию переписки и при этом могли собирать данные пользователей.

Есть и другая проблема. Многие собеседники могут даже не подозревать, что общаются не с человеком, а с ботом. В теории злоумышленник способен поручить часть общения автоматизированному помощнику, который будет убеждать жертву перейти по ссылке, передать данные или перевести деньги.

Эксперты подчёркивают: сама функция Telegram не опасна. Опасны сторонние сервисы, которые пытаются паразитировать на популярной новинке.

По оценкам специалистов, с подобными предложениями уже могли столкнуться десятки тысяч пользователей Telegram, а число реально скомпрометированных аккаунтов может исчисляться тысячами.

Схема при этом стара как интернет: мошенники просто взяли старый добрый фишинг и завернули его в новую модную упаковку с надписями «ИИ», «автоматизация» и «умный помощник».

RSS: Новости на портале Anti-Malware.ru