В МФТИ подобрали работающие альтернативы GPU NVIDIA

В МФТИ подобрали работающие альтернативы GPU NVIDIA

В МФТИ подобрали работающие альтернативы GPU NVIDIA

Институт искусственного интеллекта МФТИ оценил возможности альтернативных графических процессоров (GPU) от китайских производителей. Параллельно в Физтехе был создан Центр компетенций, основной задачей которого стала помощь бизнесу в построении инфраструктуры для работы с искусственным интеллектом.

Российские компании столкнулись с увеличением сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования NVIDIA, графические ускорители которой традиционно используются при построении ИИ-инфраструктуры.

В этих условиях бизнесу приходится пересматривать привычные подходы и искать альтернативные технологические решения.

Институт искусственного интеллекта МФТИ провёл комплексное исследование рынка альтернативных ускорителей, преимущественно китайского производства. В рамках работы специалисты изучали архитектурные особенности оборудования, состояние драйверов, совместимость с популярными фреймворками и поведение ускорителей под нагрузкой при выполнении различных задач — от работы с большими языковыми моделями и системами компьютерного зрения до распределённых вычислений.

По итогам испытаний наилучшие результаты показали видеокарты s4000 от Moore Threads и C500 от MetaX. Они продемонстрировали высокую производительность и стабильную работу во всех ключевых сценариях, включая длительную непрерывную нагрузку. В ряде тестов их производительность оказалась сопоставимой с NVIDIA A100, а в отдельных случаях — даже превосходила её.

«Мы оценивали скорость и воспроизводимость вычислений, устойчивость при росте нагрузки и стабильность поведения моделей на разных типах ускорителей. Эти параметры определяют пригодность систем для длительной эксплуатации. По итогам исследований мы сформировали программно-аппаратные конфигурации, обеспечивающие необходимую производительность языковых моделей на альтернативных платформах. Такой подход формирует предсказуемый жизненный цикл ИИ-решений и позволяет компаниям системно планировать эксплуатацию систем в собственных контурах», — рассказал научный директор Института искусственного интеллекта МФТИ Юрий Визильтер.

В МФТИ пообещали продолжить тестирование новых поколений ускорителей, а также подготовку практических рекомендаций по их использованию для решения типовых задач.

Правительство ужесточило требования к ПАК для генеративного ИИ

Правительство утвердило новые требования к программно-аппаратным комплексам генеративного искусственного интеллекта для включения их в льготный реестр. Согласно документу, разработчики таких решений должны располагать центром обработки данных мощностью не менее 10 МВт, а также системой хранения данных совокупным объёмом не менее 1 эксабайта.

Документ оказался в распоряжении «Коммерсанта». В нём также зафиксированы требования к вычислительным ресурсам и сетевой инфраструктуре.

В частности, комплексы должны использовать процессоры с матричными умножителями либо их аналоги с производительностью не ниже 8,75 PFLOP FP4, а также быть оснащены сетевыми адаптерами пропускной способностью от 400 Гбит/с с поддержкой технологии удалённого доступа к памяти (RDMA).

Как пояснили изданию в аппарате первого вице-премьера Дмитрия Григоренко, основной целью документа стало формирование самой категории программно-аппаратных комплексов для генеративного ИИ. При этом, по словам представителей правительства, задача «отсечь» часть участников рынка изначально не ставилась.

«Эксабайтное хранилище и сетевые подключения на 400 Гбит/с — это уровень крупных технологических компаний. Из-за новых требований рынок столкнётся с ростом затрат на инфраструктуру на 40–70%», — прокомментировал нововведения основатель WMT AI Игорь Никитин.

По оценке независимого эксперта Алексея Лерона, такие требования приведут к концентрации рынка в руках ограниченного числа игроков. В результате это может вызвать рост цен и сокращение предложения для заказчиков в сегменте B2B.

Источник «Коммерсанта» на рынке также отмечает, что наличие собственных вычислительных мощностей само по себе не гарантирует качество конечного продукта. По его словам, ключевую роль играет программное обеспечение, а требование о собственном ЦОД фактически превращается в дополнительный барьер для разработчиков.

Многие эксперты, опрошенные изданием, сходятся во мнении, что новые правила приведут к вытеснению нишевых игроков с рынка. В итоге в реестре могут остаться лишь 2–3 компании, способные инвестировать в строительство мощных ЦОД. Кроме того, документ усложнит создание альянсов между разработчиками оборудования и ПО и существенно сократит число новых стартапов в сфере генеративного ИИ.

RSS: Новости на портале Anti-Malware.ru