В МФТИ подобрали работающие альтернативы GPU NVIDIA

В МФТИ подобрали работающие альтернативы GPU NVIDIA

В МФТИ подобрали работающие альтернативы GPU NVIDIA

Институт искусственного интеллекта МФТИ оценил возможности альтернативных графических процессоров (GPU) от китайских производителей. Параллельно в Физтехе был создан Центр компетенций, основной задачей которого стала помощь бизнесу в построении инфраструктуры для работы с искусственным интеллектом.

Российские компании столкнулись с увеличением сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования NVIDIA, графические ускорители которой традиционно используются при построении ИИ-инфраструктуры.

В этих условиях бизнесу приходится пересматривать привычные подходы и искать альтернативные технологические решения.

Институт искусственного интеллекта МФТИ провёл комплексное исследование рынка альтернативных ускорителей, преимущественно китайского производства. В рамках работы специалисты изучали архитектурные особенности оборудования, состояние драйверов, совместимость с популярными фреймворками и поведение ускорителей под нагрузкой при выполнении различных задач — от работы с большими языковыми моделями и системами компьютерного зрения до распределённых вычислений.

По итогам испытаний наилучшие результаты показали видеокарты s4000 от Moore Threads и C500 от MetaX. Они продемонстрировали высокую производительность и стабильную работу во всех ключевых сценариях, включая длительную непрерывную нагрузку. В ряде тестов их производительность оказалась сопоставимой с NVIDIA A100, а в отдельных случаях — даже превосходила её.

«Мы оценивали скорость и воспроизводимость вычислений, устойчивость при росте нагрузки и стабильность поведения моделей на разных типах ускорителей. Эти параметры определяют пригодность систем для длительной эксплуатации. По итогам исследований мы сформировали программно-аппаратные конфигурации, обеспечивающие необходимую производительность языковых моделей на альтернативных платформах. Такой подход формирует предсказуемый жизненный цикл ИИ-решений и позволяет компаниям системно планировать эксплуатацию систем в собственных контурах», — рассказал научный директор Института искусственного интеллекта МФТИ Юрий Визильтер.

В МФТИ пообещали продолжить тестирование новых поколений ускорителей, а также подготовку практических рекомендаций по их использованию для решения типовых задач.

VK Tech научила ИИ-агентов помнить всё важное и не начинать работу с нуля

VK Tech добавила в платформу VK AI Space многоуровневую память для ИИ-агентов. Теперь они смогут сохранять контекст, переиспользовать готовые материалы и учитывать прошлые правки сотрудников. В компании рассчитывают, что это сократит долю повторно решаемых задач на 40–50%.

Память разделена на четыре слоя. Сессионная хранит ход текущего диалога и активные задачи.

Пользовательская запоминает профиль и предпочтения сотрудника. Проектная собирает материалы, решения и правила конкретного проекта. Наконец, собственная память агента фиксирует его рабочий опыт: какие подходы дали результат и что затем исправил человек.

В итоге агент превращается из цифровой рыбки с памятью на три секунды в полноценного участника команды. Например, при подготовке тендера он может сформировать ответы на основе корпоративной базы знаний.

Сотрудник внесёт правки, а система сохранит их вместе с исходными данными. В следующем тендере команде уже не придётся заново искать документы и согласовывать те же формулировки.

Тот же принцип работает при расследовании инцидентов, подготовке проектных отчётов и запуске продуктов. Агент сможет найти похожий случай, вспомнить принятое решение и учесть аргументы, которые к нему привели.

При этом новая функция не выдаёт ИИ универсальный пропуск ко всем корпоративным данным. Агент получает доступ только к информации, которую вправе видеть работающий с ним сотрудник. Пользователь может проверить содержимое памяти и удалить лишнее.

Данные хранятся внутри контура компании и не передаются внешним сервисам. В VK Tech считают, что такой подход позволит превратить опыт отдельных специалистов в общий актив: знания не исчезают вместе с закрытым диалогом, а накапливаются и переходят от одной задачи к другой.

RSS: Новости на портале Anti-Malware.ru