Rubytech запустила российскую LLM на китайских GPU без NVIDIA

Rubytech запустила российскую LLM на китайских GPU без NVIDIA

Rubytech запустила российскую LLM на китайских GPU без NVIDIA

Группа Rubytech протестировала российскую языковую модель Cotype 3 от MWS AI на китайских графических ускорителях. Испытания проводились на программно-аппаратном комплексе «Машина искусственного интеллекта» Скала^р. Результат: модель работала стабильно, а производительность в популярных сценариях инференса оказалась сопоставима с конфигурациями на NVIDIA H100.

В тестовой системе использовались восемь китайских GPU. При обработке контекста объёмом 27 тыс. токенов среднее время генерации первого токена составило около 8 секунд, а межтокенная задержка — от 111 мс. По оценке Rubytech, этого достаточно для корпоративных ИИ-сервисов.

Но железо само себя не настроит. Инженеры адаптировали драйверы, программное окружение и средства оркестрации. В отдельных сценариях оптимизация позволила ускорить работу в 2-2,2 раза по сравнению со штатной средой китайских GPU. Контейнерная архитектура должна упростить развёртывание моделей и переход от тестов к промышленной эксплуатации.

Главный вывод испытаний — корпоративную ИИ-инфраструктуру можно строить без обязательной привязки к ускорителям NVIDIA. Особенно это актуально для госсектора, компаний с государственным участием и организаций КИИ, которым нужны локальное размещение моделей, контролируемая инфраструктура и возможность масштабироваться без лотереи с поставками H100.

Rubytech также заявляет, что китайские GPU в отдельных сценариях способны снизить совокупную стоимость владения. Правда, революцию пока придержали: речь идёт не о полном отказе от NVIDIA, а о появлении ещё одного рабочего варианта.

Дальше компания планирует испытать новое поколение китайских ускорителей и расширить список российских моделей и корпоративных ИИ-сервисов.

Хактивист слил геймплей GTA VI и потребовал вернуть игры на дисках

В Сети появились два предполагаемых фрагмента геймплея GTA VI и изображения, которые могут показывать полную карту штата Леонида. Ответственность взяла группа Cyberleek, объявившая утечку протестом против цифровых предзаказов и отказа Rockstar от полноценного дискового издания.

Формально физическая версия GTA VI существует, но самого носителя в ней не будет: покупатель получит коробку с кодом для загрузки. Это подтверждают магазин Rockstar и служба поддержки компании.

Cyberleek требует отказаться от цифровых предзаказов, продажи уже встроенного контента под видом дополнений и обязательного подключения к серверам для одиночных игр. Автор грозит продолжать публикации, пока Rockstar и Take-Two публично не извинятся и не пересмотрят политику.

На записях якобы показаны баскетбол, настройка снаряжения автомобилей, открывающиеся багажники, шкала выносливости и система чести в духе Red Dead Redemption 2. Предполагаемая карта включает пять округов, крупную железнодорожную сеть и множество небольших островов.

Rockstar и Take-Two начали добиваться удаления публикаций по DMCA. Это может указывать на подлинность материалов, но прямым доказательством не является. Сами записи могли быть сделаны больше года назад, поэтому отдельные механики к релизу способны измениться.

Есть у истории и запах криптовалютного аттракциона. Cyberleek параллельно продвигает токен на базе Solana и просит пожертвования, из-за чего некоторые издания заподозрили рекламную аферу.

Получился странный цифровой Робин Гуд: требует вернуть диски, раздаёт чужую игру и заодно предлагает купить крипту. Осталось понять, где заканчивается активизм и начинается маркетинг.

RSS: Новости на портале Anti-Malware.ru