Rubytech запустила российскую LLM на китайских GPU без NVIDIA

Rubytech запустила российскую LLM на китайских GPU без NVIDIA

Rubytech запустила российскую LLM на китайских GPU без NVIDIA

Группа Rubytech протестировала российскую языковую модель Cotype 3 от MWS AI на китайских графических ускорителях. Испытания проводились на программно-аппаратном комплексе «Машина искусственного интеллекта» Скала^р. Результат: модель работала стабильно, а производительность в популярных сценариях инференса оказалась сопоставима с конфигурациями на NVIDIA H100.

В тестовой системе использовались восемь китайских GPU. При обработке контекста объёмом 27 тыс. токенов среднее время генерации первого токена составило около 8 секунд, а межтокенная задержка — от 111 мс. По оценке Rubytech, этого достаточно для корпоративных ИИ-сервисов.

Но железо само себя не настроит. Инженеры адаптировали драйверы, программное окружение и средства оркестрации. В отдельных сценариях оптимизация позволила ускорить работу в 2-2,2 раза по сравнению со штатной средой китайских GPU. Контейнерная архитектура должна упростить развёртывание моделей и переход от тестов к промышленной эксплуатации.

Главный вывод испытаний — корпоративную ИИ-инфраструктуру можно строить без обязательной привязки к ускорителям NVIDIA. Особенно это актуально для госсектора, компаний с государственным участием и организаций КИИ, которым нужны локальное размещение моделей, контролируемая инфраструктура и возможность масштабироваться без лотереи с поставками H100.

Rubytech также заявляет, что китайские GPU в отдельных сценариях способны снизить совокупную стоимость владения. Правда, революцию пока придержали: речь идёт не о полном отказе от NVIDIA, а о появлении ещё одного рабочего варианта.

Дальше компания планирует испытать новое поколение китайских ускорителей и расширить список российских моделей и корпоративных ИИ-сервисов.

Фанатов Канье Уэста начали заманивать на подозрительные сайты с билетами

Вокруг концертов Канье Уэста в Санкт-Петербурге уже закружились не только поклонники, но и любители заработать на чужом ажиотаже. Специалисты «Лаборатории Касперского» обнаружили несколько подозрительных сайтов, предлагающих билеты с оплатой в рублях или криптовалюте.

На одной из площадок внезапное появление мест объясняли возвратом билетов. Однако за такими ресурсами могут стоять как перекупщики, так и мошенники.

В лучшем случае покупатель переплатит, в худшем — останется без денег, билета и возможности нормально оспорить перевод.

Особенно опасна оплата криптовалютой: вернуть её через банк не получится. В Т-Банке советуют рассчитываться картой, поскольку при неисполнении обязательств продавцом операцию можно попытаться оспорить. При этом новых массовых схем, связанных именно с концертами Уэста, банк пока не зафиксировал.

Эксперты рекомендуют покупать билеты только на официальных площадках, внимательно проверять адрес сайта и не бросаться на сказочные скидки. В «Лаборатории Касперского» также советуют заранее проверять подозрительные ссылки, а не после того, как деньги уже отправились в гастрольный тур без владельца.

Концерты запланированы на 10 и 11 октября на «Газпром Арене». Цены официальных билетов составляют от 9 тыс. до 160 тыс. рублей за места в VIP-ложе. Организатор Say Agency заявил, что купленные на официальном сайте билеты действительны, а замены исполнителя не будет.

Ажиотаж уже впечатляет: за сутки продажи железнодорожных билетов в Петербург на даты концертов выросли в 41 раз, авиабилетов — в 16 раз. Такой спрос для мошенников звучит почти как приглашение.

RSS: Новости на портале Anti-Malware.ru