Платформа клиентских коммуникаций ChatPush перенесла основную ИТ-инфраструктуру в облако VK Cloud. Компания рассчитывает быстрее запускать новые проекты, сократить расходы на хранение данных и подготовиться к внедрению сервисов на базе больших языковых моделей.
Нагрузка у платформы уже немаленькая: через ChatPush около 12 тыс. компаний обрабатывают примерно 10 млн сообщений в месяц. В системе хранятся не только тексты, но и изображения, видео, документы и многолетняя история переписок.
В облако перевезли более 500 виртуальных процессорных ядер и несколько терабайт оперативной памяти. Сейчас там работают базы данных, Kubernetes-кластеры, десятки сервисов и объектное хранилище объёмом свыше 15 ТБ.
Архитектуру разделили на «горячее» и «холодное» хранение. Данные, которые нужны постоянно, остаются в базе, а архивные переписки автоматически отправляются в более дешёвое объектное хранилище. При необходимости их можно вернуть обратно. Такой подход должен сдерживать расходы, даже когда архив продолжает расти.
Отказ от собственной инфраструктуры освободил ресурсы для разработки новых функций. Среди них — ИИ-ассистент для общения с клиентами, аналитический дашборд и интеграции с дополнительными мессенджерами. В дальнейшем ChatPush планирует запускать большие языковые модели на графических ускорителях VK Cloud.
Получился классический облачный переезд: серверы больше не нужно гладить и кормить вручную, а высвободившуюся команду можно отправить делать ИИ. Теперь главное, чтобы нейросети отвечали клиентам быстрее, чем растёт архив из 10 млн сообщений в месяц.
