Как развернуть AI-решения на кастомных серверах и ускорить отклик систем на 80%
Клиент:
CyberNet AI — разработчик AI-решений для банков, телекоммуникационных компаний и государственных структур в Узбекистане.
Задача:
Мигрировать на надежные и мощные серверы в Узбекистане, минимизировать даунтайм, ускорить продуктовую разработку и отклик IT-систем.
Решения:
Кастомные облачные серверы
Результаты:
О компании клиента
CyberNet AI — международный разработчик речевых AI-решений для финансового сектора, телекоммуникаций и государственных структур. География присутствия компании охватывает Центральную Азию, Северную Америку и регион MENA, с офисами в 6 странах: Узбекистане, Казахстане, Кыргызстане, Египте, США и Мексике.
Выйдя на рынок Узбекистана в 2021 году, компания уверенно развивается и расширяет клиентскую базу. На сегодня в её портфеле — свыше 50 реализованных AI-проектов в различных отраслях. Основными заказчиками решений CyberNet выступают банки, маркетплейсы, телеком-операторы и ритейлеры.
Одним из ключевых преимуществ голосовых AI-ботов компании является высокое качество речевых технологий, позволяющее обеспечить плавный диалог с пользователями на локальном языке без длинных пауз и иностранного акцента.
Почему выбрали Servercore
Такой уровень предоставления услуг не соответствовал потребностям компании, поэтому команда CyberNet AI начала поиск нового технологического партнера на рынке Узбекистана. Ключевой задачей для AI-разработчика стало обеспечение гибкого масштабирования облачных мощностей для ускорения выпуска новых продуктов и повышения клиентского сервиса.
Ключевые факторы выбора в пользу Servercore:
«Для развития наших AI-решений в Узбекистане мы искали локального облачного провайдера с надежной инфраструктурой и гарантиями по SLA. Нашей целью было ускорить разработку и обеспечить высокий уровень сервиса для клиентов. Когда мы узнали, что Servercore позволяет развертывать кастомные конфигурации под задачи и гибко масштабировать ресурсы — мы решили работать именно с ними».
Основные задачи клиента
Решение
Результаты и планы на будущее
CyberNet AI успешно мигрировала на кастомные облачные серверы Servercore за 4 недели. На арендованных ресурсах компания развернула бэкенд своих ключевых продуктов — голосовых AI-агентов. Компания использует высоконагруженную микросервисную архитектуру с ML-моделями в продакшене и большим объемом UDP-трафика.
Облачные серверы с аптаймом выше 99,98% по SLA обеспечивают стабильную работу AI-сервисов, что позволило повысить их доступность и увеличить скорость отклика IT-систем на 80%. Использование кастомных конфигураций с флейворами позволяет компании гибко управлять нагрузкой на процессорные мощности и снижать затраты.
Благодаря высокой масштабируемости облачных решений Servercore разработчику AI-сервисов удалось моментально увеличивать арендуемые ресурсы под новые клиентские проекты и кратно ускорить процесс продуктовой разработки. При этом компания довольна удобным менеджментом в пару кликов в панели управления Servercore.
На момент написания материала CyberNet арендует более 70 виртуальных машин в Servercore с более чем 200 CPU. В проекте компании используется порядка 500 ГБ оперативной памяти для эффективной и быстрой работы с ML-моделями.
В планах у CyberNet AI — расширить продуктовое портфолио, в том числе развернуть LLM-модель, запустить речевую аналитику и чат-боты. Для новых амбициозных AI-проектов компании потребуется арендовать серверы с GPU, и компания готова выбрать решения Servercore в Ташкенте.
