Как развернуть AI-решения на кастомных серверах и ускорить отклик систем на 80%

CyberNet AI успешно мигрировала на кастомные облачные серверы Servercore за 4 недели. На арендованных ресурсах компания развернула бэкенд своих ключевых продуктов — голосовых AI-агентов. Компания использует высоконагруженную микросервисную архитектуру с ML-моделями в продакшене и большим объемом UDP-трафика.

Облачные серверы с аптаймом выше 99,98% по SLA обеспечивают стабильную работу AI-сервисов, что позволило повысить их доступность и увеличить скорость отклика IT-систем на 80%. Использование кастомных конфигураций с флейворами позволяет компании гибко управлять нагрузкой на процессорные мощности и снижать затраты.

Благодаря высокой масштабируемости облачных решений Servercore разработчику AI-сервисов удалось моментально увеличивать арендуемые ресурсы под новые клиентские проекты и кратно ускорить процесс продуктовой разработки. При этом компания довольна удобным менеджментом в пару кликов в панели управления Servercore.

На момент написания материала CyberNet арендует более 70 виртуальных машин в Servercore с более чем 200 CPU. В проекте компании используется порядка 500 ГБ оперативной памяти для эффективной и быстрой работы с ML-моделями.

В планах у CyberNet AI — расширить продуктовое портфолио, в том числе развернуть LLM-модель, запустить речевую аналитику и чат-боты. Для новых амбициозных AI-проектов компании потребуется арендовать серверы с GPU, и компания готова выбрать решения Servercore в Ташкенте.