Документация / Что нужно от серверов
Что нужно от серверов
Для администратораДо развертывания
Один Linux-сервер. Видеокарты нужны только тогда, когда языковая модель работает у вас, а не по сети у поставщика. Проверить готовность можно до сделки, числа ниже не оценка на глаз.
Сколько нужно ресурсов
Столбца два, потому что и вопроса два. Пилот - это платформа на вашем сервере для оценки, вы смотрите ее на своих документах. Промышленная работа - это накопленные данные, резервные копии и проверка восстановления рядом с рабочей системой.
| Что нужно | Пилот | Промышленная работа |
|---|---|---|
| Процессор | 12 ядер | от 32 ядер |
| Память | 32 ГиБ | от 48 ГиБ |
| Диск | 150 ГиБ SSD | от 1,2 ТиБ SSD |
| Порт наружу | 443 | 443 |
| Выход в интернет | не нужен | не нужен |
| Точное время | NTP | NTP |
Откуда эти числа.
- Столбец пилота получен замером на живом сервере. Машина 12 ядер, 32 ГиБ памяти, 150 ГиБ SSD отработала полное развертывание, реально занято около 7 ГиБ диска.
- Столбец промышленной работы сложен из ограничений всех сервисов платформы по описанию поставки, плюс запас на операционную систему.
- Точное время нужно потому, что подписи поставки проверяются по времени сервера. NTP - это протокол, которым сервер сверяет время с эталоном.
Из чего складывается диск
Диск промышленного столбца - это не сама платформа. Платформа занимает единицы гигабайт, а остальное уходит на следующее.
| Том | Что в нем | Объявленный размер |
|---|---|---|
pg-default-data | Основная база, где лежат аккаунты, задачи, дела и журнал | 50 ГиБ |
clickhouse-data | Записи хода запусков и метрики | 100 ГиБ |
redis-data | Очереди и обмен событиями между сервисами | 4 ГиБ |
minio-data | Файлы, то есть документы, выгрузки и результаты | 200 ГиБ |
backup-local | Резервные копии | 300 ГиБ |
Размеры томов задаются вашим слоем описателя, это не жесткие числа платформы. Сверх суммы томов нужно место под распаковку поставки и под проверку восстановления, которая разворачивает полную копию данных рядом с рабочей.
Сеть и что открывается наружу
- Наружу открывается один порт 443. Все остальные сервисы работают внутри сети установки и снаружи не видны.
- Выход в интернет нужен не в каждой установке. Он нужен для двух вещей, обращения к языковой модели поставщика и получения обновлений платформы. Если модель работает на ваших серверах, а обновления вы приносите файлом, выход наружу не нужен вовсе.
- Сеть установки разделена на сегменты. Пограничный, внутренний, сегмент данных и сегмент выхода наружу. Сервис видит только те сегменты, которые ему нужны.
Когда нужны видеокарты
Видеокарты появляются в одном случае, когда данные не должны уходить за пределы вашей сети вообще и языковая модель работает рядом с платформой. Если модель отвечает по сети у российского поставщика или развернута на отдельных серверах в вашем облаке, платформе достаточно машины из таблицы выше.
Числа по видеокартам мы называем инженерной оценкой для планирования, а не замером. В поставке они заменяются фактическими для вашей конфигурации.
Продающая страница с теми же числами и разбором случаев с видеокартами - требования к серверу.