Требования к серверу
Один Linux-сервер. Видеокарта нужна только тогда, когда языковая модель работает у вас, а не по API, и об этом отдельный раздел ниже. Проверить готовность можно до сделки: числа в таблице не оценка на глаз, у каждого назван источник.
Столбцов два, потому что и вопроса два. Пилот - это платформа на вашем сервере для оценки: вы смотрите её на своих документах. Промышленная работа - это накопленные данные, резервные копии и проверка восстановления рядом с рабочей системой.
| Что нужно | Пилот | Промышленная работа |
|---|---|---|
| Процессор | 12 vCPU | от 32 vCPU |
| Память | 32 ГиБ | от 48 ГиБ |
| Диск | 150 ГиБ SSD | от 1,2 ТиБ SSD |
| Порт | 443 | 443 |
| Выход в интернет | не нужен | не нужен |
| Точное время | NTP | NTP |
Откуда эти числа
- Столбец «пилот» - замер на живом сервере: машина 12 vCPU, 32 ГиБ, 150 ГиБ SSD отработала полный подъём платформы, реально занято около 7 ГиБ диска.
- Столбец «промышленная работа» - сумма ограничений девятнадцати служб платформы, посчитанная из описания поставки: 27 vCPU и 34,5 ГиБ, плюс названный запас на операционную систему.
- Диск в промышленном столбце - это тома платформы, место под перенос поставки и место под проверку восстановления, которая разворачивает полную копию данных рядом с рабочей.
- Порт 443 - единственный, который платформа публикует наружу.
- Точное время нужно потому, что подписи поставки проверяются по времени сервера.
Когда языковая модель работает на ваших серверах
Видеокарты нужны не всегда. Если языковая модель работает по API у российского поставщика или развернута на отдельных серверах в вашем облаке, платформе достаточно машины из таблицы выше. Видеокарты появляются тогда, когда данные не должны уходить наружу вообще и открытая языковая модель работает рядом с платформой.
| Что работает на ваших серверах | Видеокарты | Что из этого следует |
|---|---|---|
| Ничего, языковая модель по APIGigaChat, YandexGPT или своя модель на отдельных серверах | не нужны | Хватает машины из таблицы выше. Это вариант по умолчанию, и на нем работает демонстрационный стенд. |
| Одна компактная модельнапример, GigaChat 3.1 Lightning, T-Lite, Qwen3-8B | 1 карта, 24-48 ГБ | Минимальная сборка закрытой сети. Одна модель обслуживает все текстовые задачи, качество относительно API честно проседает, и это записано в паспорте сборки. Задачи с разбором изображений на ней не работают. |
| Компактная плюс сильная текстовая или модель разбора изображенийнапример, T-Pro, Qwen3-32B, Qwen2.5-VL | 2-3 карты, 48-80 ГБ | Закрывает либо задачи с картинками и сканами, либо задачи, которым нужна сильная текстовая модель. Оба набора сразу этой сборкой не закрываются. |
| Компактная, сильная текстовая и модель разбора изображений вместе | 4-6 карт, 48-80 ГБ | Полный состав задач в закрытой сети, включая разбор документов и решения по ним. На этой сборке мы принимаем сценарий работы без интернета. |
расходов на оборудование нет или они закрывают весь состав задачзакрывает часть состава задачсамая дорогая сборка по оборудованию
- Числа по видеокартам - это оценка для планирования, а не замер. Реальную потребность уточняем на вашем составе задач и фиксируем в документации поставки.
- Место под веса моделей считается сверх диска из таблицы выше. Веса лежат на локальном томе того сервера, где стоят видеокарты, и для закрытой сети нужно место и под них, и под установочный комплект.
- Драйверы видеокарт и поддержку контейнеров в закрытую сеть заносит ваш инженер, это его зона. Проверка перед развертыванием увидит, если чего-то не хватает, и не начнет работу.
- Обновление модели на единственной видеокарте означает окно недоступности этого класса моделей. На это окно платформа переводит запросы по деградационной политике.
- Текстовую задачу можно осознанно перевести на младший класс модели, а задачу с картинками нельзя, потому что текстовая модель не заменяет зрение. Проверка перед развертыванием это ловит.
Про память отдельно
Ограничение памяти в контейнерах жёсткое: если её меньше, чем нужно сервису, его останавливают, а не замедляют. Процессор так себя не ведёт - при нехватке он просто притормаживает. Поэтому память занижать нельзя, а процессор в пилоте можно.
Про диск отдельно
Разница между 150 ГиБ и 1,2 ТиБ - это не запас на всякий случай. На пилоте нет ни накопленных резервных копий, ни проверки восстановления, которая разворачивает полную копию данных рядом с рабочей. Как только появляется и то и другое, возвращается большая цифра.
Программное обеспечение
Docker Engine и Compose второй версии (команда docker compose, не старая docker-compose). Точный диапазон версий фиксируется условиями поставки - публиковать здесь число, за которым ещё не стоит решения, мы не будем.
Ставит платформу ваш инженер по документации, одной командой. Административного доступа к ней у нас нет.