Развёртывание в Яндекс Облаке¶

Что вы сделаете¶

На этой странице описан основной рекомендуемый способ запуска НайсСофт — ИИ Студии в Яндекс Облаке из готового образа виртуальной машины.

В нормальном сценарии установка сводится к следующему:

1. Выбрать образ НайсСофт — ИИ Студии.
2. Выбрать поддерживаемую конфигурацию с GPU.
3. Создать ВМ.
4. Открыть https://<адрес ВМ>:8143/.
5. Добавить временное исключение для локального сертификата.
6. Зарегистрировать первый локальный аккаунт.
7. Первый аккаунт на чистой установке становится ADMIN.
8. Пройти мастер первого запуска.
9. Установить рекомендованную модель.
10. Настроить домен и доверенный сертификат.

Саму платформу вручную собирать не требуется.

Для штатного локального ИИ выбирайте ВМ с GPU

конфигурация без GPU не является целевым вариантом локальной рабочей модели в выпуске 0.3.66. Если нужен именно локальный ИИ, выбирайте одну из поддерживаемых GPU-платформ ниже.

Перед началом¶

Проверьте четыре вещи.

1. Есть квота на GPU¶

В Яндекс Облаке квота на создание ВМ с GPU может быть равна нулю. Если нужная GPU-конфигурация недоступна из-за квоты, сначала запросите увеличение квоты.

Не путайте:

отсутствие квоты;
отсутствие ресурса в конкретной зоне;
несовместимый тип GPU;
недостаток VRAM для модели.

Это четыре разные причины.

Официальная справка Яндекс Облака по GPU:

https://yandex.cloud/ru/docs/compute/concepts/gpus

2. Выбран правильный образ¶

Используйте именно образ НайсСофт — ИИ Студии, предназначенный для текущего выпуска.

Если образ опубликован в Marketplace, создавайте ВМ из карточки продукта или через Compute Cloud с выбранным Marketplace-образом.

Если используется приватный образ организации, убедитесь, что это актуальная версия образа ИИ Студии и она находится в состоянии READY.

Официальная инструкция Яндекс Облака по созданию ВМ из образа:

https://yandex.cloud/ru/docs/compute/operations/vm-create/create-from-user-image

3. Есть сеть для первого запуска¶

Для стандартной установки понадобятся:

входящий 8143/TCP — интерфейс Студии;
исходящий HTTPS — загрузка модели и обращения к разрешённым внешним сервисам;
80/TCP — если после запуска планируется автоматический сертификат Let’s Encrypt;
22/TCP — только если администратору нужен SSH.

4. Вы понимаете, какую модель хотите получить¶

Не выбирайте виртуальную машину только по количеству vCPU.

Для локального ИИ основной ресурс — GPU и видеопамять.

Следующий раздел содержит точную матрицу выпуска 0.3.66.

Какую конфигурацию GPU выбрать¶

Короткий ответ¶

Для большинства внедрений можно использовать такую логику:

Задача	Разумная точка старта	Основная рекомендация Студии
Экономичная рабочая Студия	1× T4, 16 ГБ	Qwen3 8B AWQ
Экономичная работа с кодом	1× T4, 16 ГБ	Qwen2.5 Coder 7B AWQ
Более свободный компактный профиль	1× T4i, 24 ГБ	Qwen3 8B AWQ; для ряда задач Ministral 3 8B FP8
Корпоративный универсальный сервер	1× A100, 80 ГБ	Qwen3.8 27B, 64K контекст
Агентные сценарии на A100	1× A100, 80 ГБ	GLM-4.7-Flash
Длинный контекст	2× A100, 160 ГБ	Kimi Linear 48B-A3B
Современная 80-ГБ платформа Gen2	1× Gen2, 80 ГБ	Qwen3.8 27B; Ministral 3 14B для специализированных задач
Платформа V4, 141 ГБ	1× GPU V4	Qwen3.8 27B; имеется большой запас для других квалифицированных моделей
V100	не выбирать	текущая рабочая среда 0.3.66 требует совместимость 7.5+, V100 = 7.0

Это не ручной выбор модели навсегда. После запуска мастер ещё раз проверит реальный GPU внутри ВМ и предложит модель по фактическим характеристикам.

Какие GPU-платформы есть в Яндекс Облаке¶

На дату актуализации этой инструкции Яндекс Облако предоставляет следующие классы GPU-конфигураций:

NVIDIA Tesla T4 — `standard-v3-t4`¶

1 GPU;
16 ГБ VRAM;
4 / 8 / 16 / 32 vCPU;
16 / 32 / 64 / 128 ГБ RAM;
вычислительная совместимость 7.5;
штатно поддерживается текущей средой Студии.

Для ИИ Студии это хороший недорогой класс для компактных моделей.

Основные рабочие модели:

Qwen3 8B AWQ — универсальная;
Qwen2.5 Coder 7B AWQ — программирование;
Qwen3.5 4B — компактная альтернативная модель;
Ministral 3 8B FP8 — возможен в части профилей, мастер учитывает RAM и рабочий контекст.

T4i — `standard-v3-t4i`¶

1 GPU;
24 ГБ VRAM;
4 / 8 / 16 / 32 vCPU;
16 / 32 / 64 / 128 ГБ RAM.

Студия не полагается только на имя этой платформы. Для T4i аппаратная совместимость подтверждается на самой ВМ через nvidia-smi.

Основные рабочие варианты:

Qwen3 8B AWQ;
Qwen2.5 Coder 7B AWQ;
Ministral 3 8B FP8 — особенно начиная с профиля 8 vCPU / 32 ГБ RAM;
Qwen3.5 9B и Ministral 3 14B FP8 находятся у верхней границы этого класса и не должны выбираться только по цифре «24 ГБ» без проверки мастером.

NVIDIA Tesla V100 — `gpu-standard-v1` и `gpu-standard-v2`¶

Физически это мощные GPU с 32 ГБ VRAM на устройство, а конфигурации могут содержать до нескольких GPU.

Но для выпуска 0.3.66:

V100 не является поддерживаемой рабочей платформой локальной модели.

Причина не в объёме памяти.

V100 имеет вычислительную совместимость 7.0;
закреплённая рабочая среда текущего выпуска требует 7.5 или выше;
несколько V100 не исправляют несовместимость архитектуры.

Поэтому не выбирайте V100 для новой ИИ Студии, даже если суммарно там 64, 128 или 256 ГБ VRAM.

NVIDIA A100 80 ГБ — `gpu-standard-v3`¶

Доступны конфигурации:

1× A100 = 80 ГБ VRAM;
2× A100 = 160 ГБ;
4× A100 = 320 ГБ;
8× A100 = 640 ГБ.

A100 имеет вычислительную совместимость 8.0 и штатно поддерживается текущей рабочей средой.

Основные модели:

Qwen3.8 27B — основная универсальная и программная рекомендация, 64K контекст;
Qwen3 Coder 30B-A3B — квалифицированная модель для программирования;
GLM-4.7-Flash — агентные задачи;
Ministral 3 14B FP8 — компактная специализированная модель;
Kimi Linear 48B-A3B — длинный контекст при достаточной суммарной VRAM, типично от 2× A100;
более крупные квалифицированные модели — только при достаточном запасе нескольких GPU.

FP8-модель Qwen3.8 27B FP8 и A100

В каталоге есть Qwen3.8 27B FP8, но её профиль требует вычислительную совместимость 8.9+. A100 имеет 8.0, поэтому именно этот оптимизированный вариант не должен автоматически предлагаться для A100. Для A100 базовая рекомендация — Qwen3.8 27B BF16.

Gen2 — `gpu-standard-v3i`¶

Доступны профили с:

1 GPU / 80 ГБ VRAM;
2 GPU / 160 ГБ;
4 GPU / 320 ГБ;
8 GPU / 640 ГБ.

Для этой платформы каталог Студии использует режим «проверить на ВМ»: конечная совместимость подтверждается реальным обнаружением GPU после запуска.

Основные рекомендации матрицы 0.3.66:

Qwen3.8 27B — универсальная и программная;
Ministral 3 14B FP8 — агентные задачи, длинный контекст и профиль, подготовленный к мультимодальным возможностям базовой платформы;
при больших конфигурациях перспективные модели показываются для планирования, но не обязательно разрешены к автоматической установке.

GPU Platform V4 — `gpu-standard-v4`¶

Доступны:

1 GPU / 141 ГБ VRAM;
2 GPU / 282 ГБ;
4 GPU / 564 ГБ;
8 GPU / 1128 ГБ.

В текущей матрице ИИ Студии универсальной рекомендацией остаётся Qwen3.8 27B — не потому, что большая ВМ «не умеет» запускать более крупные модели, а потому что рекомендация учитывает не только вместимость, но и:

проверенную рабочую среду;
лицензию;
происхождение весов;
качество;
эксплуатационный запас;
предсказуемость рабочей нагрузки.

На V4 доступны и более крупные квалифицированные артефакты при достаточной суммарной VRAM, например Kimi Linear и Mistral Small 4, но мастер не заменяет проверенную базовую модель на более крупную только потому, что памяти много.

Полная матрица конфигураций выпуска 0.3.66¶

Ниже приведена матрица, сформированная из того же каталога и того же расчёта, который использует Центр управления моделями версии 0.3.66.

Профиль Яндекс Облака	Ресурсы	Универсальная	Программирование	Агентные задачи	Длинный контекст	Мультимодальный потенциал*
standard-v3-t4-1g-4c-16r	1× NVIDIA Tesla T4 / 16 ГБ VRAM / 4 vCPU / 16 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen3.5 4B · BF16 · 16K · ~12.9 ГБ · TP1
standard-v3-t4-1g-8c-32r	1× NVIDIA Tesla T4 / 16 ГБ VRAM / 8 vCPU / 32 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 8K · ~14.5 ГБ · TP1	Qwen3.5 4B · BF16 · 16K · ~12.9 ГБ · TP1
standard-v3-t4-1g-16c-64r	1× NVIDIA Tesla T4 / 16 ГБ VRAM / 16 vCPU / 64 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 8K · ~14.5 ГБ · TP1	Qwen3.5 4B · BF16 · 16K · ~12.9 ГБ · TP1
standard-v3-t4-1g-32c-128r	1× NVIDIA Tesla T4 / 16 ГБ VRAM / 32 vCPU / 128 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 8K · ~14.5 ГБ · TP1	Qwen3.5 4B · BF16 · 16K · ~12.9 ГБ · TP1
standard-v3-t4i-1g-4c-16r	1× T4i / 24 ГБ VRAM / 4 vCPU / 16 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen3.5 4B · BF16 · 16K · ~12.9 ГБ · TP1
standard-v3-t4i-1g-8c-32r	1× T4i / 24 ГБ VRAM / 8 vCPU / 32 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1
standard-v3-t4i-1g-16c-64r	1× T4i / 24 ГБ VRAM / 16 vCPU / 64 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1
standard-v3-t4i-1g-32c-128r	1× T4i / 24 ГБ VRAM / 32 vCPU / 128 ГБ RAM	Qwen3 8B · AWQ · INT4/AWQ · 16K · ~10.9 ГБ · TP1	Qwen2.5 Coder 7B · AWQ · INT4/AWQ · 32K · ~9.8 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1	Ministral 3 8B · FP8 · FP8 · 16K · ~15.5 ГБ · TP1
gpu-standard-v1-1g-8c-96r	1× NVIDIA Tesla V100 / 32 ГБ VRAM / 8 vCPU / 96 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v1-2g-16c-192r	2× NVIDIA Tesla V100 / 64 ГБ VRAM / 16 vCPU / 192 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v1-4g-32c-384r	4× NVIDIA Tesla V100 / 128 ГБ VRAM / 32 vCPU / 384 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v2-1g-8c-48r	1× NVIDIA Tesla V100 / 32 ГБ VRAM / 8 vCPU / 48 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v2-2g-16c-96r	2× NVIDIA Tesla V100 / 64 ГБ VRAM / 16 vCPU / 96 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v2-4g-32c-192r	4× NVIDIA Tesla V100 / 128 ГБ VRAM / 32 vCPU / 192 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v2-8g-64c-384r	8× NVIDIA Tesla V100 / 256 ГБ VRAM / 64 vCPU / 384 ГБ RAM	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+	Недоступно · V100 7.0, текущей среде требуется 7.5+
gpu-standard-v3-1g-28c-119r	1× NVIDIA A100 / 80 ГБ VRAM / 28 vCPU / 119 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	GLM-4.7-Flash · BF16/официальные веса · 16K · ~68.5 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3-2g-56c-238r	2× NVIDIA A100 / 160 ГБ VRAM / 56 vCPU / 238 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	GLM-4.7-Flash · BF16/официальные веса · 16K · ~68.5 ГБ · TP1	Kimi Linear 48B-A3B · BF16/официальные веса · 64K · ~110.3 ГБ · TP2	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3-4g-112c-476r	4× NVIDIA A100 / 320 ГБ VRAM / 112 vCPU / 476 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	GLM-4.7-Flash · BF16/официальные веса · 16K · ~68.5 ГБ · TP1	Kimi Linear 48B-A3B · BF16/официальные веса · 64K · ~110.3 ГБ · TP2	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3-8g-224c-952r	8× NVIDIA A100 / 640 ГБ VRAM / 224 vCPU / 952 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	GLM-4.7-Flash · BF16/официальные веса · 16K · ~68.5 ГБ · TP1	Kimi Linear 48B-A3B · BF16/официальные веса · 64K · ~110.3 ГБ · TP2	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3i-1g-18c-144r	1× Gen2 GPU / 80 ГБ VRAM / 18 vCPU / 144 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3i-2g-36c-288r	2× Gen2 GPU / 160 ГБ VRAM / 36 vCPU / 288 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3i-4g-72c-576r	4× Gen2 GPU / 320 ГБ VRAM / 72 vCPU / 576 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v3i-8g-180c-1440r	8× Gen2 GPU / 640 ГБ VRAM / 180 vCPU / 1440 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1	Ministral 3 14B · FP8 · FP8 · 16K · ~22.2 ГБ · TP1
gpu-standard-v4-1g-22c-220r	1× GPU Platform V4 / 141 ГБ VRAM / 22 vCPU / 220 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1
gpu-standard-v4-2g-44c-440r	2× GPU Platform V4 / 282 ГБ VRAM / 44 vCPU / 440 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1
gpu-standard-v4-4g-88c-880r	4× GPU Platform V4 / 564 ГБ VRAM / 88 vCPU / 880 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1
gpu-standard-v4-8g-180c-1800r	8× GPU Platform V4 / 1128 ГБ VRAM / 180 vCPU / 1800 ГБ RAM	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1	Qwen3.8 27B · BF16 · 64K · ~67.7 ГБ · TP1

* «Мультимодальный потенциал» означает возможность исходной модели производителя работать не только с текстом. Текущий поставляемый контур ИИ Студии остаётся текстовым и не включает пользовательскую генерацию/обработку изображений.

Почему нельзя выбирать только по VRAM¶

Пример ошибки:

«У V100 32 ГБ, значит она лучше T4 16 ГБ и точно запустит всё, что запускается на T4».

Для выпуска 0.3.66 это неверно.

Совместимость рассчитывается по совокупности:

архитектура GPU
+ вычислительная совместимость
+ число GPU
+ VRAM
+ RAM
+ формат весов
+ рабочий контекст
+ резерв среды выполнения
+ закреплённая версия vLLM

Именно поэтому V100 с большим объёмом памяти может быть полностью исключена, а T4 — поддерживаться.

Как рассчитать диск¶

Перед установкой каждой модели среда выполнения проверяет свободное место по формуле:

минимально свободно = размер загрузки × 1,15 + 5 ГБ

Примеры только для модельного артефакта:

Модель	Размер загрузки	Минимальный свободный запас перед установкой
Qwen3 8B AWQ	6,11 ГБ	≈ 12,0 ГБ
Qwen2.5 Coder 7B AWQ	5,57 ГБ	≈ 11,4 ГБ
Qwen3.5 9B	19,4 ГБ	≈ 27,3 ГБ
Qwen3.8 27B	55,7 ГБ	≈ 69,1 ГБ
GLM-4.7-Flash	62,5 ГБ	≈ 76,9 ГБ
Kimi Linear 48B-A3B	98,3 ГБ	≈ 118,0 ГБ
Mistral Small 4 119B FP8	120,9 ГБ	≈ 144,0 ГБ

Это не размер всего загрузочного диска ВМ. На том же диске размещаются операционная система, контейнеры, журналы, пользовательские файлы и другие модели.

Практическое правило:

не выделяйте диск «впритык» к размеру одной модели;
если предполагается переключение между несколькими моделями, учитывайте сумму их размеров;
оставляйте запас для пользовательских файлов, журналов и обновлений.

Пошаговое создание ВМ¶

Шаг 1. Откройте образ ИИ Студии¶

В консоли Яндекс Облака откройте каталог, в котором будет работать Студия.

Создайте ВМ из образа НайсСофт — ИИ Студии.

Не выбирайте случайный обычный Linux-образ и не пытайтесь затем вручную «повторить» Marketplace-сборку.

Шаг 2. Выберите GPU-платформу¶

Для первой рабочей установки рекомендуется выбирать один из поддерживаемых классов:

standard-v3-t4;
standard-v3-t4i;
gpu-standard-v3;
gpu-standard-v3i;
gpu-standard-v4.

Не используйте gpu-standard-v1 или gpu-standard-v2 с V100 для рабочей модели текущего выпуска.

Если нужной платформы нет в списке:

проверьте зону доступности;
проверьте квоту GPU;
проверьте наличие ресурсов в Яндекс Облаке;
не подменяйте требуемый GPU ближайшей по цене CPU-конфигурацией.

Шаг 3. Выберите число GPU и RAM¶

Не существует правила «чем больше GPU, тем быстрее один и тот же ответ».

Например, Qwen3.8 27B помещается на одном A100 80 ГБ и в базовой рекомендации работает с TP1. Вторая A100 становится полезной, когда:

нужна модель, которая не помещается на одном GPU;
нужен другой профиль нагрузки;
архитектура конкретной модели использует распределение по нескольким ускорителям;
сервер обслуживает отдельные параллельные контуры.

Поэтому не покупайте несколько GPU только ради цифры.

Шаг 4. Выберите диск¶

Учитывайте:

системный образ;
контейнерные образы;
локальные модели;
пользовательские файлы;
журналы;
резерв для обновления.

Для крупных A100/Gen2/V4-профилей диск должен иметь достаточно свободного места как минимум для рекомендованной модели по формуле выше.

Шаг 5. Настройте сеть¶

Для первого запуска нужен адрес, по которому ваш браузер сможет открыть ВМ.

Варианты:

публичный IPv4;
доступ через корпоративную сеть/VPN;
внутренний адрес через корпоративный маршрут.

Для простого первого запуска обычно используется публичный адрес.

Если позже будет подключён домен, рекомендуется закрепить адрес, чтобы DNS не указывал на устаревший IP после пересоздания ВМ.

Шаг 6. Настройте группу безопасности¶

Минимальный практический набор:

Направление	Порт	Источник	Назначение
входящий	`8143/TCP`	сети пользователей/администраторов	основной интерфейс Студии
входящий	`22/TCP`	только сеть администраторов	SSH, если нужен
входящий	`80/TCP`	Интернет	только если нужен Let’s Encrypt / проверка домена
исходящий	`443/TCP`	Интернет	модели, реестры, Яндекс Облако и разрешённые внешние сервисы

Не публикуйте наружу внутренние базы и служебные контейнеры.

Нужен ли порт 3001¶

Нет, для первого запуска он не нужен.

Первый пользователь регистрируется в основном интерфейсе на 8143.

Если позднее используется отдельная административная панель на 3001, разрешайте к ней доступ только из доверенной административной сети. Не открывайте её всему Интернету только потому, что контейнер способен слушать этот порт.

Известное ограничение 0.3.66

В стандартном compose.yml 0.3.66 административная панель действительно публикуется на 3001 по HTTP. До исправления продуктового профиля закройте этот порт в правилах безопасности/межсетевом экране для внешних сетей. Для первого входа и регистрации он не нужен.

Шаг 7. Создайте ВМ¶

После запуска дождитесь перехода ВМ в рабочее состояние и узнайте её адрес.

Не начинайте с SSH и ручной правки контейнеров. Для готового образа сначала проверяется штатный пользовательский путь.

Первый вход: локальный сертификат¶

Шаг 8. Откройте порт 8143¶

В браузере откройте:

https://<адрес-ВМ>:8143/

Например:

https://203.0.113.25:8143/

Шаг 9. Не пугайтесь предупреждения сертификата¶

При чистом запуске Студия ещё не знает будущий домен организации.

Поэтому она создаёт локальный сертификат:

собственный локальный центр доверия;
срок серверного сертификата — 10 лет;
сертификат не привязан к IP;
основное имя сертификата — nicesoft-ai-studio.local.

Браузер не может автоматически доверять частному центру сертификации НайсСофт и, кроме того, при доступе по IP имя не совпадает с локальным DNS-именем.

Это ожидаемое состояние первого запуска.

Что сделать¶

Ещё раз сверьте публичный IP с карточкой только что созданной ВМ в Яндекс Облаке.
Откройте подробности предупреждения браузера.
Выберите действие вроде «Дополнительно» → «Продолжить» / «Принять риск и продолжить».
Добавьте исключение только для этого известного адреса.
Не обучайте обычных пользователей постоянно игнорировать предупреждения TLS — исключение нужно для первичной настройки администратора.

Названия кнопок отличаются между Firefox, Chromium, Chrome и корпоративными сборками браузеров.

Не принимайте исключение вслепую

Если адрес ВМ не совпадает с адресом в консоли Яндекс Облака, сначала выясните причину. Предупреждение сертификата ожидаемо, подмена адреса — нет.

Дополнительная проверка отпечатка через SSH¶

Если требуется усиленная проверка перед добавлением исключения:

openssl x509   -in data/tls/server.crt   -noout   -fingerprint -sha256   -issuer   -subject   -dates

Сравнивайте данные только с той ВМ, к которой подключились по доверенному административному каналу.

Первая регистрация: этот пользователь становится администратором¶

Шаг 10. Зарегистрируйте первый локальный аккаунт¶

В поставке 0.3.66:

локальный вход по электронной почте и паролю включён;
локальная регистрация включена для первоначального создания аккаунта;
социальные способы входа в стандартной поставке отключены.

На чистой одиночной установке, где в базе ещё нет пользователей, первый зарегистрированный локальный аккаунт получает роль ADMIN.

Поэтому первым регистрируется администратор организации, а не случайный тестовый пользователь.

Регистрация после первого пользователя

В 0.3.66 ALLOW_REGISTRATION=true остаётся включённым и после создания первого администратора. Это необходимо учитывать при публикации ВМ в Интернет. До следующего исправленного выпуска держите доступ к 8143 в контролируемом сетевом контуре и не считайте регистрацию автоматически закрытой после первого аккаунта.

Мастер первого запуска¶

Шаг 11. Дайте Студии определить оборудование¶

После входа ADMIN мастер первого запуска получает фактические параметры сервера:

модель GPU;
число GPU;
VRAM;
вычислительную совместимость;
vCPU;
RAM;
свободное место;
доступность среды выполнения GPU.

Не выбирайте модель вручную до этого шага только потому, что «в карточке ВМ написано 80 ГБ».

Шаг 12. При необходимости запустите начальную модель¶

Студия может предложить Начальную модель Найс Софт · Qwen3 0.6B.

Она нужна для:

проверки локальной генерации;
диагностики;
временного базового чата, пока скачивается большая модель.

Это не рабочая модель.

После готовности основной модели начальная модель останавливается.

Шаг 13. Проверьте рекомендацию основной модели¶

Перед скачиванием мастер проверяет:

совместимость GPU;
наличие рабочей среды;
видимость GPU внутри контейнера;
свободный диск;
метаданные официального источника модели.

Если проверка не пройдена, не обходите её ручным скачиванием весов.

Исправьте причину.

Шаг 14. Установите рекомендованную модель¶

Нажмите действие установки рекомендованной модели.

Процесс:

загрузка
  ↓
проверка
  ↓
запуск среды модели
  ↓
проверка готовности
  ↓
назначение активной модели
  ↓
READY

Новая модель становится рабочей только после успешной проверки готовности.

Настройка нормального сертификата¶

Шаг 15. Откройте «Параметры → Сертификат и домен»¶

В 0.3.66 это отдельная административная страница.

Она показывает фактический сертификат:

тип;
период действия;
издателя;
владельца;
серийный номер;
отпечаток;
имена в сертификате;
факт того, что именно этот сертификат уже загружен обратным прокси.

Закрытый ключ браузеру не передаётся.

Далее выберите один из двух нормальных рабочих вариантов.

Вариант A. Домен + Let’s Encrypt¶

Закрепите публичный адрес ВМ.
Создайте DNS A-запись, например ai.company.ru.
Разрешите входящий 80/TCP.
Откройте Параметры → Сертификат и домен.
Введите доменное имя.
Нажмите «Проверить домен».
После успешной проверки укажите электронную почту администратора.
Нажмите «Выпустить сертификат».
Обновите страницу после применения сертификата.
Убедитесь, что браузер больше не показывает предупреждение доверия.

Текущая реализация использует HTTP-01. На порту 80 обслуживается только путь проверки /.well-known/acme-challenge/; остальные HTTP-запросы получают 404.

Продление проверяется автоматически.

Вариант B. Сертификат организации¶

Если в компании уже есть собственный сертификат:

подготовьте сертификат;
подготовьте соответствующий закрытый ключ;
при необходимости подготовьте промежуточную цепочку;
укажите домен;
нажмите «Проверить и установить».

Перед заменой Студия проверяет:

что сертификат не просрочен;
что закрытый ключ соответствует сертификату;
что указанный домен присутствует в сертификате;
что новый комплект можно применить.

Предыдущий комплект сохраняется для восстановления.

Подробности: HTTPS и доменное имя.

Финальная проверка развёртывания¶

После установки выполните административный контроль.

В интерфейсе¶

Откройте Параметры → Система и проверьте:

процессор;
RAM;
диск;
сеть;
время работы;
состояние основных служб;
активную модель;
ускоритель;
локальные данные;
сертификат.

Показатели обновляются автоматически.

Через сервер¶

Если есть SSH:

./nicesoft.sh status
./nicesoft.sh health

Если подключаете интеграцию с Яндекс Облаком:

./nicesoft.sh yc-doctor

Что делать сразу после запуска¶

Рекомендуемый порядок дальнейшей настройки:

заменить временное исключение браузера нормальным доменным сертификатом;
проверить основную модель;
создать тестовый аккаунт USER;
проверить разграничение ADMIN / USER;
настроить политику регистрации согласно правилам организации;
при необходимости подключить Яндекс Облако;
создать резервную копию первого рабочего состояния;
зафиксировать версию Студии и выбранную конфигурацию ВМ.

Типичные ошибки¶

Выбрана V100, потому что у неё 32 ГБ VRAM¶

Для текущего выпуска это неправильный выбор.

Причина: вычислительная совместимость V100 ниже минимального рабочего профиля текущей рабочей среды.

Решение: T4/T4i для компактного класса или A100/Gen2/V4 для более крупных моделей.

Открывается `http://IP:8143`¶

Порт 8143 ожидает HTTPS.

Используйте:

https://IP:8143/

Браузер пишет, что сертификат недоверенный¶

На первом запуске это ожидаемо для локального сертификата.

Проверьте IP ВМ и добавьте временное исключение. Затем настройте домен и доверенный сертификат.

Браузер пишет ещё и про несовпадение имени¶

Тоже ожидаемо при доступе по IP: локальный сертификат специально не содержит IP и выпущен для nicesoft-ai-studio.local.

Не перевыпускайте локальный сертификат под временный IP. Настройте домен.

После регистрации нет административных функций¶

Проверьте:

действительно ли база была пустой;
не восстанавливался ли старый MongoDB volume;
фактическую роль пользователя;
не был ли ранее создан другой аккаунт.

Первым ADMIN становится именно первый пользователь чистой установки.

Мастер говорит, что GPU нет¶

Проверьте:

действительно ли ВМ создана с GPU;
видит ли GPU операционная система;
nvidia-smi;
доступ GPU из контейнеров;
NVIDIA Container Toolkit;
выбранный профиль запуска.

Не обходите эту ошибку ручным принудительным запуском модели.

Не хватает диска¶

Мастер блокирует установку до большой загрузки.

Увеличьте диск или очистите ненужные модельные артефакты. Не удаляйте произвольно каталоги активной модели во время работы.

Не проходит проверка домена¶

Проверьте:

A-запись;
фактический публичный адрес ВМ;
входящий порт 80;
группу безопасности;
промежуточные прокси;
доступность /.well-known/acme-challenge/.

Let’s Encrypt не выпускается¶

Сначала должна успешно пройти собственная кнопка «Проверить домен».

Если она не прошла, проблема не в Certbot, а раньше по цепочке — DNS или сеть.

Источники конфигурации¶

Эта страница сверена с:

НайсСофт — ИИ Студия 0.3.66;
config/models/catalog.json;
docs/YC_MODEL_MATRIX.md;
docs/FIRST_BOOT.md;
docs/SYSTEM_AND_TLS.md;
службой сертификатов 0.3.66;
актуальной документацией Yandex Compute Cloud по GPU.

Официальные страницы Яндекс Облака:

Что дальше¶

После запуска ВМ обязательно прочитайте «HTTPS и доменное имя», даже если временное исключение браузера вас устраивает: оно предназначено для первого административного входа, а не для постоянной работы сотрудников.

Развёртывание в Яндекс Облаке¶

Что вы сделаете¶

Перед началом¶

1. Есть квота на GPU¶

2. Выбран правильный образ¶

3. Есть сеть для первого запуска¶

4. Вы понимаете, какую модель хотите получить¶

Какую конфигурацию GPU выбрать¶

Короткий ответ¶

Какие GPU-платформы есть в Яндекс Облаке¶

NVIDIA Tesla T4 — standard-v3-t4¶

T4i — standard-v3-t4i¶

NVIDIA Tesla V100 — gpu-standard-v1 и gpu-standard-v2¶

NVIDIA A100 80 ГБ — gpu-standard-v3¶

Gen2 — gpu-standard-v3i¶

GPU Platform V4 — gpu-standard-v4¶

Полная матрица конфигураций выпуска 0.3.66¶

Почему нельзя выбирать только по VRAM¶

Как рассчитать диск¶

Пошаговое создание ВМ¶

Шаг 1. Откройте образ ИИ Студии¶

Шаг 2. Выберите GPU-платформу¶

Шаг 3. Выберите число GPU и RAM¶

Шаг 4. Выберите диск¶

Шаг 5. Настройте сеть¶

Шаг 6. Настройте группу безопасности¶

Нужен ли порт 3001¶

Шаг 7. Создайте ВМ¶

Первый вход: локальный сертификат¶

Шаг 8. Откройте порт 8143¶

Шаг 9. Не пугайтесь предупреждения сертификата¶

Что сделать¶

Дополнительная проверка отпечатка через SSH¶

Первая регистрация: этот пользователь становится администратором¶

Шаг 10. Зарегистрируйте первый локальный аккаунт¶

Рекомендуемый порядок¶

Мастер первого запуска¶

Шаг 11. Дайте Студии определить оборудование¶

Шаг 12. При необходимости запустите начальную модель¶

Шаг 13. Проверьте рекомендацию основной модели¶

Шаг 14. Установите рекомендованную модель¶

Настройка нормального сертификата¶

Шаг 15. Откройте «Параметры → Сертификат и домен»¶

Вариант A. Домен + Let’s Encrypt¶

Вариант B. Сертификат организации¶

Финальная проверка развёртывания¶

В интерфейсе¶

Через сервер¶

Что делать сразу после запуска¶

Типичные ошибки¶

Выбрана V100, потому что у неё 32 ГБ VRAM¶

Открывается http://IP:8143¶

Браузер пишет, что сертификат недоверенный¶

Браузер пишет ещё и про несовпадение имени¶

После регистрации нет административных функций¶

Мастер говорит, что GPU нет¶

Не хватает диска¶

Не проходит проверка домена¶

Let’s Encrypt не выпускается¶

Источники конфигурации¶

Что дальше¶

NVIDIA Tesla T4 — `standard-v3-t4`¶

T4i — `standard-v3-t4i`¶

NVIDIA Tesla V100 — `gpu-standard-v1` и `gpu-standard-v2`¶

NVIDIA A100 80 ГБ — `gpu-standard-v3`¶

Gen2 — `gpu-standard-v3i`¶

GPU Platform V4 — `gpu-standard-v4`¶

Открывается `http://IP:8143`¶