Перейти к содержанию

Ошибки моделей и диагностика

Начинайте с симптома. Не удаляйте вариант весов, state-файл или Docker тома хранения как первый способ «починить»: большинство проблем диагностируются без разрушительных действий.

Быстрая проверка

./nicesoft.sh health
./nicesoft.sh check

Журналы Model Manager:

./nicesoft.sh logs model-manager

Диагностика YC/Yandex AI:

./nicesoft.sh yc-doctor

Danger

Перед отправкой логов в поддержку удалите секреты, токены, внутренние адреса и чувствительные идентификаторы согласно политике организации.

«Модель не выбрана»

Возможные причины:

  • first boot не завершён;
  • активная модель удалена, резервная модель отсутствует;
  • предыдущая активация завершилась ошибкой;
  • route сознательно оставлен в none.

Действия

  1. Откройте Модели → Обзор.
  2. Посмотрите active source.
  3. Проверьте развёртывание state.
  4. Если есть установленная локальная модель — активируйте её.
  5. Для Yandex AI сначала проверьте интеграцию.
  6. Выполните smoke-test.

GPU отсутствует

Возможные причины:

  • VM без GPU;
  • драйвер не работает;
  • GPU не передан контейнеру;
  • NVIDIA Container Toolkit или среда выполнения неисправны;
  • после изменения VM устройство не появилось в контейнере.

Действия

Проверьте GPU на хосте, затем отчёт об оборудовании Model Manager. Именно то, что видит среда выполнения модели, определяет возможность запуска.

Не устанавливайте модель вручную мимо мастера, если среда выполнения не видит GPU.

GPU есть, но модель несовместима

Это может быть нормальным результатом.

Причины:

  • мало VRAM;
  • вычислительной совместимости ниже минимального рабочего уровня;
  • FP8 не поддерживается;
  • требуется больше GPU;
  • контекст не помещается с резервом;
  • профиль среды выполнения не квалифицирован.

V100

Большая VRAM сама по себе не делает старую GPU поддерживаемой. Текущая рабочая матрица может считать V100 устаревшей архитектуры из-за архитектуры среда выполнения.

Недостаточно диска

Мастер требует запас:

download_gb × 1.15 + 5 ГБ

Действия

  1. Посмотрите required free space в preflight.
  2. Проверьте раздел, где хранятся модели.
  3. Удалите ненужные неактивные модели штатным UI.
  4. При необходимости увеличьте диск.
  5. Повторите preflight.

Не удаляйте вручную файлы активной модели.

Не удалось получить метаданные / HTTPS недоступен

Мастер специально не начинает большой download без предварительной проверки метаданных.

Проверьте:

  • DNS;
  • HTTPS egress;
  • corporate proxy;
  • TLS inspection;
  • trusted CA;
  • системное время;
  • доступность источника модели.

После исправления повторите preflight.

Модель очень долго скачивается

Файл весов модели может занимать десятки или сотни гигабайт.

Проверьте:

  • серверный progress;
  • пропускную способность;
  • диск;
  • retry/error в логах;
  • перезапуски контейнера;
  • ограничения proxy на большие файлы.

Не ориентируйтесь только на визуальный процент в браузере.

Download завершён, но модель не активна

После файлов идёт validation.

Проверьте:

  1. installed/verified status;
  2. pending model;
  3. запуск среда выполнения;
  4. inference готовность;
  5. совпадение идентификатора модели в среде выполнения;
  6. last_activation_error.

Частая причина — OOM при реальной загрузке в VRAM.

CUDA OOM / Out of memory

Причины:

  • модель слишком велика;
  • контекст слишком большой;
  • недостаточный reserve;
  • другой процесс занял GPU;
  • неверный tensor parallel;
  • сторонний GPU workload.

Действия

  1. Не повторяйте запуск бесконечно.
  2. Проверьте процессы GPU.
  3. Уберите стороннюю нагрузку по регламенту.
  4. Вернитесь к соответствие recommendation.
  5. Выберите более компактный artifact/контекст.
  6. При необходимости увеличьте GPU-класс.

Не обнуляйте запас безопасности только ради единичного запуска.

Модель отвечает медленно

Разделите проблему.

Долго до первого токена

  • слишком большой запрос;
  • большой документ;
  • длинный prefill;
  • очередь;
  • cold start.

Медленная генерация

  • тяжёлая модель;
  • несколько пользователей;
  • GPU throttling;
  • неудачный parallel profile.

Диагностика

Сравните:

  1. короткий запрос без файла;
  2. длинный запрос;
  3. запрос с документом;
  4. одного пользователя;
  5. параллельную нагрузку.

После reboot модель не поднялась

Model Manager должен восстановить выбранную локальную модель, если она установлена.

Проверьте:

  • файлы на месте;
  • контейнер среды выполнения жив;
  • GPU доступен после reboot;
  • active model сохранена;
  • среда выполнения не обслуживает другой ID;
  • health/готовность.

Причина неуспешного восстановления должна быть в журналы среды выполнения.

Установка заблокирована другой операцией

Другой администратор уже выполняет изменяющую модельную операцию.

Действия

  1. Не обходите lock.
  2. Посмотрите текущую операцию/владельца.
  3. Дождитесь завершения.
  4. При аварийном завершении используйте штатный recovery/reset.
  5. Не редактируйте state вручную без аварийного регламента.

Удалили активную модель

Model Manager пытается:

  1. найти другую установленную совместимую локальную рабочую модель;
  2. активировать её;
  3. только если локальной нет — использовать уже явно настроенный внешний модельный сервер;
  4. иначе оставить none.

Проверьте Обзор и состояние возможной резервной модели.

Старый ответ показывает прежнюю модель

Это правильное поведение. Студия сохраняет модель, реально сформировавшую исторический ответ. Глобальное переключение не переписывает атрибуцию.

Пользователь не может сам включить YandexGPT

Это нормально для текущей архитектуры. Provider меняется администратором, потому что операция меняет:

  • privacy boundary;
  • платную обработку;
  • глобальный модельный маршрут.

Yandex AI: 403 PERMISSION_DENIED

Проверьте:

  1. авторизованный ключ загружен;
  2. определён AI Studio Folder;
  3. ai.languageModels.user выдана служебной учётной записи на этот Folder/родителя;
  4. роль выдана на ресурс, а не объект служебной учётной записи;
  5. активен Billing Account;
  6. модель доступна проекту;
  7. повторите Проверить доступ;
  8. выполните:
./nicesoft.sh yc-doctor

403 обычно означает, что запрос дошёл до Yandex AI, но не получил разрешение.

Yandex AI: модель недоступна

Возможные причины:

  • модель не предоставлена этому проекту;
  • облачный каталог изменился;
  • curated-карточка есть, probe вернул unavailable;
  • есть ограничение доступа.

Не подменяйте URI вручную. Проверяйте официальный каталог и повторяйте probe.

Yandex AI подключён, но отвечает локальная модель

Сам факт загрузки ключа не активирует облачную модель. Проверьте active source в Модели → Обзор. Yandex AI требует явного выбора ADMIN.

Локальная модель отказала, Yandex не включился

Это ожидаемое безопасное поведение. Студия не должна молча отправить приватный запрос в облако. Решение принимает администратор.

Модель видна, но нет кнопки установки

Возможные варианты:

  • frontier candidate;
  • license review;
  • обновление среды выполнения required;
  • hardware incompatible;
  • supporting model service;
  • test/diagnostic artifact.

Посмотрите gate/status карточки.

Размер вариант весов отличается от старой документации

Исходный репозиторий и ревизия могут измениться. Для реальной установки используйте:

  1. текущую карточку;
  2. текущую предварительную проверку метаданных;
  3. pinned revision релиза.

Не планируйте огромную модель только по старой таблице.

Качество ответов слабое

Перед заменой модели проверьте:

  1. какая модель фактически ответила;
  2. не Bootstrap ли это;
  3. качество запроса;
  4. переданные RAG-источники;
  5. соответствует ли модель workload;
  6. достаточно ли контекста;
  7. одинаковый сравнительный тест другой модели.

Ответ по документу выдумывает факты

Это может быть не модель, а retrieval.

Проверьте:

  • parsing файла;
  • статус индексации;
  • найденные фрагменты;
  • цитаты;
  • область поиска;
  • формулировку «отвечай только по документу».

Подробнее: Проблемы с файлами.

Что приложить в поддержку

Полезно:

  • версия Студии;
  • время ошибки;
  • GPU/VRAM;
  • модель;
  • этап install/activate/inference;
  • безопасный текст ошибки;
  • request ID;
  • небольшой фрагмент model-manager/журналы среды выполнения;
  • результат health;
  • для Yandex — HTTP status/request-id.

Не прикладывайте:

  • JSON private key;
  • IAM token;
  • пароли;
  • полный .env;
  • конфиденциальный чат без необходимости.

Универсальная последовательность восстановления

  1. Не удаляйте данные.
  2. Откройте Модели → Обзор.
  3. Определите active source.
  4. Определите фактическую модель.
  5. Проверьте отчёт об оборудовании.
  6. Выполните ./nicesoft.sh health.
  7. Посмотрите model-manager logs.
  8. Для local проверьте среду выполнения и GPU.
  9. Для Yandex выполните yc-doctor.
  10. Исправьте конкретную причину.
  11. Повторите штатную операцию.
  12. Выполните новый smoke-test.

Что дальше

После восстановления переходите к Файлам и знаниям.