На серверах предприятия
Основной сценарий для конфиденциальной информации — размещение Студии и моделей в корпоративной инфраструктуре. Сотрудники подключаются через браузер, а вычисления, документы и история находятся на серверах организации. Базовая платформа развёртывания — НАЙС.ОС.
Перед запуском подбирают модель и оборудование под реальные задачи. На скорость влияет не только размер модели, но и длина документов, число одновременных пользователей и требования к ответу. Один и тот же сервер может подходить для коротких текстов и испытывать нехватку ресурсов при массовой обработке больших материалов.
Для закрытого режима заранее подготавливают модели и компоненты обработки. Обновления устанавливают по принятой процедуре. Внешний поиск и облачные подключения не нужны для обычной работы с локальными текстами и документами.
Рабочий ИИ появляется в управляемой инфраструктуре предприятия с понятной границей обработки.
Как выглядит собственный контур размещения
Это схема размещения, а не фотография конкретного внедрения. При запуске администратор отдельно определяет модель, доступ к документам, сеть, резервное копирование и журналирование. Подключение Яндекс Облака возможно по выбору предприятия, для локального режима оно не требуется.
Условия приватности задаются архитектурой установки и проверяются до подключения рабочих данных.
Как связаны люди, модели и источники
Сначала предприятие определяет контур данных и рабочих задач. Затем открывает доступ к нужным источникам, назначает владельцев процессов и только после этого решает, нужны ли внешние направления.
Студия расширяется по подразделениям без обязательного переноса всех данных во внешний сервис.
В Яндекс Облаке — если это удобно компании
Если собственного вычислительного сервера нет, Студию можно разместить на виртуальной машине с подходящей видеокартой в Яндекс Облаке. Это позволяет начать работу без закупки оборудования. Модель может выполняться на этой машине, а не в отдельном внешнем сервисе генерации.
При таком размещении инфраструктуру предоставляет Яндекс. Это не полностью собственный физический контур предприятия. Условия обработки данных, доступа и ответственности нужно учитывать при выборе облачной схемы.
Интеграция с облачными инструментами и использование облачных моделей — отдельные настройки. Разместить Студию на виртуальной машине, подключить сведения об инфраструктуре и отправлять запросы облачной модели — три разных решения.
Условия соответствия инфраструктуры Яндекс Облака требованиям не заменяют настройку защиты вашей системы.
Компания получает дополнительный способ запуска, сохраняя возможность выбрать собственное локальное размещение.
Первое внедрение: одна задача и критерий результата
Не стоит начинать с обещания заменить все рабочие инструменты. Выберите повторяемую задачу с понятными исходными материалами: сравнение договоров, ответы по внутренним инструкциям, разбор журналов или подготовку управленческой сводки.
- Определите, какой результат нужен сотруднику и что он сейчас делает вручную.
- Подготовьте разрешённые документы и примеры качественно выполненной работы.
- Настройте одного помощника: роль, порядок проверки и форму ответа.
- Дайте задачу сотрудникам, которые смогут оценить качество по существу.
- Измерьте время подготовки и проверки, число исправлений и случаи, когда помощник не справился.
Для проверки достаточно небольшого набора типичных задач. Трудные случаи тоже полезны: неполный документ, противоречивые вводные, отсутствие нужного положения в источнике. Они показывают, где требуется уточнение и какой контроль оставить человеку.
Решение о расширении принимается по проверенному результату, а не по эффектной демонстрации.
Что подготовить для рабочей эксплуатации
У предприятия должны быть ответственные за доступ, модели, обновления и резервные копии. Пользователям нужны короткие правила: что можно загружать, как проверять источники и к кому обратиться при проблеме.
Для доступа через браузер настраивают защищённое соединение и доверенный сертификат. Первоначальный самоподписанный сертификат в сценарии запуска не должен восприниматься как окончательное решение для всех сотрудников.
В Студии предусмотрены средства управления резервными копиями. Перед рабочим вводом важно проверить восстановление на выбранной инфраструктуре и определить сроки хранения. Надёжность сервиса зависит от всей схемы эксплуатации, а не только от наличия кнопки резервирования.
Полезный помощник превращается в обслуживаемый рабочий сервис, к которому можно возвращаться каждый день.
Расширять от процесса к предприятию
После проверки первого сценария добавляют помощников для других отделов, нужные источники и постоянные задачи. Мощности планируют по одновременной нагрузке, размерам документов и расписанию работ.
Стартовая установка на НАЙС.ОС и более крупная архитектура требуют разного объёма ресурсов и сопровождения. Разделение компонентов и несколько вычислительных серверов рассматриваются как варианты проектирования, а не обещание автоматического масштабирования любой поставки.
Как Студия становится ИИ-ядром компании.
Можно наращивать внедрение постепенно и обосновывать каждое расширение результатом.
Изолированный сценарий и выбор подключений
При установке на НАЙС.ОС локальная модель и внутренние источники могут работать без внешних вызовов после подготовки образов и моделей. Яндекс 360, публичные хранилища кода, Telegram и Яндекс Облако включаются только для тех процессов, где допустим внешний обмен.
Заказчик определяет границу данных по архитектуре конкретного рабочего процесса.
Выбирать размещение под состав данных
Обзор Яндекс Облака рассматривает защиту и локализацию данных как факторы выбора инфраструктуры корпоративного ИИ.
Как помогает Студия
Студию можно разместить на предприятии с локальной моделью. Яндекс Облако — дополнительный вариант, если компания допускает такую обработку. При облачной модели данные обрабатываются в выбранном облаке, поэтому этот режим нельзя называть полностью локальным.
Сравнить Студию с другими решениями по 12 критериям ↗
Компания выбирает границу обработки данных до запуска и понимает последствия облачного подключения.
Документы для проверки и внедрения.
Условия и эксплуатационные процедуры собраны в отдельном разделе: резюме и исходные документы по этой теме. Все 13 PDF доступны в общем каталоге документации.