Перейти к содержанию

Цепочки помощников

Цепочка — это заранее настроенный многопомощниковый рабочий процесс, в котором несколько специализированных помощников последовательно участвуют в подготовке результата.

В 0.3.66 возможность chain включена. Механизм относится к развивающимся возможностям базовой платформы, поэтому для критических процессов его нужно принимать отдельными испытаниями.

Что вы сделаете

Вы научитесь:

  • отличать цепочку от передачи и дочерней работы;
  • выбирать задачи, где последовательность помощников оправданна;
  • ограничивать число шагов;
  • тестировать цепочку перед совместным использованием.

Пример цепочки

Исследователь
      ↓
Аналитик
      ↓
Технический редактор
      ↓
Финальная версия

Каждый следующий участник получает результаты предыдущих этапов как дополнительную информацию.

Когда цепочка полезна

Хорошие сценарии:

  • исследование → проверка → редактура;
  • анализ инфраструктуры → анализ расходов → управленческая сводка;
  • подготовка документа → независимая проверка → финальный редактор;
  • сбор фактов → оценка рисков → рекомендации.

Плохой сценарий:

создать цепочку из пяти одинаковых помощников просто «для качества».

Это увеличивает расход модели и время без гарантированной пользы.

Максимум участников

Текущий механизм базовой платформы ограничивает цепочку до 10 помощников.

Для корпоративного применения начинайте с 2–3 участников.

Настройка

В редакторе помощника откройте дополнительные настройки и раздел цепочки.

Определите:

  1. участников;
  2. их порядок/слои;
  3. назначение каждого;
  4. максимальное число шагов;
  5. ожидаемый итоговый формат.

Роли должны различаться

Пример плохой схемы:

Универсальный помощник
→ Универсальный помощник
→ Универсальный помощник

Лучше:

Сборщик фактов
→ Критик источников
→ Автор итоговой записки

Не давайте каждому все сервисы

Если первый помощник только собирает источники, ему не нужен доступ к финансовым или инфраструктурным сервисам.

Если финальный редактор только оформляет ответ, ему обычно не нужны сервисы вообще.

Применяйте минимально необходимые права на каждом этапе.

Контекст

Цепочка увеличивает количество модельных вызовов и объём передаваемой между участниками информации.

Следите за:

  • размером промежуточных результатов;
  • повторением одних и тех же документов;
  • количеством сервисных операций;
  • временем выполнения;
  • расходом токенов облачной модели.

Цепочка и дочерние помощники

Цепочка — заранее заданная совместная структура.

Дочерний помощник — динамически создаваемая подзадача во время выполнения.

Можно проектировать сложные системы, где один участник цепочки использует дочернего помощника, но для первого внедрения так делать не рекомендуется: диагностика становится существенно сложнее.

Цепочка и передача

Передача выбирает специалиста динамически и продолжает основную работу у него.

Цепочка известна заранее и запускает предусмотренный многопомощниковый процесс.

Стабильность

Механизм цепочек в базовой платформе обозначается как beta.

Для критического производственного сценария обязательно иметь:

  • фиксированную тестовую задачу;
  • ожидаемые контрольные факты;
  • проверку после каждого обновления;
  • простой путь отключить цепочку и вернуться к одному помощнику.

Приёмочный тест

Используйте один и тот же тестовый запрос.

Проверьте:

  1. запускаются нужные участники;
  2. порядок соответствует конфигурации;
  3. промежуточные данные не теряются;
  4. отсутствуют лишние сервисные вызовы;
  5. итог соответствует инструкции финального участника;
  6. права пользователя соблюдаются.

Что дальше