Настройка LLM и AI-агентов под задачу/aka-gst

Раздел · 3 мин

Как это превращается в услугу

Содержание раздела
  1. Что продаётся
  2. Вопросы клиенту до оценки
  3. Минимальные пакеты
  4. Диагностика
  5. Локальный помощник
  6. Агент по документам
  7. Что явно не входит

Что продаётся

Не «магический интеллект», а ограниченное решение конкретной задачи:

  • интервью и фиксация требований;
  • выбор локальной или облачной модели;
  • установка и конфигурация;
  • подключение согласованных инструментов или документов;
  • тестовый набор и отчёт о качестве;
  • инструкция запуска, остановки и восстановления;
  • передача клиенту и один согласованный период поддержки.

Вопросы клиенту до оценки

  1. Какую одну задачу должен решать агент?
  2. Как выглядит правильный результат?
  3. Какие данные он будет читать и где они хранятся?
  4. Какие действия ему разрешено выполнять?
  5. Должен ли он работать полностью локально?
  6. Какая ОС и характеристики компьютера?
  7. Какой допустимый бюджет на API?
  8. Какие ошибки недопустимы?
  9. Кто подтверждает внешние и необратимые действия?
  10. Как измеряется приёмка результата?

Минимальные пакеты

Диагностика

  • анализ задачи и компьютера;
  • выбор архитектуры;
  • короткий proof of concept;
  • письменные рекомендации.

Локальный помощник

  • установка модели и приложения;
  • одна роль и до двух безопасных инструментов;
  • тесты и инструкция.

Агент по документам

  • импорт согласованного набора документов;
  • RAG с указанием источников;
  • набор контрольных вопросов;
  • отчёт о качестве и ограничениях.

Что явно не входит

  • обучение фундаментальной модели с нуля;
  • круглосуточная эксплуатация без отдельного договора;
  • действия от имени клиента без подтверждения;
  • работа с персональными или секретными данными без согласованной защиты;
  • гарантия безошибочности генеративной модели.