Настройка LLM и AI-агентов под задачу/aka-gst

Раздел · 3 мин

Маршрут обучения

Рекомендуемая нагрузка: 5–7 часов в неделю небольшими сессиями. Полный маршрут занимает примерно 8 недель.

НеделяТемаЗачемПрактический результат
1LLM, токены, контекст, API, OllamaПонять, где находится модель и как приложение получает ответСкрипт отправляет запрос локальной и облачной модели
2Prompts, structured output, PydanticПолучать предсказуемый результат вместо свободного текстаОтвет модели валидируется по JSON-схеме
3Инструменты и agent loopНаучить модель выбирать действие, но не давать ей неограниченный доступАгент с двумя безопасными инструментами
4Состояние, память и ограниченияПродолжать задачу между шагами и контролировать расходыИстория сессии, лимиты и журнал действий
5Embeddings и RAGПодключать документы клиента без переобучения моделиПомощник отвечает с цитатами из документов
6Evaluation и pytestИзмерять качество, а не верить красивому демоНабор эталонных вопросов и автоматический отчёт
7FastAPI, Docker и установкаПередавать решение клиенту воспроизводимым способомЛокальный сервис, health check и инструкция запуска
8Безопасность и упаковка услугиНе раскрывать секреты и чётко ограничивать ответственностьКлиентское ТЗ, acceptance criteria, rollback и портфолио

Контрольные точки

  • После 2-й недели: можно брать небольшие заказы на prompts, structured output и настройку Ollama.
  • После 4-й недели: можно делать локальных помощников с ограниченными инструментами.
  • После 6-й недели: можно предлагать RAG по документам с измеримой проверкой качества.
  • После 8-й недели: можно продавать установку AI-агента под ключ с тестами и документацией.

Первый рабочий цикл

Каждая лабораторная работа выполняется одинаково:

  1. Сформулировать пользовательскую задачу.
  2. Записать критерии PASS/FAIL.
  3. Собрать минимальную реализацию.
  4. Проверить её вручную.
  5. Добавить автоматические тесты.
  6. Зафиксировать ограничения и ошибки.
  7. Обновить инструкцию запуска.