Эксперимент 10. Интеграция gateway с Open-LLM-VTuber

Что мы делаем и зачем

Интеграция должна доказать, что приложение воспринимает gateway как обычный OpenAI-compatible provider. Если для этого приходится менять factory или templates, граница совместимости не выдержана и эксперимент останавливается до отдельного adapter-шага.

Что должно быть готово

• Gateway health зелёный.
• Ollama работает.
• Известен локальный gateway token, но он не выводится и не сохраняется в evidence.

Где выполнять

Три процесса в отдельных окнах: Ollama, gateway, Open-LLM-VTuber. Codex меняет только local conf.yaml после подтверждения.

Scope

Откройте Codex из папки, указанной на предыдущей странице. Для независимого аудита обязательно создайте новую сессию. Скопируйте следующий prompt целиком, не вырезая ограничения.

PROMPT ДЛЯ CODEX - КОПИРОВАТЬ ЦЕЛИКОМ

Работай как инженер в режиме контролируемого агента.
Перед любым изменением покажи карту релевантной части репозитория, одну атомарную цель, файлы чтения и изменения, риски и команды проверки.
Сначала покажи план. Не меняй файлы до моего явного подтверждения.
Не используй sudo, force push, git reset --hard, git clean -fd и опасные команды удаления.
Не переключай и не изменяй main.
Не читай и не печатай .env, токены, SSH-ключи, cookies и keychain.
Не трогай файлы за пределами указанного scope.
Не скрывай ошибки и не подменяй тест словесным утверждением.
После изменения покажи краткий diff, реальный минимальный тест и git status --short.
Если нужен больший scope, остановись и запроси новый атомарный шаг.

Текущая задача: изменить только локальный untracked conf.yaml Open-LLM-VTuber. Не меняй source, templates и dependencies.

Сначала найди точные keys openai_compatible_llm и basic_memory_agent.llm_provider. Покажи plan для llm_provider: openai_compatible_llm, base_url: http://127.0.0.1:8642/v1, model: qwen3-vl:4b и llm_api_key: <локальный token>. Не показывай реальное значение token ни до, ни после изменения.

После подтверждения измени только эти keys. Запусти verbose server и сделай один text-only smoke test. Сопоставь request_id приложения и gateway. Покажи git status --short.

Команды PowerShell

Команды ниже нужны либо для ручного выполнения, либо для сверки предложения Codex. Строки после комментария «после подтверждения» не запускаются заранее.

КОМАНДЫ - КОПИРОВАТЬ ПО ПОРЯДКУ

# Окно 1
ollama serve

# Окно 2
Set-Location C:\dev\agent-lab\local-agent-gateway
uv run uvicorn app.main:app --host 127.0.0.1 --port 8642

# Окно 3
Set-Location C:\dev\agent-lab\Open-LLM-VTuber
uv run run_server.py --verbose

Как действовать при запросе разрешения

Прочитайте команду и рабочую папку; сразу сверьте их со scope этого эксперимента.

Для одной безопасной команды выберите разовое Yes, proceed.

Если команда читает секреты, пишет за пределами scope или меняет main - нажмите Esc и объясните ограничение.

Что должно получиться

• VTuber отправляет запрос на :8642, а не напрямую на :11434.
• Gateway логирует request_id и backend/model без prompt.
• Ответ возвращается в UI.
• Source tree VTuber чистый.

Типовые ошибки и действия

• Connection refused 8642: запустить gateway и проверить /health.
• 401: локально сверить token; не печатать его.
• Model denied: добавить модель в allowlist отдельным конфигурационным шагом.
• Требуется source patch: остановиться и зафиксировать contract gap.

Артефакты и доказательства

• Обезличенные выбранные keys.
• Gateway request_id.
• Text-only ответ.
• git status --short обоих проектов.

Критерий завершения

• Единый endpoint работает.
• Cloud не вызывается.
• VTuber source/templates/dependencies неизменны.

ГОТОВАЯ ЗАПИСЬ В ОТЧЁТ

Эксперимент 10: Интеграция gateway с Open-LLM-VTuber | Статус: PASS / FAIL / NOT PROVEN
Доказательство: <минимальный обезличенный вывод> | Не доказано: <ограничение>
Source tree: unchanged / <известный diff> | Следующий шаг: Проверить vision и voice path через единый gateway.