BC-250 LLM Client отримує пакет тестів для керування моделями
Вебклієнт для локальних LLM на платі AMD BC-250 отримав набір тестів для воркера та керування моделями.
Вебклієнт для взаємодії з локальними LLM на платі AMD BC-250 отримав набір тестів для керування моделями та роботи воркера. Зміни з’явилися в репозиторії qlazzarus/bc250-llm-client, який використовує FastAPI, Caddy та llama.cpp для роботи на колишній майнерській платі з урізаним APU від PS5. У README досі сказано, що перемикання моделей в UI та API ще не реалізовано.
Для перевірки оновлення запустіть тести через pytest у середовищі проєкту:
PYTHONPATH=. .venv/bin/pytest -q
Проєкт зберігає чати в SQLite та передає відповіді через Server-Sent Events. Проміжні міркування моделі відкидаються. Для розгорнутої моделі Qwen3.5 міркування у звичайному чаті за замовчуванням вимкнені.