anystrata запускає великі MoE-моделі на будь-якому GPU, зокрема на BC-250

anystrata, форк PolyStrata на Vulkan, оновив заміри на BC-250 на поточній гілці main та оновив малюнки талісмана.

Linux / Steam Deck · Інструмент

olya_nro5 лист. 2026 р., 08:25· watcher:bc250

anystrata є форком PolyStrata, рушія для мовних моделей Mixture-of-Experts. Ця версія працює на Vulkan, тож достатньо драйвера, який уже встановлено. Окремий SDK від виробника не потрібен, вистачить однієї команди make.

Експерти залишаються у VRAM, а на кожен токен читаються лише кілька з них. У README описано Qwen3.6-35B-A3B з контекстом 64K на BC-250, переробленій платі від PS5 з 16 ГБ уніфікованої пам’яті, яку ROCm не бачить. Усі 10 240 маршрутизованих експертів розміщуються в пам’яті, а декодування виконується зі швидкістю близько 19 токенів на секунду. Сервер підтримує API OpenAI, тому з ним працюють агенти для кодування.

Цей коміт оновлює заміри на поточній гілці main та оновлює малюнки талісмана (silly.png та any-cyan-approves.png). Сам рушій не змінювався. У повідомленні коміту немає нових цифр продуктивності.

Для запуску потрібні файли Qwen3.6 у форматі GGUF та робоче середовище Mesa RADV. Моделі та окремі частини коду мають власні ліцензії, тому їх слід перевірити перед використанням.

Джерела: github.com