# MeteorLLM запускає мовну модель на 0,6 мільярда параметрів на PS Vita

> MeteorLLM v0.1.2 запускає мовну модель Qwen3-0.6B на PS Vita без інтернету, з швидшими відповідями й прокруткою чату.

- Published: 2026-11-04T17:19:52Z
- Score: 8/10
- Tags: vita, homebrew, ai
- Port / platforms: - -> PS Vita (Homebrew)
- Web page: https://emu-radar.customfw.xyz/uk/news/meteorllm-vita-offline-llm-v012/
- Sources: https://www.reddit.com/r/vitahacks/comments/1xntp2d/06_billionparameter_llm_running_offline_on_a_ps/

[MeteorLLM v0.1.2](https://github.com/daivarsi/MeteorLLM/releases/tag/v0.1.2) запускає Qwen3-0.6B, мовну модель на 0,6 мільярда параметрів, повністю на PS Vita. Відповіді генеруються на самій консолі, без сервера й інтернету. Проєкт слідує за TyphoonLLM, попередньою збіркою для Vita, яка працювала з моделлю на 230 мільйонів параметрів.

Щоб умістити модель приблизно в 2,6 раза більшу на те саме залізо, автор використав кілька рішень. Meteor тримає ваги трансформера в RAM, а вихідні ваги підтягує зі сховища. Перша робоча збірка відповідала на коротке питання про замовлення майже 12 хвилин. Після того як роботу розділили між трьома CPU-воркерами і промпт обробляли пакетами, той самий тест зайняв 2 хвилини 16 секунд. Тоді процесор Vita розігнали до 500 МГц через окремий плагін. Автор оцінює прискорення приблизно в 5,3 раза.

Нова збірка дає прокручувати розмову перетягуванням або хрестовиною. У релізі є VPK та контрольна сума. README пояснює, як готувати файли моделі окремо.

Meteor працює у вікні контексту 512 токенів і обмежує відповіді 128 токенами, тож довші відповіді обриваються, навіть коли модель ще не закінчила. Власні тести автора зупинилися на середині рецепта омлету.

Наступне оновлення має зняти цей ліміт. Автор працює над rolling KV cache: модель відкидатиме старіший контекст і використовуватиме цю пам'ять, поки генерує. Мета - відповіді на тисячі токенів без зростання KV cache приблизно на 56 МБ. Ціна полягає в тому, що модель поступово втрачає доступ до давнішої частини розмови. Також плануються налаштовувані довжини відповідей.

Модель на 0,6B працює на портативці локально. Вона показує роботу малих моделей на слабкому залізі, а швидкість визначає придатність довших розмов.
