MeteorLLM 0.3.0 приносить Qwen3.5-0.8B на PS Vita

Оновлення MeteorLLM v0.3.0 додає локальну модель Qwen3.5-0.8B для PlayStation Vita, а швидкість відповіді майже така сама, як у попередньої версії з моделлю 0.6B.

PS Vita · Homebrew

0xKova6 лист. 2026 р., 06:12· r/vitahacks

MeteorLLM, експериментальний офлайн-додаток мовної моделі для PlayStation Vita (PS Vita), оновився до версії 0.3.0. Реліз замінює стару модель Qwen3-0.6B на Qwen3.5-0.8B.

Велика модель працює майже з такою самою швидкістю, що й попередня. Заміна частини матричних ваг з Q6 на Q4 вивільняє достатньо оперативної пам’яті, щоб кешувати часто використовувані вихідні ваги. Так зменшується кількість звернень до накопичувача під час генерації.

У тестовому запиті з коротким питанням v0.3.0 відповів за 34.32 секунди. Це трохи швидше, ніж 37.14 секунди у версії 0.6B на тому самому питанні, але це окремі одиничні прогони, а не бенчмарк. Усе працює локально й офлайн, а повний інтерфейс чату вміщується з приблизно 5 MiB вільної системної пам’яті в тестованих випадках. Модель досі припускається фактичних і арифметичних помилок, а заміри зроблено на тестовій консолі із зовнішнім розгоном, налаштованим на 500 MHz.

Як спробувати

  1. Встановіть файл MeteorLLM-v0.3.0.vpk.
  2. Завантажте архів MeteorLLM-Qwen35-0.8B-model.zip зі сторінки релізу.
  3. Розпакуйте чотири файли моделі безпосередньо в ux0:data/VitaDesk/MeteorLLM-08/ на карті пам’яті.

Старі файли 0.6B несумісні з цим рушієм, але лишаються недоторканими у своїй папці, тож можна повернутися до v0.2.1.

Джерела: reddit.com