MeteorLLM 0.3.0 приносить Qwen3.5-0.8B на PS Vita
Оновлення MeteorLLM v0.3.0 додає локальну модель Qwen3.5-0.8B для PlayStation Vita, а швидкість відповіді майже така сама, як у попередньої версії з моделлю 0.6B.

MeteorLLM, експериментальний офлайн-додаток мовної моделі для PlayStation Vita (PS Vita), оновився до версії 0.3.0. Реліз замінює стару модель Qwen3-0.6B на Qwen3.5-0.8B.
Велика модель працює майже з такою самою швидкістю, що й попередня. Заміна частини матричних ваг з Q6 на Q4 вивільняє достатньо оперативної пам’яті, щоб кешувати часто використовувані вихідні ваги. Так зменшується кількість звернень до накопичувача під час генерації.
У тестовому запиті з коротким питанням v0.3.0 відповів за 34.32 секунди. Це трохи швидше, ніж 37.14 секунди у версії 0.6B на тому самому питанні, але це окремі одиничні прогони, а не бенчмарк. Усе працює локально й офлайн, а повний інтерфейс чату вміщується з приблизно 5 MiB вільної системної пам’яті в тестованих випадках. Модель досі припускається фактичних і арифметичних помилок, а заміри зроблено на тестовій консолі із зовнішнім розгоном, налаштованим на 500 MHz.
Як спробувати
- Встановіть файл MeteorLLM-v0.3.0.vpk.
- Завантажте архів
MeteorLLM-Qwen35-0.8B-model.zipзі сторінки релізу. - Розпакуйте чотири файли моделі безпосередньо в
ux0:data/VitaDesk/MeteorLLM-08/на карті пам’яті.
Старі файли 0.6B несумісні з цим рушієм, але лишаються недоторканими у своїй папці, тож можна повернутися до v0.2.1.
