TyphoonLLM 03.06 прискорює довгі промпти на PS Vita

Оновлення TyphoonLLM 03.06 скорочує час обробки довгих промптів на PlayStation Vita на 14 відсотків.

PS Vita · Homebrew

0xKova3 лист. 2026 р., 07:30· r/vitahacks

Розробник daivarsi випустив TyphoonLLM 03.06 - оновлення середовища виконання для локального штучного інтелекту на PlayStation Vita (PS Vita). Нова версія пропускає зайві проміжні проєкції під час обробки промптів, зберігаючи незмінними ваги моделі та результати оцінювання.

Тести на приставці з профілем 500/222/166 скоротили час до першого токена з 29.26 до 25.06 секунд на довгих запитах. Загальний час відповіді зменшився з 49.10 до 45.48 секунд. Час обробки коротких запитів майже не змінився, а оновлення не робить модель точнішою у фактах. Це обмежені вимірювання, а не загальна оцінка швидкості генерації.

Як оновити

  1. Встановіть новий VPK-файл через VitaShell. Потрібна Vita з підтримкою homebrew або з jailbreak.
  2. Залиште файли моделі в ux0:data/VitaLMChat/ без змін, якщо оновлюєтеся з 03.05. Для нової установки потрібні файли моделі та токенізатора з релізу 03.05, бо VPK їх не містить.
Джерела: reddit.com