JupyterHub з PyTorch на BC-250 у k3s
Репозиторій-гайд налаштовує JupyterHub-ноутбуки на BC-250, де PyTorch працює з GPU через OpenCL.
BC-250 - майнерська плата з урізаним PS5 APU, а репозиторій від mxreyer містить посібник із запуску JupyterHub на одновузловому Kubernetes-кластері. PyTorch взаємодіє з GPU через бекенд pytorch_dlprim.
Користувачі отримують ізольовані pod-и зі сховищем і доступом до GPU через device plugin для /dev/dri/renderD128. Доступ з локальної мережі забезпечує Traefik, а з захищеної мережі - sidecar від Tailscale. Використовуються Fedora 44, amdgpu та Mesa rusticl на radeonsi.
Доопрацювання в репозиторії pytorch-dlprim-gfx1013 підвищили швидкість навчання у 2.54 раза, а інференсу - в 1.59 раза. Проєкт призначений для навчання і не розрахований на продакшн.
