Патчі pytorch-dlprim для AMD BC-250 прискорюють навчання ResNet-9
Нові патчі для OpenCL бекенду PyTorch прискорюють плату AMD BC-250 вище рівня T4 у навчанні ResNet-9.
Новий набір патчів для pytorch_dlprim робить роботу OpenCL-бекенда PyTorch на GPU gfx1013 плати AMD BC-250 коректною і швидкою під драйвером Mesa rusticl.
Автор mxreyer повідомляє, що оптимізації, написані за допомогою Claude, піднімають стандартний показник із 915 до 2 261 зображення на секунду у fp32 на кроці навчання ResNet-9. Увімкнення необов’язкового fp16-циклу дає 2 918 у тому самому тесті. Ці цифри виміряно на випадкових даних, тож завантаження й аугментація не враховані. У повному 16-епоховому навчанні на CIFAR-10 плата з патчами видає 2 337 img/s у fp32, трохи вище за T4 у Colab (2 294), а з fp16 - 2 992.
Готові збірки pt_ocl.so прикріплено до релізів репозиторію. Вони замінюють pt_ocl.so у стандартному wheel pytorch_ocl 0.2.0 для torch 2.4.0, Python 3.12, x86-64 Linux.