LLM на 125 миллиардов параметров — и без дискретной видеокарты? Да. Qwen3.8-Flash-Next (MoE: 125B в запасе, 6B в работе) спокойно живёт на AMD Strix Halo с 128 ГБ унифицированной памяти. Никакой видеокарты с горой VRAM — только встроенная графика и правильно подобранный движок. Внутри — готовый…
Локальный LLM-сервер на AMD Strix Halo: запуск Qwen3.8-Flash-Next через HALOGEN в Fedora 43
Это краткое изложение. Полный текст материала доступен на сайте источника.