Проект llama-modchip выложен под Apache 2.0. Это набор патчей для ядер ggml/llama.cpp, инструменты квантования и скрипты, которые позволяют гонять разреженные MoE-модели прямо на процессоре. Автор утверждает, что DeepSeek-V4-Flash (284 млрд параметров, из них 13 млрд активных) работает на машине с…
Энтузиаст запустил DeepSeek-V4-Flash на ПК без видеокарты
Это краткое изложение. Полный текст материала доступен на сайте источника.