Задача выглядела довольно простой: дообучить Qwen3-0.6B отвечать на вопросы по фрагментам текста, найденным семантическим поиском. Но первые эксперименты дали обратный эффект: модель стала чаще выдумывать подробности, хотя validation loss продолжал снижаться. Четыре версии обучающих данных помогли…
[Перевод] Дообучаем на Mac малую языковую модель для RAG в браузере
Это краткое изложение. Полный текст материала доступен на сайте источника.