Поднял Recall@5 поиска по памяти на 17%, померил качество самих ответов и получил прирост, неотличимый от шума: тест Макнемара, p = 0.79. Месяц работы впустую. Потом посмотрел в промпт, поправил там одну формулировку и получил плюс 16 процентных пунктов за вечер. Модель отказывалась отвечать, когда…
Месяц тюнил поиск по памяти, а починила всё одна строка в промпте
Это краткое изложение. Полный текст материала доступен на сайте источника.