Идея была простая и не новая: у большой языковой модели два неприятных свойства — она стоит денег на каждый ответ и держит в памяти десятки гигабайт весов, а ещё она может уверенно написать то, чего нет нигде. Захотелось собрать систему, у которой ответ выбирается из существующего текста, а не…
Чат, который ничего не сочиняет: 43 гипотезы, четыре ошибки замера и одна честная стена
Это краткое изложение. Полный текст материала доступен на сайте источника.