В обычном backend fallback обычно означает: тот же контракт, другой исполнитель. С LLM всё сложнее — резервная модель может вернуть валидный JSON, но изменить смысл результата. Разбираю, почему retry и fallback нужно разделять, как учитывать деградацию качества и когда честная ошибка лучше…
Почему fallback между LLM может сломать семантику ответа
Это краткое изложение. Полный текст материала доступен на сайте источника.