Знакомая ситуация: в системном промпте четко написано, что модель делать не должна ни в коем случае, а она все равно это делает. Вы переписываете правило, добавляете «ВАЖНО», капслок и примеры, становится чуть лучше, а потом снова за старое. В какой‑то момент начинаешь подозревать модель, ее…
Почему LLM игнорирует системный промпт: история диалога сильнее инструкций
Это краткое изложение. Полный текст материала доступен на сайте источника.