Диффузионная LLM может пересматривать свой контекст — в отличие от ARM. Я попробовал заставить её саму чистить RAG-контекст, положив ретрив графа знаний под маску. Результат спорный. Подробнее
Диффузионная LLM технически умеет глушить свой контекст. Я попробовал этим воспользоваться
Это краткое изложение. Полный текст материала доступен на сайте источника.