OpenAI обнаружила 27 сводок во время обучения одной из моделей семейства Astra. Сводки нужны для продолжения длинных задач в новом контексте: модель записывает, что уже сделано, а следующий контекст использует эту информацию для продолжения работы.
OpenAI обнаружила, как невыпущенная Astra сама писала себе инструкции для обхода ограничений
Это краткое изложение. Полный текст материала доступен на сайте источника.