Пять раундов дообучения детектора промпт-инъекций, четыре неудачи и только один успешный релиз. Разбираем, как собирать и размечать корпус на реальном корпоративном трафике, почему рост точности может обернуться потерей атак и какие гейты помогают не выкатить регресс в прод. Внутри — реальные…
Дообучение детектора промпт-инъекций: пять раундов, четыре неудачи и гейты против регресса
Это краткое изложение. Полный текст материала доступен на сайте источника.