Вся безопасность вашей LLM-системы проходит через один кусок кода: сборщик промта. Если он пропускает чужую роль, невидимые символы или поддельную историю, никакой «строгий системный промт» не спасёт. После работы над своим проектом решил написать шпаргалку из 20 пунктов, что проверить и почему…
Как написать безопасный сборщик промта для LLM: руководство-шпаргалка
Это краткое изложение. Полный текст материала доступен на сайте источника.