TL;DR. 19 октября из Microsoft написали, что агентов внутри компании нужно считать инсайдерами без презумпции доверия. Предложение: агенты-надзиратели, которые смотрят каждое действие каждого агента до того, как оно совершится. Я согласен с диагнозом, но сомневаюсь в рецепте. В посте есть слово…
Безопасность ИИ-агента: больше контроля или специальная среда?
Это краткое изложение. Полный текст материала доступен на сайте источника.