Nvidia представила программную платформу Open Agent Safety Platform для защиты от неконтролируемого поведения ИИ-агентов. Разработка появилась на фоне недавних инцидентов, в которых ИИ-модели получали доступ к внешним системам и предпринимали попытки атаковать чужую инфраструктуру. Источник…
ИИ-агентов научат соблюдать «границы»: Nvidia представила платформу Open Agent Safety
Это краткое изложение. Полный текст материала доступен на сайте источника.