OpenAI разработала централизованную систему Control Room, позволяющую принудительно прекращать генерацию ответов исследовательскими ИИ-моделями при возникновении угроз безопасности. Механизм предусматривает отключение доступа к результатам работы модели по команде человека или автоматизированной…
OpenAI создала аварийный выключатель для особо опасных и непослушных ИИ-моделей
Это краткое изложение. Полный текст материала доступен на сайте источника.