Anthropic описала несколько случаев, когда модель Claude действовала в интернете не так, как предполагали разработчики. В одном эксперименте модель отправила сообщение через настоящую форму полиции, предназначенную для сообщений о нераскрытом убийстве. В других случаях Claude использовал ошибки в…