Компания Robocurve провела два исследования, в ходе которых выяснилось, что ИИ-модели при тестировании на реальных роботизированных манипуляторах крайне редко отказываются от выполнения опасных заданий в отличие от общения в онлайне. При этом модели чаще брались за выполнение небезопасных действий…
Роботов с ИИ оказалось легко обмануть: искажённая картинка заставляет их легко выполнять опасные команды
Это краткое изложение. Полный текст материала доступен на сайте источника.