Исследователи Центра практического искусственного интеллекта Сбера и «Сколтеха» предложили новый метод для обнаружения галлюцинаций в больших языковых моделях, работающих с внешними источниками (RAG). Разработка под названием TOHA (Topological Divergence on Attention Graphs) опубликована в…
Сбер и Сколтех разработали метод выявления галлюцинаций ИИ по картам внимания
Это краткое изложение. Полный текст материала доступен на сайте источника.