На тридцатом шаге мой ИИ-агент отправлял нейросети 123 856 входных токенов. Один запрос весил как небольшой роман и стоил соответственно. При этом большая часть контекста уже приезжала раньше: логи, прочитанные файлы, старые ответы инструментов и описания тех инструментов, которые на этом шаге…
Почему ИИ-агент сжигает токены: как я снизил стоимость сессии с 48 до 8 рублей
Это краткое изложение. Полный текст материала доступен на сайте источника.