Книга: ИИ, который отвечает Серия: Искусственный интеллект в TypeScript — 5 книг, от вашего первого звонка в LLM до агентов в производстве — все пять здесь Мой проект: Hermes IDE | GitHub — IDE для разработчиков, использующих Claude Code и другие инструменты ИИ-кодирования. Я:...
Книга: ИИ, который отвечает
Серия: Искусственный интеллект в TypeScript — 5 книг, от вашего первого звонка в LLM до агентов в производстве — все пять здесь
Мой проект: Hermes IDE | GitHub — IDE для разработчиков, использующих Claude Code и другие инструменты ИИ-кодирования.
Я: xgabriel.com | GitHub
Ваша служба Node регистрирует продолжительность и код состояния для каждого
исходящий HTTP-вызов. Это было сделано еще до того, как вы добавили ИИ в
что угодно. Итак, когда вы добавили вызов LLM, он унаследовал это
приборы, и теперь вы можете точно сказать мне, как долго модель
взял и вообще ничего о том, сколько это стоит.
Узнаешь в конце месяца, в одном числе, обо всем.
Разрыв странный, потому что данные находятся прямо здесь. Каждый ответ
содержит объект использования. Никто это не читает, потому что задержка была
вещь, которую стоит измерить за предыдущие пятнадцать лет серверной работы
и привычка сохранилась.
Объект использования, который вы выбрасываете
В ответе оно уже есть.
const res = await client.messages.create({
модель: "Клод-опус-5",
макс_токены: 1024,
сообщения,
});
console.log(res.usage);
// { input_tokens, output_tokens,
// кэш_создание_входных_токенов, кэш_чтение_входных_токенов }
Четыре цифры, и последние две имеют значение
