Кэширование вложений в Node: слой из 60 строк, который экономит деньги

Книга: ИИ, который читает. Серия: Искусственный интеллект в TypeScript — 5 книг, от вашего первого звонка в LLM до агентов в производстве — все пять здесь Мой проект: Hermes IDE | GitHub — IDE для разработчиков, использующих Claude Code и другие инструменты ИИ-кодирования. Я: xgabriel.com | GitHub Ваш ночной прием проходит через репозиторий документов, разбивает каждый файл на фрагменты и встраивает каждый фрагмент. Это делалось в течение нескольких месяцев. В обычную ночь возможно, четыре файла изменились. Вы платите за повторное встраивание корпуса, который по объему почти полностью идентичен вчерашнему корпусу. Вложения дешевы за звонок, именно поэтому на эту позицию никто не смотрит — она небольшой, постоянный и полностью предотвратимый. Встраивания также являются самой простой вещью для кэширования в стеке ИИ. потому что функция действительно чистая. Тот же текст, та же модель, то же самое вектор. Ни температуры, ни отбора проб, ни контекста. Ключ в том, куда движется мышление Очевидный ключ — это хэш текста. Это правильно и неполно. импортировать { createHash } из "node:crypto"; функция экспорта кэшКей(текст: строка, модель: строка, тусклый?: число) { constnormal = text.normalize("NFC").replace(/\s+/g, " ").trim(); const h = createHash("sha256").update(norm).digest("hex");