Исключение OpenAI из моего стека без остановки производства

Я должен сказать, что вырезаю OpenAI из своего стека, не нарушая при этом производство. Шесть месяцев назад я открыл наш законопроект об инфраструктуре и чуть не подавился. Мы тратили около 500 долларов в месяц на OpenAI, откровенно говоря, на прославленный внутренний чат-бот и пару работ по классификации. Ничего экзотического. Нет конвейеров GPT-4o Vision. Никакой огромной рабочей нагрузки на встраивание. Просто небольшой набор вызовов API, выполняющих обобщение документов и некоторое структурированное извлечение. Пятьсот баксов за это. Я технический директор стартапа на посевной стадии. Моя работа — растянуть взлетно-посадочную полосу и обеспечить доставку команды. Пять сотен в месяц у одного поставщика за одну поверхность продукта — это не расширение взлетно-посадочной полосы. Это сжигает это. Поэтому я сделал то, что делает любой разумный технический директор, когда видит, что в их счетах за облако преобладает одна позиция: я начал делать покупки. То, что я нашел на другой стороне поездки по магазинам, и есть причина, по которой вы это читаете. Через Global API доступен целый класс моделей пограничного уровня, стоимость которых составляет лишь небольшую часть того, что взимает OpenAI, а путь миграции настолько прост, что я почти почувствовал себя глупо, написав его. Но наша команда выполнила его, наши счета упали, и я подумал, что другие основатели, возможно, захотят пропустить три недели запутанного S.