Я присвоил квантованным контрольным точкам тип, и этот тип сразу обнаружил настоящие ошибки

Вот факт, который меня до сих пор беспокоит: четырехбитный файл квантованной модели сообщает вам, сколько в нем элементов и какой тег dtype они несут — и почти ничего другого, что имеет значение. Не то, какое правило привело к созданию общих шкал. Не соглашение о нулевой точке. Не порядок упаковки суббайтов. Не макет, в котором была написана его масштабная плоскость. Файл работает только потому, что производитель и потребитель согласовали все это, молча, в коде. Только в 2026 году шесть задокументированных инцидентов в vLLM и SGLang превратили именно эти молчаливые соглашения в молчаливо неверные результаты модели. Не вылетает — неправильные цифры. Тензоры шкалы упали при нагрузке. Знаковые шкалы читаются как беззнаковые — ошибка деквантования примерно на четыре порядка. Напыщенный производитель, подключенный к линейному потребителю. Каждый из них загрузился чисто. 2026, vLLM + SGLang: шесть задокументированных инцидентов, пять классов отказов — все загружены без ошибок что пошло не так поле, которое делает это громко Подписанные шкалы читаются как беззнаковые. ≈ 4 порядка ошибки декванта точная идентификация формата (s8 ≠ u8) Оборванный производитель → линейный потребитель разногласия по макету, обе стороны «правильны» несоответствие идентификатора места размещения Тензоры шкалы упали при нагрузке