Лаборатории искусственного интеллекта зашифровали мысли своих моделей. Более слабые модели все равно могут их прочитать.

Более слабая модель может читать зашифрованные мысли более сильной модели из того же семейства. Нет необходимости взламывать большую модель: вы передаете ее зашифрованные рассуждения в меньшую, менее защищенную модель, и она возвращает их в виде простого текста. Таким образом из публичных сеансов было восстановлено 182 учетных данных: 62 ключа API, 33 пароля, 24 токена доступа, 7 закрытых ключей. Каждая крупная лаборатория шифрует то, что «думает» модель, прежде чем дать ответ. Anthropic, OpenAI, Google — все они, чтобы защитить IP и избежать хранения необработанных рассуждений на стороне сервера. Это шифрование распространяется не только между сеансами или пользователями. По моделям тоже. Возникает реальный вопрос: если шифрование сломается в тот момент, когда более слабая модель вежливо спросит, защищала ли она вообще что-либо? Как слабая модель читает мысли сильного Как только вы увидите этот механизм, он окажется до оскорбительно простым. Внутренние рассуждения модели, цепочка мыслей, которую она использует, прежде чем принять ответ, шифруются на стороне клиента. Это то, что рекламируют провайдеры: ваши рассуждения остаются конфиденциальными, мы их не протоколируем, никто их не читает, даже мы. Чего никто не афишировал, так это того, что шифрованию не важно, какая модель его расшифровывает. Блок зашифрованных рассуждений ge