Что объявила Anthropic Anthropic, первая исследовательская лаборатория искусственного интеллекта, стоящая за семейством больших языковых моделей Claude, публично взяла на себя обязательство встраивать машиночитаемые сигналы непосредственно в любой текст или изображение, которое она генерирует. Объявление, п...
Что объявила Anthropic Anthropic, первая исследовательская лаборатория искусственного интеллекта, стоящая за семейством больших языковых моделей Claude, публично взяла на себя обязательство встраивать машиночитаемые сигналы непосредственно в любой текст или изображение, которое она генерирует. В объявлении, опубликованном на недавно созданной странице поддержки Claude, описаны два взаимодополняющих механизма: * Невидимые водяные знаки, вплетенные в поток токенов сгенерированного текста. Эти метки невидимы для читателей, но могут быть извлечены специальными инструментами. * Метаданные происхождения с цифровой подписью, прикрепленные к созданным файлам, если их поддерживает базовый формат (например, PDF, PNG или JSON‑L). Подпись гарантирует, что метаданные не были подделаны. Anthropic называет развертывание «будущим обязательством», то есть технология все еще находится в стадии разработки и не будет активна немедленно. Тем не менее, этот шаг является прямым ответом на Закон Европейского Союза об искусственном интеллекте, который требует, чтобы системы искусственного интеллекта высокого риска предоставляли четкую, поддающуюся проверке информацию о происхождении своих результатов. Техническая механика невидимых водяных знаков Как работают текстовые водяные знаки Невидимые водяные знаки для языковых моделей основаны на тонких статистических погрешностях, возникающих во время генерации. с