Фото: BloombergAnthropic — компания-разработчик чат-бота Claude — в понедльник объявила, что новые ИИ-модели будут встраивать невидимый водяной знак в сгенерированный искусственным интеллектом текст. Перед этим компания подписала европейский AI Act («Закон об ИИ»), который требует прозрачности в процессе создания ИИ-контента. Маркировка будет появляться во всех материалах, сгенерированных версиями Claude, выпущенными после 2 августа и позже. У старых моделей водяные знаки в текстах появятся не сразу: предусмотрен переходный период. Несмотря на то, что эта мера вводится по требованию закона ЕС, маркировка будет применяться к продуктам по всему миру. Водяные знаки будут появляться на всем контенте Claude, включая Claude Platform (API), Claude Code, Claude Cowork и Claude Tag (в том числе при доступе к чат-боту через облачных провайдеров типа AWS). Они будут применяться ко всему сгенерированному тексту. В картинках в форматах .svg, .png или .jpg тоже появятся метаданные, указывающие на ИИ-происхождение. Вотермарки будут незаметны: они не поменяют качества и читаемости текста и их нельзя разглядеть невооруженным глазом. Они будут «перемещаться» вместе с текстом при его копировании и смогут сохраняться после редактирования. Подробности об инструментах, которые помогут обнаружить маркировку, в компании пообещали привести позднее. Использование подобных маркировок может стать поворотным моментом для тех, кто использует чат-боты на основе ИИ в своей повседневной работе. Например, это затронет издательскую индустрию, которая сейчас сталкивается с проблемой из-за ИИ-контента, отмечает издание Business Insider. Больше возможностей для выявления ИИ-контента появится у школ и вузов при проверке, к примеру, текстов научных работ. В Anthropic при этом предупредили, что сгенерированный Claude может не содержать маркировку, если был подвергнут значительной редактуре и перефразирован. Напротив, в полностью авторском тексте может появиться вотермарка, поскольку пользователи часто прибегают к помощи чат-бота для поиска ошибок или перевода. Среди крупных компаний — разработчиков ИИ-моделей подобные вотермарки в текстах уже использует, например, нейросеть Gemini от Google. Ее инструмент для нанесения водяных знаков SynthID также интегрировала OpenAI, но пока только в сгенерированных ИИ картинках. На прошлой неделе также стало известно, что маркировать ИИ-контент начнет сервис Suno, который позволяет пользователям генерировать музыку и песни. Эти изменения произошли на фоне многочисленных судебных споров по вопросу авторских прав, связанных с сервисом.