Anthropic внедрила невидимые водяные знаки в тексты нейросети Claude
Компания Anthropic внедрила невидимые водяные знаки в тексты, созданные нейросетью Claude. Илья Петухов из Directum отметил, что метки могут утратить значимость после переработки контента. Компания планирует предоставить инструменты для их обнаружения.
Плеер Mave Подкастов через iframe
В эфире Радио РБК руководитель проектов по развитию AI-продуктов и решений компании Directum Илья Петухов поделился своим мнением о значении водяных знаков в сгенерированном нейросетями контенте. По его словам, даже если такие метки и появятся, они могут утратить свою значимость при переработке материала.
«Насколько это эффективная защита, трудно сказать. Если я получил контент от языковой модели и полностью переделал его, водяные знаки теряют свою значительность, и их частиц не останется», — отметил Петухов.
Это заявление появилось в связи с новостью о том, что компания Anthropic внедрила незаметную маркировку в тексты, созданные их языковой моделью Claude. Эксперт пояснил, что такая маркировка позволяет определить, что определенная часть текста была написана с помощью Claude, но не гарантирует, что весь документ был создан именно этой нейросетью.
nthropic добавила невидимые водяные знаки в тексты Claude
Claude AI представляет собой семейство языковых моделей от Anthropic, одной из ключевых функций которых является генерация и обработка текстов. Claude эффективен в создании структуры материалов, написании статей, составлении описаний услуг, переработке сложных текстов в более доступные и адаптации стиля под целевую аудиторию.
Компания Anthropic сообщила, что незаметные водяные знаки, внедряемые в тексты новым поколением модели Claude, не влияют на содержание и читаемость материала. Они сохраняются при копировании и вставке, и даже могут оставаться после редактирования. Anthropic уточнила, что такая маркировка используется в контенте, который создается Claude, по всему миру, включая сервисы, предлагаемые через облачные платформы. Компания планирует предложить третьим сторонам инструменты для обнаружения этих водяных знаков.
Ранее мы писали о том, что компания Anthropic внедрила водяные знаки в тексты своих моделей Claude, выпущенных с 2 августа. Это новшество направлено на повышение прозрачности и идентификацию контента, созданного искусственным интеллектом, в соответствии с требованиями Закона ЕС об искусственном интеллекте. Такой шаг подчеркивает важность ответственного использования технологии и ответственности производителей за ее воздействие на общество и информационное пространство.