راز واترمارک مخفی Claude – آیا متن های کلاد واقعا قابل شناسایی هستند؟

مدل های زبانی متن را کلمه به کلمه یا دقیق تر، توکن به توکن تولید می کنند. در هر مرحله، مدل چند گزینه احتمالی برای ادامه جمله دارد. برای مثال فرض کنید Claude جمله زیر را تولید کرده است:

«هوای امروز سرد و…»

مدل ممکن است برای ادامه جمله چند انتخاب منطقی مانند «ابری»، «مه آلود» یا «بارانی» داشته باشد. اگر چند گزینه از نظر معنی و کیفیت تقریبا مناسب باشند، سیستم واترمارک می تواند با استفاده از یک کلید مشخص در انتخاب میان این گزینه ها نقش داشته باشد. این انتخاب ها در یک متن بلند بارها تکرار می شوند و در نهایت یک الگوی آماری می سازند. ابزار تشخیص با بررسی این الگو تخمین می زند که متن تا چه اندازه با روش تولید Claude سازگار است.

فرایند کلی به این شکل است:

1. Claude کلمات مناسب برای ادامه متن را پیش بینی می کند.
2. چند گزینه با کیفیت و معنی مشابه در دسترس مدل قرار می گیرد.
3. کلید واترمارک به انتخاب میان گزینه های مناسب جهت می دهد.
4. این انتخاب های کوچک در سراسر متن یک الگوی آماری ایجاد می کنند.
5. ابزار تشخیص با همان کلید، احتمال دخالت Claude را محاسبه می کند.

این روش از رویکردی مشابه فناوری SynthID-Text گوگل دیپ مایند استفاده می کند؛ یعنی با ایجاد یک الگوی آماری در انتخاب واژه ها، امکان تشخیص متن تولیدشده توسط مدل فراهم می شود. SynthID-Text می تواند بدون افت قابل توجه کیفیت، یک نشانه آماری قابل تشخیص در متن ایجاد کند. این پژوهش روی حدود ۲۰ میلیون پاسخ واقعی Gemini نیز آزمایش شده و تفاوت معناداری در بازخورد مثبت و منفی کاربران مشاهده نشده است.