آنتھروپیک در حال علامت‌گذاری مخفیانه خروجی‌های هوش مصنوعی کلود است؛ توسعه‌دهندگان در تلاش برای شکستن آن.

آنتراپیک واترمارک نامرئی در خروجی مدل‌های کلود خود تعبیه می‌کند

شرکت آنتراپیک (Anthropic) اعلام کرده است که واترمارک‌های نامرئی را در تمامی متونی که مدل‌های جدید کلود (Claude) تولید می‌کنند، تعبیه خواهد کرد. این تغییر از تاریخ ۲ اوت ۲۰۲۶ برای مدل‌هایی که در اتحادیه اروپا راه‌اندازی می‌شوند، اجرایی خواهد شد و آنتراپیک اعلام کرده است که این اقدام در سطح جهانی نیز اعمال خواهد شد.

تعهد به شفافیت در چارچوب قانون هوش مصنوعی اتحادیه اروپا

آنتراپیک این برنامه را در مقاله‌ای حمایتی و پس از امضای “کد رویه شفافیت” قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) تشریح کرده است. به عبارت دیگر، این اقدام داوطلبانه نیست. این واترمارک در تمامی سطوح استفاده از کلود، از چت‌بات و API گرفته تا کلود کد (Claude Code) و شرکای ابری مانند AWS، Google Cloud و Microsoft Foundry، اعمال خواهد شد.

آنتراپیک در این باره گفته است: «هنگامی که یک مدل کلود پشتیبانی‌شده متنی را تولید می‌کند، واترمارکی نامرئی را مستقیماً در خود متن می‌بافد. شما آن را نخواهید دید و این واترمارک به معنا، کیفیت یا خوانایی پاسخ کلود آسیبی نمی‌رساند.» این شرکت افزود: «از آنجایی که واترمارک بخشی از متن است، هنگام کپی و چسباندن در جای دیگر همراه متن منتقل می‌شود و ممکن است در برابر برخی ویرایش‌ها نیز باقی بماند.»

پیچیدگی‌های فنی واترمارکینگ

این روش پیچیده‌تر از روش‌های معمول است که کاربران به آن فکر می‌کنند. هنگامی که یک مدل کلود پشتیبانی‌شده متنی را می‌نویسد، واترمارکی نامرئی را مستقیماً در کلمات می‌بافد، بدون هیچ برچسب قابل مشاهده‌ای. از آنجایی که این واترمارک بخشی از متن است، از کپی و چسباندن جان سالم به در می‌برد و همانطور که آنتراپیک اذعان می‌کند، «ممکن است در برابر برخی ویرایش‌ها نیز باقی بماند». فایل‌ها لایه دومی نیز دریافت می‌کنند: فراداده امضا شده تحت استاندارد باز C2PA (مانند یک بارنامه دیجیتال که ثبت می‌کند چه کسی یک فایل را تولید کرده و آیا پس از آن کسی آن را تغییر داده است).

آنتراپیک هنوز نحوه ساخت این واترمارک را فاش نکرده است. مقاله حمایتی آن را “در سطح مدل” (مدل با آن آموزش دیده است) و “بومی متن” (ابزار خارجی مانند مولد فراداده نیست) توصیف می‌کند، اما مستندات تشخیص و تکنیک دقیق هنوز منتشر نشده‌اند.

محققان حدس می‌زنند که این یک امضای آماری است: مدل انتخاب کلمات خود را به سمت یک سوگیری ضعیف و قابل تشخیص سوق می‌دهد، که مشابه رویکردی است که گوگل در SynthID Text استفاده می‌کند. این موضوع تا زمانی که آنتراپیک ابزار تشخیص خود را منتشر نکند، در حد حدس باقی می‌ماند.

واکنش‌ها و تلاش‌ها برای حذف واترمارک

این اقدام، علاقه‌مندان به حریم خصوصی را دلسرد نکرده است و برخی از کارشناسان در حال حاضر روی روش‌هایی برای شکستن واترمارکینگ مخفی آنتراپیک کار می‌کنند. ابزاری مانند mikiane/claude-watermark-cleaner (با ۱۰۶ ستاره در گیت‌هاب) یونیکد نامرئی را پاک کرده و سپس متن را با یک مدل غیر کلود بازنویسی می‌کند تا الگوی توکن را مختل کند.

پروژه بزرگ‌تری به نام guillaumemeyer/watermarks-remover (با ۴.۶ هزار ستاره در گیت‌هاب) واترمارک‌های متن کلود و همچنین سیگنال‌های کلاس C2PA و SynthID را در فرمت‌های PNG، JPEG، SVG، PDF و DOCX حذف می‌کند. نویسندگان این پروژه استدلال می‌کنند که یک واترمارک متنی آماری «راه قابل اعتمادی برای اثبات منشأ نیست» و عمدتاً کاربران را مجبور می‌کند تا یک مرحله پردازش دوم را برای پاک کردن نوشته‌های خود صرف کنند. هیچ تضمینی برای حذف کامل وجود ندارد تا زمانی که آنتراپیک ابزار تشخیص و آستانه‌های خود را منتشر کند.

تاریخچه خود آنتراپیک واکنش‌های مربوط به حریم خصوصی را تشدید می‌کند. این شرکت در ماه مارس یک ردیاب مخفی کلود کد را حذف کرد، پس از آنکه محققان دریافتند این ردیاب از طریق نشانه‌های نامشخص یونیکد، موقعیت مکانی و استفاده از پروکسی برخی از کاربران را برچسب‌گذاری می‌کرده است – همان تکنیک علامت‌گذاری خاموش که اکنون در مرکز برنامه واترمارکینگ قرار دارد.

این واترمارک اثبات می‌کند که کلود در تولید متن نقش داشته است، نه اینکه کل متن را نوشته باشد. بنابراین، یک نوشته اصلی با ویرایش جزئی با متنی که کاملاً توسط هوش مصنوعی تولید شده است، یکسان تلقی خواهد شد. اگر از کلود بخواهید پاراگراف شما را ویرایش یا ترجمه کند، خروجی همچنان می‌تواند سیگنال را حمل کند. آنتراپیک صراحتاً اعلام کرده است که ویرایش سنگین می‌تواند واترمارک را حذف کند و عدم وجود واترمارک به معنای نوشته شدن توسط انسان نیست.

یک لایحه در ایالات متحده به نام قانون COPIED (COPIED Act) ایده مشابهی را دنبال می‌کند: ایجاد یک روش استاندارد برای واترمارک کردن محتوای هوش مصنوعی تا پلتفرم‌ها بتوانند منشأ آن را ردیابی کنند. همانطور که مشکل باج‌گیری کلود نشان داد، مدل‌های این شرکت در حال حاضر تحت بررسی شدید در مورد نحوه برخورد با متنی که پردازش می‌کنند، قرار دارند.

آنتراپیک هنوز اعلام نکرده است که چه زمانی ابزارهای تشخیص را منتشر خواهد کرد که به هر کسی اجازه دهد این واترمارک را تأیید کند.