تصمیم شرکت آنتروپیک برای معرفی یک واترمارک نامرئی در متن تولید یا پردازش‌شده توسط کلود، نگرانی‌هایی را در بین برخی از کاربران در مورد حق تألیف، کار حرفه‌ای و وابستگی به پلتفرم‌های هوش مصنوعی اختصاصی ایجاد کرده است.
KYCFIRST سرمقاله • ۱۶ آگوست ۲۰۲۶
شرکت آنتروپیک یک سیستم واترمارک جدید برای متن تولید شده توسط مدل‌های پشتیبانی شده کلود معرفی کرده است. این واترمارک توسط خوانندگان قابل مشاهده نیست، اما ممکن است به آنتروپیک و ابزارهای تشخیص آینده اجازه دهد تا تخمین بزنند که آیا کلود در تولید یا پردازش یک متن نقش داشته است یا خیر.
این شرکت می‌گوید این سیستم برای رعایت الزامات شفافیت تحت قانون هوش مصنوعی اتحادیه اروپا در حال پیاده‌سازی است. شرکت آنتروپیک این فناوری را در سطح جهانی به کار می‌گیرد زیرا هنوز روش قابل اعتمادی برای محدود کردن واترمارک به یک منطقه خاص ندارد.
مدل‌های پشتیبانی‌شده‌ی Claude که از ۲ آگوست ۲۰۲۶ منتشر شده‌اند، تحت تأثیر این تغییر قرار می‌گیرند. شرکت Anthropic می‌گوید که قصد دارد در ماه‌های آینده، واترمارک را به مدل‌های قدیمی‌تر نیز اضافه کند.
واترمارک از کاراکترهای پنهان استفاده نمی‌کند
اصطلاح «نشانه نامرئی» ممکن است این تصور را ایجاد کند که کلود کاراکترهای مخفی، کدهای ردیابی یا فراداده‌های پنهان را در متن کپی‌شده وارد می‌کند. طبق گفته آنتروپیک، این سیستم اینگونه کار نمی‌کند.
واترمارک یک الگوی آماری است که از طریق انتخاب کلمات کلود ایجاد شده است.
وقتی یک مدل زبانی متن تولید می‌کند، هر کلمه جدید را از بین چندین گزینه ممکن انتخاب می‌کند. در بسیاری از جملات، کلمات مختلف می‌توانند تقریباً معنای یکسانی را بیان کنند. سیستم واترمارک این انتخاب‌های کم‌خطر را در یک الگوی ریاضی ثابت تحت تأثیر قرار می‌دهد.
خوانندگان نمی‌توانند الگو را ببینند. با این حال، یک آشکارساز با کلید صحیح می‌تواند یک متن به اندازه کافی طولانی را تجزیه و تحلیل کند و احتمال اینکه کلود در آن نقش داشته است را تخمین بزند.
آنتروپیک روی علامت چاپ می‌گوید:
- کاراکترهای پنهان را به متن اضافه نمی‌کند.
- شخص، شرکت یا مکالمه خاصی را مشخص نمی‌کند.
- مالکیت محتوا را تغییر نمی‌دهد.
- به توکن‌های اضافی نیاز ندارد.
- هیچ تأثیر عملی بر قیمت یا سرعت تولید ندارد.
- ثابت نمی‌کند که کلود کل سند را نوشته باشد.
یک تشخیص مثبت فقط نشان می‌دهد که کلود احتمالاً در مقطعی درگیر بوده است.
چرا برخی از کاربران نگران هستند
بیزینس اینسایدر گزارش داد که ده‌ها نفر در X پست گذاشته‌اند و گفته‌اند که اشتراک Claude خود را به دلیل واترمارک لغو کرده‌اند. این نشریه مستقیماً با چهار کاربر صحبت کرده است که گفته‌اند اشتراک خود را لغو کرده‌اند.
دغدغه‌های آنها عمدتاً مربوط به کار حرفه‌ای و دانشگاهی بود.
برخی از کاربران مطالب اصلی خود را می‌نویسند و از کلود فقط برای ترجمه، تصحیح، اصلاح استناد، خلاصه‌سازی یا ویرایش استفاده می‌کنند. آنها نگرانند که یک علامت چاپ سفید (واترمارک) باعث شود کارفرمایان، مشتریان، مدارس یا سیستم‌های تشخیص خودکار به اشتباه فرض کنند که کلود کل سند را ایجاد کرده است.
توسعه‌دهندگان نرم‌افزار نگرانی‌های مشابهی را در مورد کد تحویل داده شده به مشتریان مطرح کرده‌اند. یک مشتری ممکن است قوانین قراردادی داشته باشد که کار تولید شده توسط هوش مصنوعی را محدود کند، حتی زمانی که هوش مصنوعی فقط برای بررسی کد یا بهبود نظرات استفاده شده باشد.
این یک تمایز مهم ایجاد می‌کند:
مشارکت هوش مصنوعی با نویسندگی هوش مصنوعی یکسان نیست.
یک ابزار ممکن است به ویرایش، ترجمه یا بررسی کار انسانی بدون اینکه نویسنده اصلی باشد، کمک کند. با این حال، یک آشکارساز واترمارک ممکن است نتواند سطح دقیق دخالت را توضیح دهد.
آنتروپیک می‌گوید ویرایش نوری ممکن است قابل تشخیص نباشد
آنتروپیک می‌گوید که این واترمارک فقط روی کلماتی که کلود انتخاب می‌کند اعمال می‌شود.
اگر کاربری یک سند نوشته‌شده توسط انسان را ارائه دهد و از کلود بخواهد که فقط دستور زبان و علائم نگارشی را اصلاح کند، بیشتر کلمات اصلی بدون تغییر باقی می‌مانند. در این شرایط، ممکن است محتوای واترمارک‌شده کافی برای تشخیص قابل اعتماد وجود نداشته باشد.
نتیجه به طول سند و میزان بازنویسی انجام شده توسط کلود بستگی دارد. هرچه کلود متن جدید بیشتری تولید کند، الگوی قابل تشخیص ممکن است قوی‌تر شود.
ترجمه‌ها متفاوت هستند. وقتی کلود یک سند را ترجمه می‌کند، هر کلمه در خروجی ترجمه شده را انتخاب می‌کند. بنابراین، آنتروپیک می‌گوید که ترجمه‌ای که توسط کلود تولید شده است می‌تواند دارای واترمارک باشد.
در مورد کد منبع چطور؟
واترمارک معمولاً در کد منبع ضعیف‌تر از محتوای نوشتاری معمولی است.
برنامه‌نویسی اغلب به نحو دقیق و اصطلاحات فنی دقیق نیاز دارد. وقتی فقط یک نشانه یا دستور صحیح وجود دارد، سیستم واترمارکینگ آزادی کمی برای تأثیرگذاری بر نتیجه دارد.
با این حال، نظرات، توضیحات، نام متغیرها و سایر قسمت‌هایی که امکان انتخاب چندین کلمه قابل قبول را فراهم می‌کنند، ممکن است حاوی سیگنال‌های واترمارک بیشتری باشند.
این یعنی وجود واترمارک لزوماً نشان نمی‌دهد که کلود منطق فنی یک پروژه نرم‌افزاری را ایجاد کرده است. این فقط می‌تواند نشان دهد که کلود در بخش‌هایی از خروجی نوشته شده مشارکت داشته است.
آیا می‌توان واترمارک را حذف کرد؟
آنتروپیک می‌گوید ویرایش سبک ممکن است الگوی آماری را به طور کامل حذف نکند. یک بازنویسی کامل که در آن جمله‌بندی به طور قابل توجهی تغییر کند، ممکن است آن را از بین ببرد.
این محدودیت، بحث‌هایی را در مورد ارزش عملی واترمارکینگ متنی ایجاد کرده است.
حامیان می‌گویند واترمارک می‌تواند شفافیت را بهبود بخشد، به پلتفرم‌ها کمک کند تا محتوای تولید شده توسط هوش مصنوعی را شناسایی کنند و خطر آموزش سیستم‌های هوش مصنوعی آینده بر روی حجم زیادی از محتوای هوش مصنوعی فاش نشده را کاهش دهد.
منتقدان معتقدند که این سیستم ممکن است فرضیات نادرستی در مورد نویسندگی ایجاد کند، به خصوص زمانی که فرد از هوش مصنوعی فقط به عنوان دستیار ویرایش، ترجمه یا تحقیق استفاده می‌کند.
آنتروپیک روند لغو را گزارش نکرده است
انتقادات عمومی هنوز ثابت نمی‌کند که کلود موج بزرگی از لغو اشتراک را تجربه می‌کند.
شرکت آنتروپیک به بیزینس اینسایدر گفت که پس از اعلام این علامت تجاری، افزایش قابل توجهی در لغو سفارش‌ها مشاهده نکرده است. این شرکت تا سپتامبر ۲۰۲۵ تقریباً ۳۰۰۰۰۰ مشتری تجاری داشته است و ممکن است از آن زمان تاکنون تعداد مشتریان آن افزایش یافته باشد.
بنابراین شواهد موجود از یک نتیجه‌گیری دقیق پشتیبانی می‌کنند:
برخی از کاربران اشتراک خود را لغو کرده‌اند و برخی دیگر نگرانی خود را ابراز کرده‌اند، اما هنوز شواهدی از روند لغو گسترده وجود ندارد.
سوال گسترده‌تر، اعتماد و کنترل است
این جنجال فقط مربوط به کلود نیست. این موضوع سوال بزرگ‌تری را در مورد رابطه بین کاربران و پلتفرم‌های هوش مصنوعی اختصاصی مطرح می‌کند.
کسب‌وکارها، توسعه‌دهندگان، نویسندگان و محققان به طور فزاینده‌ای در حال ایجاد گردش‌های کاری مهم پیرامون خدمات هوش مصنوعی هستند. یک ارائه‌دهنده پلتفرم می‌تواند بعداً قیمت‌گذاری، محدودیت‌های استفاده، سیستم‌های تشخیص، سیاست‌های داده یا شرایط فنی خود را تغییر دهد.
بنابراین، کاربران ممکن است نیاز به بررسی موارد زیر داشته باشند:
- اینکه آیا مشتریان اجازه کار با کمک هوش مصنوعی را می‌دهند یا خیر.
- چگونه باید مشارکت هوش مصنوعی افشا شود.
- اینکه آیا اسناد حساس باید توسط پلتفرم‌های خارجی پردازش شوند یا خیر.
- اینکه آیا یک گردش کار می‌تواند به ارائه‌دهنده دیگری منتقل شود یا خیر.
- نحوه طبقه بندی محتوای ترجمه، ویرایش و تولید شده.
- چه کسی می‌تواند به ابزارهای تشخیص واترمارک در آینده دسترسی داشته باشد.
شرکت آنتروپیک می‌گوید قصد دارد یک رابط برنامه‌نویسی کاربردی (API) رایگان برای تشخیص واترمارک ارائه دهد. این به کاربران و اشخاص ثالث اجازه می‌دهد تا بررسی کنند که آیا یک متن احتمالاً حاوی واترمارک کلود است یا خیر.
ارزش نهایی آن سیستم به دقت، شفافیت و استفاده مسئولانه از آن بستگی دارد.
شفافیت نباید با حق تألیف اشتباه گرفته شود
شفافیت هوش مصنوعی می‌تواند از خوانندگان محافظت کند و به سازمان‌ها کمک کند تا استانداردهای واضح‌تری ایجاد کنند. با این حال، نتایج تشخیص باید با دقت تفسیر شوند.
یک واترمارک ممکن است نشان دهد که کلود در پردازش متن نقش داشته است. اما نمی‌تواند ثابت کند که کلود ایده اولیه را خلق کرده، تحقیق را انجام داده یا کل سند را نوشته است. همچنین نمی‌تواند مشخص کند که چه کسی به طور قانونی مالک محتوا است.
همچنان که هوش مصنوعی به بخشی از کار حرفه‌ای روزمره تبدیل می‌شود، سازمان‌ها به سیاست‌هایی نیاز خواهند داشت که بین محتوای تولید شده توسط هوش مصنوعی، محتوای با کمک هوش مصنوعی و محتوای ایجاد شده توسط انسان که ویرایش فنی جزئی دریافت کرده است، تمایز قائل شوند.
این تمایز برای نویسندگان، توسعه‌دهندگان، محققان، مشتریان و پلتفرم‌هایی که به آنها خدمت می‌کنند، به طور فزاینده‌ای اهمیت پیدا خواهد کرد.
منابع
- انسان‌محور: واترمارک متنی کلود چگونه کار می‌کند
- بیزینس اینسایدر: کاربران کلود با استناد به واترمارک جدید هوش مصنوعی آنتروپیک، اشتراک‌های خود را لغو می‌کنند
- Một Thế Giới: پوشش ویتنامی بحث واترمارک کلود
این مقاله اخبار و تفسیرهای عمومی فناوری را ارائه می‌دهد. این مقاله هیچ حکم قانونی در مورد حق تألیف، حق نشر یا انطباق با قرارداد ارائه نمی‌دهد.
