OpenAI با «textGrain» پاسخ می‌دهد؛ واترمارک متنی در اتحادیه اروپا آغاز می‌شود

OpenAI هم پس از رقیبش Anthropic، راه‌حل خود را برای علامت‌گذاری خروجی‌های متنی معرفی کرده است: یک واترمارک نامرئی به نام textGrain که از امروز راه‌اندازی شده است.

واترمارک چیست و textGrain چطور کار می‌کند؟

واترمارک‌گذاری متنی یعنی یک الگوی آماری نامحسوس در روند انتخاب کلمات مدل هوش مصنوعی جاگذاری شود. OpenAI در گزارش فنی خود توضیح می‌دهد که textGrain با استفاده از یک کلید مخفی، پیش‌بینی‌های مدل برای کلمه بعدی را کمی تغییر می‌دهد تا سیگنالی آماری در خروجی باقی بماند. این الگو برای خواننده انسان دیده نمی‌شود، اما یک تشخیص‌دهنده که به همان کلید مخفی دسترسی دارد، می‌تواند با تحلیل متن، وجود یا نبود این سیگنال را بررسی کند. چون این علامت در خود متن جا می‌گیرد، با کپی و پیست هم همراه متن منتقل می‌شود.

OpenAI می‌گوید کارایی textGrain با رویکردهایی مثل SynthID گوگل برای متن برابر است یا حتی از آن جلو می‌زند. بر اساس داده‌های ارائه‌شده توسط شرکت، متون دارای واترمارک در چند معیار سنجش (بنچمارک) حتی اندکی بهتر از متون بدون واترمارک عمل کرده‌اند؛ البته OpenAI تفاوت قابل‌توجهی در عملکرد کلی مدل گزارش نمی‌کند و می‌گوید روی کیفیت خروجی تمرکز داشته است.

محدودیت‌های مهم: از ویرایش تا ریسک خطا

با وجود این فناوری، OpenAI روشن گفته که textGrain محدودیت‌های جدی دارد و نباید آن را ابزار قطعی تشخیص دانست.

• ضعف در برابر ویرایش: طبق آزمایش‌های OpenAI، ویرایش ساده متن می‌تواند کارایی تشخیص‌دهنده را به شدت پایین بیاورد. در متنی با ۴۰۰ توکن، جایگزینی فقط ۱۰٪ از کلمات با مترادف، نرخ تشخیص صحیح را از حدود ۹۲٪ به ۶۶٪ کاهش داده است. وقتی این عدد به ۲۵٪ رسید، نرخ تشخیص تا ۱۷٪ سقوط کرد.

• خطاهای تشخیص: سیستم ممکن است متنی را که توسط هوش مصنوعی تولید شده اما واترمارک آن ضعیف است، شناسایی نکند (منفی کاذب). از طرف دیگر ممکن است به اشتباه متنی نوشته‌شده توسط انسان را دارای واترمارک تشخیص دهد (مثبت کاذب). این خطاها به‌خصوص در متون کوتاه یا حوزه‌هایی مثل ریاضیات که آزادی انتخاب کلمات کمتر است، محتمل‌تر می‌شود.

• نکاتی که واترمارک نشان نمی‌دهد: OpenAI تاکید می‌کند وجود یا نبود واترمارک به هیچ وجه معنی این موارد نیست:

• سنجش میزان دخالت انسان: واترمارک مشخص نمی‌کند چه مقدار قضاوت، ویرایش یا خلاقیت انسانی در تولید متن نقش داشته است.

• تعیین مالکیت یا مسئولیت: علامت‌گذاری به معنی تایید صحت محتوا یا تعیین مسئول آن نیست.

• اثبات نویسندگی انسان: نبود واترمارک تشخیص‌داده‌شده، دلیل بر نوشته‌شدن متن توسط انسان نیست؛ ممکن است متن از مدل دیگری آمده، زیاد ویرایش شده یا خیلی کوتاه باشد.

به‌طور کلی، واترمارک متنی بیشتر یک سیگنال کمکی است و باید در کنار قرائن دیگر تفسیر شود. همان‌طور که OpenAI می‌گوید، در متونی که طول کمی دارند یا زیاد بازنویسی می‌شوند، احتمال ضعف سیگنال بالاتر است. حتی کارهایی مثل خلاصه‌سازی یا ترجمه می‌تواند سیگنال را کم‌رنگ کند و به همین دلیل، شرکت اعلام کرده بررسی پایداری واترمارک در این سناریوها ادامه دارد.

نقشه راه اجرا: اروپا اول، بقیه اختیاری

اجرای این سیستم مرحله‌ای و با احتیاط انجام می‌شود:

1. کاربران اتحادیه اروپا (اجباری): در هفته‌های آینده، واترمارک به‌صورت خودکار برای کاربران واجد شرایط ChatGPT و Codex در همه پلن‌ها، اما فقط در خاک اتحادیه اروپا فعال خواهد شد. OpenAI اعلام کرده که در آغاز، واترمارک را به‌صورت پیش‌فرض برای همه کاربران فعال نمی‌کند.

2. مشتریان API در سراسر جهان (اختیاری): از امروز، توسعه‌دهندگان در هر نقطه که از API شرکت استفاده می‌کنند، می‌توانند برای مدل‌های منتخب، واترمارک‌گذاری را به‌صورت اختیاری روشن کنند. این قابلیت به‌طور پیش‌فرض خاموش است تا تیم‌ها بتوانند بر اساس نیاز خود آن را مدیریت کنند.

3. تشخیص‌دهنده (فقط برای پژوهشگران): دسترسی به ابزار تشخیص واترمارک از امروز شروع شده، اما فعلا فقط به پژوهشگران تاییدشده و سازمان‌های متخصص داده می‌شود. OpenAI دلیل این محدودیت را نیاز به ارزیابی قابلیت اتکا و استفاده مسئولانه از فناوری در شرایط واقعی عنوان کرده است. این تشخیص‌دهنده هویت کاربر یا محتوای مکالمات را فاش نمی‌کند و فقط وجود یا نبود واترمارک OpenAI را گزارش می‌دهد.

برنامه‌های بعدی و متن‌باز

OpenAI قصد دارد در نهایت فناوری textGrain را به صورت متن‌باز منتشر کند تا دیگران هم بتوانند روی آن کار کنند. شرکت همچنین اعلام کرده با تکامل فناوری، استانداردها و شواهد جدید، رویکرد خود را بازبینی می‌کند و به مطالعه درباره ماندگاری واترمارک پس از ویرایش و ترجمه ادامه می‌دهد. به این ترتیب، ممکن است در نسخه‌های بعدی، تنظیمات واترمارک و تشخیص‌دهنده برای سناریوهای مختلف (مثلا متن‌های کوتاه یا حوزه‌های تخصصی) تغییر کند تا تعادل بین کیفیت خروجی و قدرت سیگنال بهتر شود.