دعوای سرعت یا ترمز؛ جنگ کلامی غول‌های هوش مصنوعی بر سر تنظیم‌گری

در چند روز گذشته، یک مقاله‌ی بلند از سوی مدیرعامل یکی از شرکت‌های پیشرو در هوش مصنوعی دوباره بحث درباره‌ی آینده‌ی این فناوری و نقش سازوکارهای نظارتی را داغ کرده است. دارو آمودی، بنیان‌گذار و مدیرعامل Anthropic (خالق مدل کلود)، در مقاله‌ای با عنوان «ما باید مرزهای پیشرفت را تنظیم کنیم» سه گام مشخص برای «تنظیم سرعت» (Pacing) توسعه‌ی هوش مصنوعی مرزی (Frontier AI) پیشنهاد داده و اعلام کرده شرکتش اجرای نخستین گام را آغاز می‌کند. این موضع‌گیری موجی از اظهارنظرها و اختلاف نظرها در میان رهبران فناوری برانگیخته است.

پیشنهاد سه‌گانه‌ی آمودی: ارزیاب مستقل، هماهنگی شرکتی و توافق جهانی

آمودی در مقاله‌ی خود چارچوبی برای توسعه‌ی ایمن‌تر هوش مصنوعی ارائه می‌دهد. او تاکید می‌کند «تنظیم سرعت» به معنی توقف کامل آموزش مدل‌ها یا قطع پیشرفت فنی نیست؛ هدف این است که شرکت‌ها زمان کافی برای هم‌سوسازی و ایمن‌سازی مدل‌ها داشته باشند و این فرایند توسط ناظران بیرونی تایید شود.

سه گام کلیدی پیشنهادی او:

• ارزیابان شخص ثالث تعبیه‌شده: حضور ناظران مستقل در شرکت‌های پیشرو برای تایید پایبندی به تعهدات ایمنی و گزارش‌دهی حوادث. آمودی اعلام کرده Anthropic به‌صورت یک‌جانبه متعهد به اجرای این مرحله شده است.
• هماهنگی بین شرکت‌های فعال در مرز فناوری: تدوین استانداردها و محدودیت‌های مشترک برای توسعه و عرضه.
• هماهنگی جهانی بین دولت‌ها و نهادها: تلاش برای هم‌سویی در تنظیم سرعت توسعه و اشتراک تجربیات.

Frontier AI یعنی چه و «تنظیم سرعت» چه معنایی دارد؟

اصطلاح Frontier AI معمولا به مدل‌ها و سامانه‌هایی اشاره دارد که در آستانه‌ی توانمندی‌های نو یا کم‌سابقه‌اند؛ جایی که کوچک‌ترین خطا می‌تواند اثر گسترده‌ای داشته باشد. در چنین سطحی، «تنظیم سرعت» بیشتر شبیه تنظیم آهنگ توسعه است تا کشیدن ترمز اضطراری. نمونه‌هایی از این کار:

• تعیین دروازه‌های ایمنی پیش از آموزش و انتشار: مثل ارزیابی‌های توانمندی و ریسک در حوزه‌هایی مانند خودمختاری، تعامل با ابزارها، کدنویسی خودکار، زیست‌امنیت یا اقناع‌گری.
• آزمایش‌های «رد تیم» با تیم‌های داخلی و بیرونی برای سنجش بدترین سناریوها.
• مستندسازی شفاف (مانند system card و model card) و توضیح محدودیت‌ها و رفتارهای مورد انتظار.
• پایش پس از انتشار و امکان توقف یا بازبینی سریع در صورت رخدادهای پیش‌بینی‌نشده.
• استفاده از معیارهای ملموس مثل سقف محاسبات (compute)، بودجه‌ی انرژی یا آستانه‌های قابلیت برای عبور از هر مرحله. این اقدامات می‌کوشند سرعت را با کنترل‌های عملیاتی همراه کنند تا توسعه‌ی سریع به قیمت ایمنی تمام نشود.

واکنش‌های صنعت: از هم‌راهی تا تمسخر

چند ساعت بعد از انتشار مقاله، رهبران دیگر شرکت‌های بزرگ هوش مصنوعی واکنش نشان دادند. سام آلتمن، مدیرعامل OpenAI، در ایکس نوشت که با آمودی هم‌نظر است و افزود این موضوع در هفته‌های اخیر یکی از محورهای گفت‌وگو در OpenAI بوده است. او از ایده‌ی حضور ارزیابان مستقل در شرکت‌ها استقبال کرد و آن را «ایده‌ای عالی» خواند و خواستار چارچوبی مشترک برای الزامات ایمنی در حوزه‌ی مدل‌های مرزی شد.

دمیس هاسیبیس، یکی از بنیان‌گذاران Google DeepMind، جهت‌گیری کلی مقاله‌ی آمودی را درست توصیف کرد و گفت جزئیات نیاز به کار بیشتر دارد اما مسیر برای مواجهه با این لحظه‌ی حساس «صحیح» است.

در مقابل، یان لوکون، پژوهشگر باسابقه‌ی یادگیری ماشین، با لحنی تند واکنش نشان داد و یادآوری کرد که در ۲۰۱۹ نیز نسبت به ادعای خطرناک‌بودن انتشار GPT-2 انتقاد داشته است. به گفته‌ی او، این هشدارها اغراق‌آمیز است و باید با دیده‌ی تردید به آن‌ها نگریست.

جنسن هوانگ: «ایمنی یک مشکل مهندسی است، نه حقوقی»

هم‌زمان که آمودی و آلتمن از نظارت بیرونی و چارچوب‌های جدید صحبت می‌کنند، جنسن هوانگ، مدیرعامل Nvidia، در کنفرانس Dreamforce متعلق به Salesforce موضع متفاوتی اتخاذ کرد. او با قاطعیت گفت هوش مصنوعی ترکیبی از سخت‌افزار و نرم‌افزار است که انسان‌ها می‌سازند و می‌توان آن را با شیوه‌های مهندسی و قواعد موجود کنترل کرد.

چند جمله‌ی کلیدی از دیدگاه هوانگ:

• «ایمنی یک مشکل مهندسی است، نه حقوقی. ما داریم نرم‌افزار توسعه می‌دهیم.»
• «به قوانین یا مقررات جدید نیازی نیست. نیروهای بازار برای تحت فشار گذاشتن شرکت‌ها جهت عدم عرضه‌ی محصولات ناایمن کافی هستند.»
• «اگر نسبت به ایمنی محصول مطمئن نیستید، آن را منتشر نکنید.»

هوانگ معتقد است شرکت‌ها باید تا زمانی‌که درباره‌ی ایمنی و پذیرش بازار مطمئن نشده‌اند سرعت خود را تنظیم کنند. به‌زعم او، انتخاب بین سرعت و ایمنی «کاذب» است و می‌توان به هر دو به‌طور هم‌زمان رسید. شعار عملیاتی‌اش این است: «تا می‌توانید سریع بدوید؛ اما هر جا حس کردید محصول از کنترل خارج می‌شود، مکث کنید و مطمئن شوید درست عمل می‌کنید.»

منتقدان می‌گویند واگذاشتن تمام این مسئولیت به شرکت‌ها، با توجه به سابقه‌ی انتشار محصولات نرم‌افزاری معیوب حتی از سوی شرکت‌های خوش‌نام (مانند حادثه‌ی CrowdStrike در ۲۰۲۴) و آسیب‌های محتمل مدل‌های هوش مصنوعی، می‌تواند ریسک بالایی برای کاربران داشته باشد. به باور آن‌ها، ترکیب کنترل‌های داخلی با ارزیابی‌های بیرونی و اشتراک‌گذاری شفاف یافته‌ها، به‌ویژه در مدل‌های مرزی، لازمه‌ی اعتماد عمومی است.

این اختلاف دیدگاه چه اثری بر نقشه‌ی راه شرکت‌ها دارد؟

شرکت‌هایی که روی مدل‌های بزرگ کار می‌کنند، معمولا بین دو فشار اصلی قرار می‌گیرند: سرعت عرضه و کیفیت/ایمنی. پذیرش رویکرد «تنظیم سرعت» به معنی ایجاد گیت‌های مشخص در چرخه‌ی توسعه است؛ از جمله:

• تعریف معیارهای خروج از هر مرحله (مثلا حداقل‌های پایداری، ارزیابی سوء‌استفاده و سنجش رفتارهای ناخواسته).
• استفاده از تیم‌های مستقل برای آزمون‌های سناریو محور.
• ثبت و انتشار خلاصه‌ی یافته‌ها برای کاربران و توسعه‌دهندگان.
• برنامه‌های به‌روزرسانی سریع و برگشت‌پذیری در صورت مشاهده‌ی رفتار خطرناک. در مقابل، رویکرد مبتنی بر «نیروهای بازار» بر این باور است که اگر محصولی ناایمن باشد، بازار آن را پس می‌زند و شرکت‌ها انگیزه‌ی کافی برای اصلاح دارند. اختلاف امروز بیشتر بر سر این است که کدام ترکیب از این دو رویکرد بهترین نتیجه را می‌دهد و نقش ارزیابان مستقل چقدر باید پررنگ باشد.

آیا پنجره‌ی فرصت برای خود-تنظیم‌گری در حال بسته شدن است؟

به نظر می‌رسد صنعت هوش مصنوعی پنجره‌ی زمانی محدودی برای استقرار سازوکارهای خود-تنظیم‌گر کارآمد در اختیار دارد. همان‌طور که ساتیا نادلا، مدیرعامل Microsoft، اشاره کرد، جلب مشارکت جهانی و هم‌فکری بازیگران مختلف برای کاهش ریسک‌ها ضروری است؛ زیرا نگرانی‌های ایمنی، مرز جغرافیایی نمی‌شناسد. با این حال، شکاف عمیق بین دیدگاه‌هایی مانند آمودی (که خواستار هماهنگی و نظارت ساختارمند است) و هوانگ (که بر کفایت روش‌های مهندسی و فشار بازار تاکید می‌کند)، نشان می‌دهد رسیدن به اجماع حتی در میان شرکت‌های بزرگ نیز آسان نیست.

فعلا توپ در زمین شرکت‌ها و نهادهای صنعتی است: اگر بتوانند مدل‌های مرزی را با ارزیابی‌های مستقل، شفافیت بیشتر و چرخه‌های کنترل‌شده عرضه کنند، احتمالا فضای اعتماد عمومی و همکاری بین بازیگران تقویت می‌شود؛ در غیر این‌صورت، اختلاف‌ها افزایش می‌یابد و مسیر مشترک برای توسعه‌ی ایمن دشوارتر خواهد شد.