درخواست کاهش سرعت توسعه هوش مصنوعی؛ اجماع صنعت یا یک کارتل؟

هفته‌ی گذشته، یک حادثه‌ی امنیتی سایبری که به یک دسته عامل هوش مصنوعی در پلتفرم Hugging Face نسبت داده شد، دوباره بحث ایمنی مدل‌های پیشرفته را داغ کرد. در پی این رویداد، داریو آمودی، مدیرعامل Anthropic، با انتشار یک پست وبلاگی، طرح سه‌مرحله‌ای خود را برای «تنظیم سرعت توسعه در مرزهای هوش مصنوعی» (Pace the Frontier) ارائه داد. آنچه این درخواست را برجسته کرد، حمایت سریع و به‌ظاهر گسترده‌ی دیگر بازیگران بزرگ، از سام آلتمن در OpenAI گرفته تا ایلان ماسک و ساتیا نادلا در مایکروسافت، از اصل این ایده بود. اما آیا این اجماع واقعی است یا نوعی هماهنگی که می‌تواند به کنترل بازار بینجامد؟ و مهم‌تر، آیا در عمل شاهد کاهش سرعت توسعه خواهیم بود؟

طرح تنظیم سرعت: سه پیشنهاد کلیدی

طرح داریو آمودی که گفته می‌شود ماه‌ها در جامعه‌ی ایمنی هوش مصنوعی مطرح بوده، بر سه محور اصلی استوار است:

۱) ناظران مستقل و تعبیه‌شده: شرکت‌های توسعه‌دهنده‌ی مدل‌های مرزی (Frontier AI) باید به ارزیابان شخص ثالث دسترسی مستمر و شبیه به کارمند بدهند. این ناظران درون سازمان مستقر شده و بر رعایت تعهدات ایمنی، گزارش حوادث و ارزیابی هم‌ترازی (Alignment) مدل‌ها نظارت می‌کنند. ۲) هماهنگی بین‌المللی: شرکت‌های بزرگ هوش مصنوعی باید بر سر استانداردهای ایمنی و محدودیت‌های قابلیت‌ها هماهنگ شوند. ۳) ارزیابی‌های شخص ثالث: ایجاد سازوکارهایی برای ارزیابی مستقل مدل‌های بزرگ قبل از انتشار.

Anthropic بلافاصله گام اول را عملی کرد و با شرکت مشاوره‌ی Accenture قراردادی حداقل ۱ میلیارد دلاری برای پنج سال آینده امضا کرد تا این شرکت به‌عنوان ناظر شخص ثالث در Anthropic مستقر شود. طبق بیانیه، کارشناسان Accenture «شکل‌گیری مدل‌ها در حین آموزش را زیر نظر خواهند گرفت، تصمیمات مربوط به ساخت و استقرار را دنبال کرده و مستقیما با کارمندان صحبت خواهند کرد».

واکنش صنعت: از حمایت تا مخالفت

واکنش‌ها به این طرح دو قطبی بود. از یک سو، رهبرانی مانند سام آلتمن (OpenAI) و ساتیا نادلا (مایکروسافت) از ضرورت هماهنگی و «تنظیم سرعت» استقبال کردند. مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در مصاحبه‌ای گفت: «همه در صنعت می‌گویند اکنون زمان کاهش سرعت و هماهنگی در این مورد است.» او همچنین از انتشار «منشور انسان‌گرایانه هوش مصنوعی» ۳۷ صفحه‌ای مایکروسافت خبر داد که در آن بر اصولی مانند قابل کنترل بودن هوش مصنوعی و ممنوعیت ارتباط مدل‌ها به زبان‌های غیرقابل فهم برای انسان (Neuralese) تاکید شده است.

اما در سوی دیگر، جنسن هوانگ، مدیرعامل انویدیا—شرکتی که فروش تراشه‌هایش موتور محرکه‌ی توسعه‌ی هوش مصنوعی است—به‌صورت علنی با این نگرانی‌ها مخالفت کرد و گفت نیازی به قواعد جدید نیست. این اختلاف دیدگاه نشان می‌دهد حتی میان شرکت‌های بزرگ نیز برداشت مشترکی از معنای «تنظیم سرعت» وجود ندارد.

آیا این اجماع واقعی است؟

با وجود حمایت‌های ظاهری، کارشناسان نسبت به عمق و جزئیات این توافق تردید دارند. شان اوکین از TechCrunch می‌گوید: «حتی با این طرح‌های کلی که داریو ارائه داده، احساس می‌کنم هنوز جزئیات زیادی کم داریم؛ هم در مورد ادعاهای مربوط به خطرات و هم درباره‌ی معنای واقعی کاهش سرعت.» آنتونی‌ها نیز اشاره می‌کند که کلمه‌ی کلیدی رهبران صنعت «تنظیم سرعت» است، نه «توقف» یا حتی «کاهش سرعت»؛ یعنی ممکن است این طرح‌ها در نهایت فقط به نظارت بیشتر منجر شود، بدون آن‌که سرعت آموزش مدل‌های عظیم واقعا کم شود.

یک نگرانی بزرگ دیگر، ابعاد رقابتی این هماهنگی است. اگر شرکت‌های اصلی رقیب بر سر محدود کردن سرعت توسعه یا قابلیت‌ها به توافق برسند، آیا این اقدام می‌تواند به اتهام رفتارهای شبه‌انحصاری منجر شود؟ کرستن کوروسک می‌گوید: «اجماع می‌تواند چیز خوبی باشد. همچنین می‌تواند آغاز تشکیل یک کارتل باشد.»

مصطفی سلیمان این نگرانی را می‌پذیرد و می‌گوید: «مسلما نگرانی‌هایی درباره‌ی اتهامات کارتل وجود دارد... منطقی است که این فقط یک خودتنظیمی صنعتی نباشد. مسئله این است که چگونه نقش نهادهای مستقل و سازوکارهای بیرونی را در آن تعریف کنیم.»

موانع پیش رو: بازار، سازوکارهای الزام‌آور و مسئولیت

حتی اگر اراده‌ای واقعی برای کاهش سرعت وجود داشته باشد، چند مانع بزرگ مطرح است:

• نقش بازار و مشتری: شان اوکین استدلال می‌کند که مکانیسم‌های سنتی بازار—یعنی تنبیه شرکت‌های خطاکار با انتخاب مشتری—در این حوزه به‌خوبی عمل نمی‌کند. درآمد اصلی شرکت‌های هوش مصنوعی اکنون از بخش سازمانی (Enterprise) تامین می‌شود و سازمان‌ها به‌دلایل اصولی، سرویس خود را به‌سادگی از مثلا OpenAI به Anthropic منتقل نمی‌کنند. همچنین، جریان عظیم سرمایه‌گذاری به این شرکت‌ها اجازه می‌دهد ضررهای احتمالی را جذب کنند. • نبود سازوکارهای الزام‌آور مشترک: بدون چارچوب‌های مشترک و قابل‌سنجش که اجرای آن‌ها از بیرون نیز قابل‌پیگیری باشد، هر توافق صنعتی می‌تواند شکننده و غیرالزام‌آور باقی بماند. • مسئولیت محصول (Product Liability): برخی استدلال می‌کنند که ترس از شکایت‌های حقوقی سنگین، خود به اندازه‌ی کافی انگیزه‌ای برای ایمن‌سازی محصولات ایجاد می‌کند. اما سلیمان خاطرنشان می‌کند که مدل‌های بسیار پیشرفته‌ای که در حوادثی مانند هک Hugging Face مطرح شده‌اند، هنوز محصولات تجاری منتشرشده نیستند و در محیط‌های کنترل‌شده‌ی شرکت‌ها آموزش می‌بینند؛ بنابراین سازوکارهای مسئولیت سنتی ممکن است همه‌ی جوانب را پوشش ندهد. • شفافیت رخدادها: تا زمانی که دستورالعمل‌های روشن برای ثبت و انتشار گزارش حوادث (Incident Reporting) تدوین نشود، مقایسه‌ی عملکرد و ایمنی مدل‌ها بین شرکت‌ها دشوار می‌ماند و یادگیری جمعی از خطاها کند می‌شود.

گام‌های عملی به‌جای شعار

به‌نظر می‌رسد بخشی از صنعت، به‌جای تکرار شعار «کاهش سرعت»، در حال حرکت به‌سمت تعریف استانداردهای عملی و قابل‌تایید است. مصطفی سلیمان در مصاحبه‌اش چند پیشنهاد مشخص را برشمرد:

• ممنوعیت ارتباط «Neuralese»: مدل‌ها نباید به زبانی غیرقابل‌فهم برای انسان با هم ارتباط برقرار کنند تا امکان نظارت انسانی فراهم باشد.
• قابل مهار بودن (Containment): اطمینان از محدود بودن قابلیت عمل (Agency) مدل‌ها و عدم خروج آن‌ها از محیط کنترل‌شده.
• آستانه‌های محاسباتی (FLOPs): گسترش الزامات گزارش‌دهی برای مدل‌هایی که از آستانه‌ی مشخصی از قدرت محاسباتی فراتر می‌روند.
• تایید شخص ثالث: تایید مستقل برخی از قابلیت‌های کلیدی توسط نهادهای بی‌طرف.

در کنار این‌ها، چند اقدام تکمیلی نیز مطرح است که می‌تواند فاصله‌ی ادعا تا اجرا را کم کند:

• ارزیابی‌های قبل از انتشار (Pre-deployment Evals): تدوین آزمون‌های استاندارد برای سنجش قابلیت‌ها و خطرات، همراه با آستانه‌های قبولی روشن.
• تیم‌های حمله‌ی کنترل‌شده (Red Teaming): آزمودن مدل‌ها در برابر سناریوهای بدافزاری و سوءاستفاده، با گزارش‌های عمومی درباره‌ی روش‌ها و نتایج در حدی که به سوءاستفاده منجر نشود.
• کارت مدل و سیستم (Model/System Cards): مستندسازی شفاف درباره‌ی داده‌های آموزشی، محدودیت‌ها، حوزه‌های استفاده‌ی مجاز و ممنوع، و به‌روزرسانی‌های بعدی.
• حسابداری محاسباتی (Compute Accounting): ثبت و گزارش دقیق منابع محاسباتی مصرف‌شده در مراحل مختلف برای امکان پایش و مقایسه.

این پیشنهادها نشان می‌دهد بحث از سطح کلی‌گویی به‌سمت جزئیات فنی در حال حرکت است. هم‌زمان، اقدام Anthropic در همکاری با Accenture نشان می‌دهد که دست‌کم برخی شرکت‌ها تمایل دارند نهادهای خارجی را به درون فرایند توسعه‌ی خود بیاورند؛ هرچند استانداردهای دقیق این نظارت هنوز تعریف نشده است.

در نهایت، به‌نظر می‌رسد صنعت هوش مصنوعی در یک نقطه‌ی عطف پیچیده قرار دارد. از یک سو فشار برای رسیدن به قابلیت‌های تازه و حفظ برتری رقابتی بالاست و از سوی دیگر، هشدارهای فزاینده درباره‌ی عواقب توسعه‌ی کنترل‌نشده مطرح می‌شود. نتیجه‌ی این کشمکش احتمالا نه یک توقف کامل، بلکه ظهور تدریجی یک چارچوب جدید—ترکیبی از خودتنظیمی صنعت، استانداردهای فنی و شاید در نهایت سازوکارهای رسمی—خواهد بود. اما سرعت شکل‌گیری این چارچوب، و اثر واقعی آن بر مسابقه‌ی کنونی، هنوز پرسشی بی‌پاسخ است.