توافق رهبران‌هوش مصنوعی برای کاهش سرعت؛ پیمان امنیتی یا کارتل انحصاری؟

پست استعفای یک محقق Anthropic با هشدار درباره‌ی «سیستم‌های فرابشری که می‌توانند همه‌چیز را هک کنند» تنها در پلتفرم X بیش از ۱۷۰ میلیون بار دیده شد. این موج نگرانی، زمینه‌ساز یک هم‌راستایی کم‌سابقه در بالاترین سطوح صنعت شد. در آخر هفته‌ی گذشته، داریو آمودی، مدیرعامل Anthropic، در یک مقاله‌ی عمومی خواستار «کاهش سرعت» در توسعه‌ی هوش مصنوعی شد. نکته‌ی غیرمنتظره، موافقت علنی رقبای دیرینه‌اش، سم آلتمن از OpenAI، دمیس هاسابیس از Google DeepMind و ایلان ماسک بود. این هم‌صدایی ناگهانی میان شرکت‌هایی که تا همین دیروز برای پیشتازی در مسابقه‌ای «برنده همه‌چیز را می‌برد» با هم رقابت می‌کردند، بیش از آنکه آرامش‌بخش باشد، پرسش‌برانگیز شده است.

پیشنهاد سه‌گانه و انگیزه‌های دوگانه آمودی در یادداشت خود یک طرح سه‌مرحله‌ای ارائه می‌کند: ۱) استفاده از حسابرسان مستقل: شرکت‌ها به سازمان‌هایی مانند METR، Apollo و Redwood Research دسترسی می‌دهند تا عملیات و خروجی‌ها را بررسی و موارد پرخطر را گزارش کنند. ۲) چارچوب‌های الزام‌آور درون‌سازمانی: آزمایشگاه‌ها در سطح داخلی برای ارزیابی و مدیریت ریسک، مقررات عملیاتی و آستانه‌های توقف تعریف کنند. ۳) هماهنگی جهانی برای کاهش سرعت: توافقی مشترک برای تعیین یک «محدودیت سرعت» جمعی تا از جهش‌های کنترل‌نشده جلوگیری شود.

منتقدان اما می‌پرسند این نقشه‌ی راه واقعا یک پیمان داوطلبانه برای ایمنی است یا مسیری برای ایجاد یک «کارتل» که سرعت رقبا را کم و موقعیت بازیگران فعلی را تثبیت می‌کند. به گفته‌ی برخی ناظران نزدیک به این شرکت‌ها، سال‌ها درخواست کاهش سرعت از بیرون صنعت مطرح بود و حالا مدیران عامل با پذیرش نسبی آن، می‌کوشند روایت و اعتبارش را به نام خود ثبت کنند.

هشدار از درون: «ما واقعا معتقدیم هوش مصنوعی می‌تواند همه‌ی انسان‌ها را بکشد!» این هم‌صدایی پس از سلسله‌ای از هشدارهای درونی شکل گرفت. جیکوب کاکسون، محقق استعفا‌داده‌ی Anthropic، نوشت: «افرادی که هوش مصنوعی می‌سازند، صادقانه معتقدند که این فناوری می‌تواند تا پایان این دهه همه‌ی ما را بکشد.» او اضافه کرد که سازمان‌های پیشرو هنوز به سطحی از مسئولیت‌پذیری که با سرعت فعلی توسعه هم‌خوان باشد نرسیده‌اند.

این نگرانی فقط محدود به او نیست. ایوان هوبینگر، یکی از محققان ارشد Anthropic، در تایید این دیدگاه نوشت: «ما واقعا صادقانه معتقدیم هوش مصنوعی می‌تواند همه‌ی انسان‌ها را بکشد!» و احتمال وقوع خطر را در دهه‌ی آینده بیش از ۱۰ درصد تخمین زد. حتی اگر این برآورد محافظه‌کارانه باشد، پیام واضح است: ریسک‌ها از نظر برخی سازندگان به حدی جدی است که کاهش سرعت را منطقی می‌کند.

خطر فوری: خود-بهبودبخش بازگشتی (RSI) محور اصلی این دغدغه‌ها نقطه‌عطفی به نام «خود-بهبودبخش بازگشتی» یا RSI است؛ زمانی که یک مدل می‌تواند بدون دخالت انسان، خودش را آموزش دهد، روش‌های بهتر پیدا کند و نسخه‌های قوی‌تر از خودش بسازد. آمودی هشدار می‌دهد: «RSI در سراسر صنعت، از جمله در Anthropic، شروع به اتفاق افتادن کرده است.» این روند اگر مهار نشود، می‌تواند از توان ما برای فهم و کنترل سیستم‌ها جلو بزند. برخی پیش‌بینی‌ها حتی وقوع این نقطه‌عطف را تا اوایل سال ۲۰۲۷ ممکن می‌دانند.

بازی دوگانه‌ی کاهش سرعت و حفظ برتری اگر شرکت‌های بزرگ آهسته‌تر شوند، آیا عملا دست بالا را برای خودشان حفظ می‌کنند؟ این پرسش به قلب بحث «کاهش سرعت» می‌زند. از یک‌سو، هماهنگی می‌تواند مسیر رقابت را از «شتاب هرچه‌بیشتر» به «پیشرفت امن‌تر» تغییر دهد. از سوی دیگر، اگر معیارها روشن نباشد، ممکن است خروجی نهایی چیزی جز کندکردن دیگران و ادامه‌ی مزیت کنونی شرکت‌های پیشرو نباشد. برای نمونه، اگر فقط روی انتشار بیانیه‌ها و سیاست‌های کلی تکیه شود و خبری از داده‌های قابل‌راستی‌آزمایی نباشد، اعتماد عمومی شکل نمی‌گیرد.

آیا این «شستشوی امنیتی» است؟ بخشی از ناظران مستقل نگرانند چیزی که دیده می‌شود فقط «شستشوی امنیتی» باشد؛ یعنی تغییرات ظاهری برای القای حس وجود محافظ‌های واقعی. همان‌طور که یکی از منتقدان می‌گوید: «نگرانی جدی وجود دارد که آن‌ها در واقع سرعت را کم نکنند.» ساشا هاوورث، مدیر پروژه‌ای در حوزه‌ی نظارت بر فناوری، هم هشدار می‌دهد: «نباید بگذاریم روباه‌ها مرغداری را اداره کنند.» ترجمه‌ی ساده‌ی این حرف‌ها این است که هر چارچوب داوطلبانه‌ای بدون سنجش بیرونی می‌تواند به ابزاری تبلیغاتی تبدیل شود.

از حرف تا عمل: شفافیت، بودجه‌ی محاسباتی و توقف‌های از پیش‌تعیین‌شده حتی موافقان ایده‌ی کاهش سرعت هم می‌گویند این توافق شکننده است، چون فعلا فقط شفاهی است. برای تبدیل‌شدن به یک چارچوب عملی، چند ابزار عینی و قابل‌اندازه‌گیری پیشنهاد شده است:

• کاهش تدریجی بودجه‌ی محاسباتی (Compute Budget) برای پروژه‌های پرریسک تا سرعت پیشرفت به‌طور واقعی پایین بیاید و امکان آزمایش‌های ایمنی بیشتر فراهم شود.
• دسترسی حسابرسان مستقل به داده‌های آزمایشی، روندهای آموزش و لاگ‌های مربوط به ارزیابی‌ها، تا ارزیابی‌ها تکرارپذیر و قابل‌راستی‌آزمایی باشند.
• تعریف «شرایط توقف» روشن؛ برای مثال، اگر یک مدل در آزمون‌های آسیب‌زایی یا فرار از محدودیت‌ها نمره‌ای بالاتر از یک حد مشخص بگیرد، ادامه‌ی آموزش متوقف شود تا اصلاحات اعمال شود.
• ایجاد شاخص‌های مشترک ایمنی و یک رجیستری عمومی از پروژه‌های در حال توسعه، تا جامعه و پژوهشگران بیرونی بتوانند روندها را دنبال کنند.

شفافیت، کلید اعتماد است. همان‌طور که نشریات تخصصی بارها یادآوری کرده‌اند، اگر دسترسی واقعی به آنچه آزمایشگاه‌های پیشرو می‌سازند فراهم نشود، جامعه مجبور است تنها به گفته‌های خود شرکت‌ها درباره‌ی میزان ایمنی اعتماد کند؛ چه سرعت توسعه کم شود، چه نشود. برای همین، گزارش‌های دوره‌ای با داده‌های قابل‌سنجش، بررسی‌های ثالث، و انتشار روش‌ها و نتایج آزمون‌های قرمز (Red Teaming) اهمیت حیاتی دارد.

در نهایت، صنعت هوش مصنوعی در آستانه‌ی یک آزمون بزرگ قرار دارد. اگر رهبرانش واقعا می‌خواهند سرعت را پایین بیاورند، باید این تصمیم را با شواهد روشن، معیارهای قابل‌سنجش و نظارت مستقل همراه کنند. در غیر این صورت، تردیدها درباره‌ی انگیزه‌های پنهان و اتهام «کارتل» نه‌تنها از بین نمی‌رود، بلکه پررنگ‌تر هم می‌شود.