تغییر واژه‌ی «هوش مصنوعی» به «هوش فرابشر» و یک تعهدنامه‌ی غیرالزام‌آور

هفته‌ی گذشته جمعی کم‌سابقه از چهره‌های شاخص فناوری دور یک میز نشستند: ایلان ماسک، مارک زاکربرگ، جف بزوس و داریو آمودئی، مدیرعامل Anthropic. خروجی این دیدار، امضای یک تعهدنامه‌ی مشترک و شروع موجی از تغییر واژه‌گذاری بود که خبرساز شد: کنارگذاشتن عنوان «هوش مصنوعی» و جایگزینی آن با «هوش فرابشر».

به گفته‌ی برگزارکنندگان، این تعهدنامه «از نظر اخلاقی الزام‌آور» است؛ اما شاید پررنگ‌ترین محور، تلاش برنامه‌ریزی‌شده برای تغییر زبان و تصویر عمومی این فناوری باشد. هدف از این حرکت، بازتنظیم روایت‌ها پیرامون هوش‌های پیشرفته و دورکردن آن‌ها از کلیشه‌های ترسناک آشنا عنوان می‌شود.

تغییر نام: از «هوش مصنوعی» تا «هوش فرابشر»

مطابق اعلام شرکت‌کنندگان، سخن‌گویان و اسناد رسمی آن‌ها از این پس اصطلاح «هوش فرابشر» را در ارتباطات خود به‌کار می‌برند. تغییر واژه، صرفا بازی با کلمات نیست؛ واژه‌ها نحوه‌ی برداشت عمومی را شکل می‌دهند، به‌ویژه وقتی پای فناوری‌های نو و ناشناخته در میان باشد.

کرستن کوروسک از TechCrunch در تحلیل خود می‌نویسد که این جابه‌جایی زبانی بیش از هر چیز یک تلاش برای بازتعریف پیام است؛ به بیان او، «هدف، کم‌کردن ترس‌های عمومی و جداکردن فناوری‌های جدید از تصویر تهدیدآمیز هوش مصنوعی است.» این روایت تازه می‌کوشد به‌جای تاکید بر خطر، روی فرصت‌ها و کاربردهای مثبت تمرکز کند.

علاوه بر تاثیرات رسانه‌ای، تغییر واژه می‌تواند پیامدهای عملی هم داشته باشد: از نحوه‌ی نام‌گذاری محصولات و سندهای بازاریابی گرفته تا اسناد راهبردی داخلی شرکت‌ها، ارائه‌های فروش، ارتباطات با سرمایه‌گذاران و حتی کلیدواژه‌های جست‌وجو در وب. تجربه‌های قبلی نشان داده‌اند که تغییر اصطلاحات می‌تواند مسیر گفتگوها را عوض کند؛ برای نمونه، تغییر «واقعیت افزوده/مجازی» به «Spatial Computing» یا رواج اصطلاح «Foundation Models» به‌جای «Generative AI» هرکدام بر زاویه‌ی نگاه مخاطب اثر گذاشتند.

گروه کاری «هوش فرابشر»؛ ۱۲۰ روز برای یک نقشه‌ی راه

همزمان با این تغییر واژه، یک گروه کاری بین‌صنعتی با عنوان غیررسمی «نیروی هوش فرابشر» شکل گرفت تا ظرف ۱۲۰ روز گزارشی جامع درباره‌ی فرصت‌ها و ریسک‌های مدل‌های پیشرفته ارائه کند. این گزارش قرار است به موضوع‌هایی مانند ارزیابی ریسک، چارچوب‌های شفافیت، انتشار مسئولانه، و استانداردهای آزمون و ارزیابی بپردازد.

هماهنگی اولیه‌ی این گروه بر عهده‌ی جی کلیتون است و جمعی از مدیران و مشاوران باسابقه، از جمله اندرو فرگوسن، امیل مایکل و اسکات کوپر، در آن مشارکت دارند. قرار است خروجی کار، مجموعه‌ای از توصیه‌های عملی برای شرکت‌ها و پژوهشگران باشد؛ از تعریف آستانه‌های خطر در مدل‌های مرزی تا شیوه‌های گزارش‌دهی حوادث و مستندسازی تغییرات در چرخه‌ی عمر مدل‌ها.

تعهد مشترک درباره‌ی «مسئولیت‌های مرزی»؛ داوطلبانه و غیرالزام‌آور

در کنار تشکیل گروه کاری، حاضران تعهدنامه‌ای با عنوان «تعهد مشترک درباره‌ی مسئولیت‌های مرزی» را امضا کردند. این سند، که روی اصول ایمنی و شفافیت در توسعه‌ی نسل‌های بعدی مدل‌ها تاکید دارد، داوطلبانه است و ضمانت اجرای حقوقی ندارد. شان اوکین، تحلیلگر TechCrunch، با لحنی انتقادی آن را «به‌طور عمیقی غیرالزام‌آور» توصیف کرد.

با وجود انتقادها، چنین تعهدهایی می‌توانند به همگرایی حداقلی در رویه‌های صنعت کمک کنند. محورهای پرتکرار در این‌گونه اسناد عبارت‌اند از: آزمون‌های مستقل یا شبه‌مستقل برای مدل‌های مرزی (Red Teaming)، وضوح در اعلام قابلیت‌ها و محدودیت‌ها، سنجه‌های ایمنی قبل از عرضه‌ی عمومی، برنامه‌های پاسخ‌گویی به رخدادها، و امکان بازگشت یا غیرفعال‌سازی قابلیت‌ها در صورت مشاهده‌ی ریسک. هرچند تا زمانی که شاخص‌های موفقیت و مکانیسم‌های ارزیابی مشخص نشوند، ارزیابی اثر واقعی چنین تعهدهایی دشوار است.

نقش Anthropic و هم‌نشینی رقبای قدیمی

حضور داریو آمودئی، مدیرعامل Anthropic، در کنار دیگر چهره‌های مطرح، پیام نمادینی داشت. Anthropic به‌خاطر تمرکز پررنگ بر ایمنی مدل‌ها شناخته می‌شود و بارها درباره‌ی به‌کارگیری «Guardrails»، ارزیابی‌های مرحله‌ای و انتشار مسئولانه صحبت کرده است. این هم‌نشینی، پس از دوره‌ای از مجادلات رسانه‌ای بین برخی مدیران صنعت و این شرکت در شبکه‌های اجتماعی، می‌تواند نشانه‌ای از نزدیک‌شدن فضا به همکاری عملی‌تر باشد؛ دست‌کم در سطح گفت‌وگو و تبادل نظر.

چرا تغییر واژه مهم است؟

در علوم شناختی و بازاریابی، «چارچوب‌گذاری» یا Frame نقش مهمی در برداشت مخاطب دارد. اصطلاح «هوش مصنوعی» برای بخشی از افکار عمومی با دوقطبی «امکان/تهدید» گره خورده است؛ فیلم‌ها، شبکه‌های اجتماعی و روایت‌های اغراق‌آمیز، به این تصور دامن زده‌اند. «هوش فرابشر» می‌کوشد خود را به‌عنوان نسل تازه‌ای از سیستم‌های تصمیم‌یار و مولد معرفی کند که تمرکزشان روی کار جمعی انسان و ماشین است، نه جایگزینی کامل انسان. موفقیت این چارچوب‌گذاری به چند عامل وابسته است: ثبات در استفاده‌ی اصطلاح، هم‌نوایی رسانه‌ها و کارشناسان، و البته عملکرد واقعی محصولات که باید با وعده‌ها هم‌خوان باشد.

از سوی دیگر، تغییر واژه می‌تواند روی جامعه‌ی پژوهشی نیز اثر بگذارد. اگر اصطلاح تازه به مقالات و کنفرانس‌ها راه پیدا کند، شاید شاهد تعریف‌های دقیق‌تری برای «مدل مرزی»، «آستانه‌های خطر»، یا «قابلیت‌های نوپدید» باشیم. چنین شفافیتی می‌تواند به استانداردسازی آزمون‌ها و تشکیل بانک‌های سنجه‌ی مشترک کمک کند؛ موضوعی که این روزها فقدان آن یکی از گلوگاه‌های ارزیابی مدل‌هاست.

پرسش‌های باز و معیارهای سنجش

• آیا اصطلاح «هوش فرابشر» در صنعت و رسانه جا می‌افتد یا در حد یک موج کوتاه باقی می‌ماند؟
• آیا تعهدنامه‌ی داوطلبانه به تغییر رفتارهای قابل‌اندازه‌گیری می‌انجامد، مثل افزایش انتشار کارت‌های مدل، گزارش‌های ایمنی و نتایج Red Teaming؟
• آیا گروه کاری می‌تواند ظرف ۱۲۰ روز به مجموعه‌ای از توصیه‌های دقیق، قابل‌اجرا و آزمون‌پذیر برسد؟
• چه سازوکارهایی برای بازبینی مستقل، به‌روزرسانی دوره‌ای و سنجش اثر این توصیه‌ها تعریف خواهد شد؟

جمع‌بندی: بازاریابی زبانی در کنار استانداردسازی نرم

در مجموع، آنچه رخ داده ترکیبی است از بازاریابی زبانی و تلاش برای تنظیم رویه‌های نرم در صنعت. تغییر نام «هوش مصنوعی» به «هوش فرابشر» تلاشی برای تغییر برداشت عمومی است، و تشکیل یک گروه کاری و امضای یک تعهدنامه‌ی غیرالزام‌آور می‌کوشد این تغییر را با حداقلی از چارچوب‌های ایمنی و شفافیت همراه کند. اینکه این استراتژی در عمل تا چه حد مؤثر خواهد بود، به سرعت پیشروی فناوری، کیفیت معیارهای ارزیابی و صداقت مجریان در انتشار داده‌های واقعی بستگی دارد.