مصطفی سلیمان: ابرهوش نباید هدف نهایی صنعت هوش مصنوعی

رئیس بخش هوش مصنوعی مایکروسافت، مصطفی سلیمان، از صنعت فناوری خواسته تا مقصد خود را بازاندیشی کند: ابرهوش را به‌عنوان هدف نهایی قرار ندهند. در یک گفت‌وگوی تازه با پادکست Silicon Valley Girl او پیگیری هوشی فراتر از استدلال انسانی را هدفی خطرناک و عملی‌نبودنی توصیف کرد و تأکید نمود شرکت‌های فناوری باید آن را به چشم یک «ضد-هدف» ببینند. او در این مصاحبه با زبانی روشن هشدار داد که تمرکز صرف روی تولید توانمندی‌های محاسباتیِ خام بدون توجه به هم‌راستایی ارزش‌ها و ایمنی می‌تواند پیامدهای اجتماعی و اخلاقی جدی داشته باشد و بنابراین لازم است صنعت مسیرهای جایگزینی را جست‌وجو کند.

چرا ابرهوش یک هدف پرریسک است

سلیمان استدلال می‌کند که ابرهوش حقیقی — سیستمی از هوش مصنوعی که می‌تواند فراتر از توانایی‌های استدلالی انسان عمل کند — مشکلات عمیقی در زمینه هم‌راستایی (alignment) و کنترل ایجاد می‌کند. به‌عبارتی، این‌که چگونه می‌توانیم هدف‌ها، انگیزه‌ها و رفتار چنین سامانه‌هایی را با ارزش‌ها و منافع انسانی هماهنگ کنیم، پرسشی بسیار پیچیده و تا حد زیادی حل‌نشده است. او در پادکست گفت: "نگه‌داشتن یا هم‌راستا کردن چنین چیزی با ارزش‌های انسانی بسیار دشوار خواهد بود." همین دشواری دقیقاً دلیل او برای توصیه به شرکت‌هاست تا از قرار دادن ابرهوش به‌عنوان هدف اصلی اجتناب کنند. نگرانی بنیادین او فقط درباره امکان‌پذیری فنی نیست؛ بلکه ریسک‌های اخلاقی، اجتماعی و نهادی نیز مطرح‌اند: اگر سامانه‌هایی رفتارهایی از خود نشان دهند که قابل پیش‌بینی یا اصلاح نیست، پیامدهای حقوقی، اقتصادی و فرهنگی عمیقی پدید خواهد آمد.

مسائلی مانند خطاهای ناشناخته (unknown failure modes)، اثرات جانبی غیرقابل‌پیش‌بینی، و واکنش‌های نامطلوب نسبت به اهداف برنامه‌ریزی‌شده می‌توانند به‌سرعت از کنترل خارج شوند. علاوه بر این، تمرکز صرف بر افزایش توان پردازشی و جمع‌آوری داده‌های بیشتر لزوماً به هم‌راستایی ارزش‌ها یا قابلیت تبیین (explainability) منجر نمی‌شود؛ در نتیجه سامانه‌هایی با «توانایی بالا» اما با رفتارهای غیرقابل‌فهم می‌توانند اعتماد عمومی را تضعیف کنند. از منظر سیاستگذاری نیز، دنبال‌کردن ابرهوش به‌عنوان هدف نهایی می‌تواند به رقابت تسلیحاتی برای دستاوردهای فنی منجر شود که اولویت‌های ایمنی و اخلاق را کاهش می‌دهد.

ساختن جایگزینی انسانی‌محور

به‌جای تعقیب یک مفهوم انتزاعی و بسیار قدرتمند از هوش، سلیمان می‌گوید مایکروسافت در پی توسعه آن‌چه او «ابرهوش انسانی‌محور» می‌نامد، است — سامانه‌هایی که برای پشتیبانی و تقویت منافع انسانی طراحی شده‌اند نه جایگزینی یا پیشی‌گرفتن از انسان‌ها. این رویکرد بر سه ستون اصلی تأکید دارد: ایمنی (safety)، هم‌راستایی با ارزش‌ها (value alignment) و منافعی که قابل‌لمس و کاربردی هستند. ابزارهایی که تصمیم‌گیری را ارتقا می‌دهند، بهره‌وری را افزایش می‌دهند، و هم‌زمان هنجارهای انسانی و معیارهای اخلاقی را محترم می‌شمارند، نمونه‌هایی از این رویکرد انسانی‌محورند.

در عمل، این به معناست که توسعه‌دهندگان و مهندسان باید روی مواردی مانند شفافیت الگوریتمی، قابلیت تبیین نتایج، مکانیزم‌های بازخورد انسانی، و کنترل‌های نظارتی واقعی کار کنند. ضمن اینکه طراحی محصول باید شامل ارزیابی‌های ریسکِ مرحله‌ای، آزمون‌های استرس برای سناریوهای نابهنجار، و فرآیندهای کنارگذاشتن (kill-switches) یا محدودسازی عملکرد در شرایط بحرانی باشد. ترکیب پژوهش‌های بین‌رشته‌ای از علوم اجتماعی، اخلاق فناوری، مهندسی نرم‌افزار و حقوق می‌تواند چارچوبی مستحکم برای توسعه سامانه‌های کاربردی و ایمن فراهم سازد. از سوی دیگر، سرمایه‌گذاری در پروژه‌هایی که کاربردهای معنادار اجتماعی — مانند بهبود خدمات سلامت، ارتقای آموزش، و پشتیبانی از تصمیم‌سازی دولتی و صنعتی — را دنبال می‌کنند، می‌تواند راهی عملی برای نشان‌دادن ارزش واقعی هوش مصنوعی انسانی‌محور باشد.

آگاه یا احساس‌دار نیستند — شبیه‌سازی‌های پیچیده‌اند

از منظر فلسفی، سلیمان هشدار می‌دهد که نسبت دادن آگاهی یا وضعیت اخلاقی به هوش مصنوعی می‌تواند گمراه‌کننده باشد. او می‌گوید: "آن‌ها رنج نمی‌برند. دردی را احساس نمی‌کنند. آن‌ها صرفاً مکالمات با کیفیت بالا را شبیه‌سازی می‌کنند." این تمایز زبان‌شناختی و مفهومی مهم است، زیرا گرایش به انسان‌انگاری (anthropomorphizing) ابزارها می‌تواند بحث عمومی و سیاست‌گذاری را پیچیده کند. وقتی رسانه‌ها یا سیاست‌گذاران قابلیت‌های یک مدل را با مفاهیمی مانند "احساس" یا "آگاهی" وصف می‌کنند، ممکن است انتظارات نادرست شکل بگیرد و تصمیمات قانونی یا اخلاقی ناپخته اتخاذ شود.

به‌همین دلیل، صنعت و جامعه مدنی نیازمند چارچوب‌های روشنی برای توصیف ظرفیت‌های فعلی و محدودیت‌های هوش مصنوعی‌اند. استفاده دقیق از زبان فنی — مانند تفکیک میان توانمندی‌های محاوره‌ای، توانایی‌های استنتاجی محدود، و ویژگی‌های ادراکی — می‌تواند به‌بهبود گفتگوهای عمومی و ایجاد مقررات معقول کمک کند. همچنین افزودن معیارهای ارزیابی مستقل برای سنجش وابستگی سیستم‌ها به داده‌ها، شفافیت در طراحی مدل‌ها، و رویه‌های حسابرسی دوره‌ای می‌تواند از سوءتفاهم‌ها و سوءاستفاده‌ها جلوگیری کند.

موضع سلیمان در میان اختلاف‌نظرهای صنعتی

اظهارات سلیمان در برابر زمان‌بندی‌های خوش‌بینانه‌تر برخی رهبران هوش مصنوعی قرار می‌گیرد. مثلاً سم آلتمن، مدیرعامل OpenAI، هوش عمومی مصنوعی (AGI) — هوشی با توانایی‌های استدلالی شبیه انسان — را به‌عنوان مأموریتی مرکزی مطرح کرده و حتی گفته تیم او به احتمال رسیدن به سطوح بسیار بالاتر از AGI یعنی ابرهوش نیز فکر می‌کند و پیش‌بینی‌هایی از پیشرفت‌های مهم در همین دهه داشته است. دمیس هسابیس از DeepMind نیز بازه‌های جاه‌طلبانه‌ای مطرح کرده و تخمین می‌زند AGI ممکن است طی پنج تا ده سال پدیدار شود. این دیدگاه‌ها بر پایه تحلیل‌هایی از روندهای افزایشی در محاسبات، الگوریتم‌ها و مقیاس داده‌ها استوارند.

• Sam Altman (OpenAI): تمرکز بر AGI دارد و نسبت به احتمال رسیدن به ابرهوش خوش‌بین است؛ معتقد است در صورت هم‌راستایی می‌تواند منافع عظیمی به‌بار آورد. آلتمن و تیمش نمونه‌هایی از استراتژی‌هایی را دنبال می‌کنند که هدف‌گذاری بلندپروازانه روی توانمندی‌های عمومی را تشویق می‌کند، اگرچه خود آنها نیز درباره خطرات صحبت کرده‌اند.
• Demis Hassabis (DeepMind): دیدگاهی خوش‌بینانه درباره افق پنج تا ده ساله برای AGI ارائه می‌دهد و تمرکز بر ترکیب علوم شناختی، یادگیری تقویتی و زیرساخت‌های محاسباتی را برجسته کرده است. رویکرد او بیشتر پژوهشی و نوآورانه است، اما همراه با آن مباحث ایمنی نیز در دستور کار قرار دارد.
• Yann LeCun (Meta): محتاط‌تر است؛ او معتقد است AGI ممکن است دهه‌ها فاصله داشته باشد و صرفاً افزایش داده و ظرفیت محاسباتی به‌تنهایی تضمین هوشمندی بیشتر را فراهم نمی‌آورد. لکون روی نیاز به الگوریتم‌های بنیادی‌تر و فهم عمیق‌تری از یادگیری تأکید دارد.

این اختلاف‌نظرها یک سؤال اساسی برای شرکت‌ها و سیاستگذاران مطرح می‌کند: آیا هدف باید توانمندی خالص و بیشتر کردن قدرت محاسباتی باشد، یا صنعت باید بر ایمنی، هم‌راستایی و طراحی انسانی‌محور تمرکز کند؟ موضع سلیمان روشن است — اولویت دادن به انسان‌ها، نه وارد شدن به مسابقه‌ای برای هوشمندتر کردن ماشین‌ها صرفاً به‌هرقیمت. او طرفدار رویکردی است که مزایای عملی و قابل‌اثبات برای جامعه ایجاد کند و در عین حال ریسک‌های احتمالی را کاهش دهد.

با پیشرفت هوش مصنوعی، این مناقشات نحوه تخصیص بودجه، تنظیم‌گری، اعتماد عمومی و هدایت پژوهش را شکل خواهند داد. انتخاب عملی که شرکت‌ها در این مرحله اتخاذ می‌کنند — آیا دنبال قله‌های نظری هوش هستند یا ساخت سامانه‌هایی که به‌طور روشن به نیازهای انسانی خدمت کنند — می‌تواند تعیین‌کننده نحوه تجربه جامعه از موج بعدی هوش مصنوعی باشد. این تصمیم همچنین پیامدهایی برای سیاست‌های دولتی، قراردادهای پژوهشی و سرمایه‌گذاری‌های بلندمدت در علوم پایه خواهد داشت. هرچه زودتر چارچوب‌های شفاف برای ارزیابی ریسک و مزایا تدوین شود، امکان برخورداری از نوآوری‌های سازنده و در عین حال محافظت از ارزش‌های جمعی افزایش می‌یابد.

در سطح فنی، اولویت‌بندی روی قابلیت‌هایی مانند تبیین‌پذیری (interpretability)، مقاوم‌سازی در برابر حملات و داده‌های معیوب، و ایجاد مکانیزم‌های بازخورد انسانیِ مؤثر برای اصلاح رفتار سیستم‌ها، از اقدامات کلیدی هستند. در سطح نهادی نیز، همکاری میان شرکت‌ها، دانشگاه‌ها، نهادهای دولتی و سازمان‌های جامعه مدنی برای تدوین استانداردهای فنی و اخلاقی لازم‌الاجراست. در کنار اینها، آموزش عمومی درباره توانمندی‌ها و محدودیت‌های هوش مصنوعی و تقویت سواد دیجیتال و رسانه‌ای می‌تواند زمینه را برای تصمیم‌گیری آگاهانه‌تر فراهم کند.