هشدار پادشاه چارلز درباره خطرات مرگبار هوش مصنوعی

پادشاه چارلز سوم روز پنج‌شنبه به مدیران ارشد شرکت‌های هوش مصنوعی گفت که این فناوری ممکن است «توانایی‌های تاریک‌تری، شاید حتی توانایی گرفتن جان انسان‌ها» پیدا کند و تأکید کرد پیش از آن‌که خیلی دیر شود، باید تدابیر حفاظتی به اجرا درآید.

این هشدار در نشست خصوصی او با شماری از چهره‌های برجسته صنعت هوش مصنوعی و مقام‌های ارشد بریتانیا مطرح شد. پادشاه به مدیران فناوری حاضر گفت: «افرادی که این فناوری‌ها را ایجاد کرده‌اند، اکنون بیش از هر زمان دیگری هشدار می‌دهند که هوش مصنوعی در آستانه توسعه توانایی‌های تاریک‌تر، شاید حتی توانایی گرفتن جان انسان‌ها قرار دارد.» او افزود: «از این منظر، اگر اجازه بدهید، به نظر می‌رسد بررسی دقیق خطرات وجودی ناشی از قرار گرفتن این فناوری‌ها در دست افراد نادرست و استفاده بالقوه فاجعه‌بار از آن‌ها، فوریت دارد.»

حاضران و زمینه برگزاری نشست

جنسن هوانگ، مدیرعامل انویدیا، چند مدیر از اوپن‌ای‌آی و آنتروپیک، کانیشکا نارایان، وزیر جدید هوش مصنوعی بریتانیا، و رئیس سازمان اطلاعات خارجی این کشور از جمله حاضران در این نشست بودند. پائولو بنانتی، مشاور پاپ در حوزه هوش مصنوعی، نیز در این جلسه حضور داشت. این نشست خصوصی روز پنج‌شنبه برگزار شد.

این اظهارات از آن جهت قابل توجه است که خاندان سلطنتی بریتانیا معمولاً به دلایل قانون اساسی از ورود جدی به مناقشات سیاسی پرهیز می‌کند؛ در حالی که هوش مصنوعی اکنون به یکی از بحث‌برانگیزترین موضوعات جهان تبدیل شده است. پادشاه، توسعه سریع هوش مصنوعی را هم جذاب و هم عمیقاً نگران‌کننده توصیف کرد.

نگرانی‌های ایمنی و یک استعفای اخیر

اظهارات پادشاه پس از استعفای یکی از پژوهشگران آنتروپیک مطرح شد؛ پژوهشگری که دلیل کناره‌گیری خود را نگرانی‌های امنیتی اعلام کرده بود. او در پستی آنلاین نوشت که شرکت‌های هوش مصنوعی «برای ساخت ماشین‌هایی بسیار باهوش‌تر از هر انسان رقابت می‌کنند» و هشدار داد که «ممکن است بشریت از این وضعیت جان سالم به در نبرد.»

پادشاه چارلز در پایان از رهبران خواست راه‌هایی برای بهره‌گیری از جنبه‌های مثبت هوش مصنوعی پیدا کنند و برای رسیدن به این هدف، همکاری و اجماع بین‌المللی شکل دهند.