هشدار هواوی درباره شکاف توان پردازشی و ایمنی هوش مصنوعی

اریک شو، رئیس دوره‌ای هواوی، گفت توسعه‌دهندگان هوش مصنوعی در چین شاید هنوز به سطحی از پیشرفت نرسیده باشند که با انواع خطرات ایمنی گزارش‌شده از سوی شرکت‌های بزرگ آمریکایی روبه‌رو شوند. او در کنفرانس سالانه هواوی کانکت در شانگهای گفت شرکت‌ها باید در کنار ایجاد توازن میان نوآوری و مدیریت ریسک، به توسعه مدل‌های قدرتمندتر ادامه دهند.

شو به خبرنگاران گفت: «اگر به ارائه‌دهندگان بزرگ مدل‌های هوش مصنوعی در ایالات متحده نگاه کنید، به‌دلیل برخورداری از توان پردازشی عظیم، شاید فقط خودشان بدانند مدل‌هایشان به چه سطحی از قابلیت رسیده‌اند.» او افزود: «ممکن است انواع خطرات هوش مصنوعی که آن‌ها می‌توانند احساس یا درک کنند، برای مردم یا ارائه‌دهندگان مدل‌های هوش مصنوعی در چین قابل تجربه نباشد.» اظهارات او نشان می‌دهد شکاف در توانمندی‌ها و مواجهه با مسائل پیشرفته ایمنی، با ظرفیت پردازشی در دسترس ارتباط دارد.

نگرانی‌ها و واکنش‌های ایالات متحده درباره ایمنی

اظهارات شو در شرایطی مطرح شد که نگرانی‌ها درباره ایمنی هوش مصنوعی در ایالات متحده رو به افزایش است. توسعه‌دهندگان و پژوهشگران برجسته هشدار داده‌اند که سامانه‌های دارای استقلال فزاینده ممکن است تدابیر حفاظتی را دور بزنند یا کنترل آن‌ها دشوار شود. اوپن‌ای‌آی این هفته اعلام کرد رفتارهای غیرمنتظره یا غیرمجاز مدل‌های خود را به‌طور منظم گزارش خواهد کرد. مدیرعامل آنتروپیک نیز خواستار کندتر شدن روند توسعه شده است تا سازوکارهای ایمنی فرصت کافی برای همگام شدن داشته باشند.

در چین، درخواست‌ها برای کند کردن روند توسعه با انتقاد شدید پژوهشگران و رسانه‌های دولتی روبه‌رو شده است. آن‌ها استدلال می‌کنند که کاهش عمدی سرعت پیشرفت مدل‌های پیشرفته می‌تواند به حفظ برتری فناوری شرکت‌های آمریکایی کمک کند. برخی تحلیلگران چینی نیز پیشنهادهای مربوط به کند کردن توسعه را نه صرفاً واکنشی به نگرانی‌های ایمنی، بلکه تلاشی برای محدود کردن رقبایی دانستند که همچنان از آزمایشگاه‌های پیشروی آمریکایی عقب‌تر هستند.

رویکرد چین به هوش مصنوعی پیشرفته

پکن هوش مصنوعی پیشرفته را فناوری قدرتمندی می‌داند که می‌توان هم‌زمان با ادامه توسعه و استقرار سریع آن، مدیریت کرد. دولت چین در حال تدوین استانداردهای اجباری، ارزیابی‌های امنیتی و دیگر تدابیر حفاظتی برای مقابله با خطراتی مانند عبور عامل‌های خودمختار از کنترل‌ها یا حمله به سامانه‌های خارجی است. مقام‌های چینی همچنین در حال آماده‌سازی یک استاندارد ملی اجباری برای ایمنی عامل‌های هوش مصنوعی هستند.