8 دقیقه
تنش اینبار از سوی ناظران یا شرکتهای رقیب نیست؛ تنش از درون آزمایشگاهها برخاسته است.
صدها مهندس و پژوهشگر شاغل در گوگل و OpenAI یک نامهٔ عمومی چشمگیر را امضا کردهاند که از کارفرمایانشان میخواهد در برابر فشارهای فزایندهٔ نظامی ایالات متحده برای کاهش محدودیتها در نحوهٔ بهکارگیری هوش مصنوعی مقاومت کنند. در مجموع نزدیک به هزار کارمند نام خود را پای این پیام گذاشتهاند که حاوی بیانیهای صریح است: «ما تقسیم نخواهیم شد.»
این عبارت صریحاً نشانهگذاری شده برای توصیفِ آنچه امضاکنندگان آن را بهعنوان استراتژی مقامات دولتی توصیف میکنند: فشار آرام و تدریجی به شرکتهای هوش مصنوعی برای همکاری نظامی — شرکت به شرکت، قرارداد به قرارداد — تا زمانی که موانع اخلاقی دچار فرسایش شوند.
«آنها تلاش میکنند هر شرکت را با ترس از اینکه دیگری تسلیم شود، تقسیم کنند،» نامه استدلال میکند. «این استراتژی تنها زمانی کار میکند که هیچکدام از ما ندانیم دیگران در چه موضعی ایستادهاند.»
این بیانیه در لحظهای حساس برای صنعت هوش مصنوعی منتشر شده است. همزمان با افزایش چشمگیر توانایی مدلهای زبانی بزرگ و سامانههای مولد، دولتها بیش از پیش به تواناییهای آنها برای تحلیل اطلاعات، پشتیبانی تصمیمگیری میدان نبرد و نظارت علاقهمند شدهاند.
و دیگر میزان پیامدها صرفاً نظری نیست.
اخیراً پنتاگون شرکت نوپای هوش مصنوعی Anthropic را بهعنوان «ریسک زنجیرهٔ تأمین» برچسب زده است، پس از آنکه گزارش شد این شرکت از اجازهٔ استفاده از فناوری خود برای نظارت انبوه داخلی یا سامانههای تسلیحاتی کاملاً خودمختار خودداری کرده است. این اقدام بسیاری از ناظران در سیلیکونولی را متعجب کرد و بحث تازهای را میان مهندسانی که امروز قدرتمندترین مدلهای هوش مصنوعی را میسازند، برانگیخت.
به تشدید تنش افزوده شده است که گزارشها حاکی از آن است که گوگل و OpenAI ممکن است در حال مذاکره برای پذیرفتن ترتیباتی مشابه با آنچه Anthropic رد کرد باشند.
یک گسل آشنا در سیلیکونولی
برای بسیاری از کارکنان گوگل، موقعیت کنونی شبیه تکرار تاریخ به نظر میرسد.
در سال ۲۰۱۸، هزاران کارمند علیه مشارکت شرکت در پروژهٔ Maven پنتاگون اعتراض کردند؛ پروژهای که از یادگیری ماشین برای تحلیل تصاویر نظارتی پهپاد استفاده میکرد. واکنشهای داخلی چنان شدید شد که گوگل نهایتاً اجازه داد قرارداد منقضی شود و مجموعهای رسمی از راهنماییهای اخلاقی در حوزهٔ هوش مصنوعی را معرفی کرد که به «اصول هوش مصنوعیِ شرکت» شهرت یافت.
در آن زمان، گوگل متعهد شد از توسعهٔ فناوریهایی که هدف آنها وارد کردن آسیب است یا حمایت از روشهای نظارتی که هنجارهای بینالمللی را نقض میکنند، خودداری کند.
نامهٔ جدید نشان میدهد که آن وعدهها دوباره در معرض آزمون قرار گرفتهاند.
امضاکنندگان معتقدند سامانههای مدرن هوش مصنوعی بیش از آنند که بهعنوان محصولات نرمافزاری عادی و از طریق قراردادهای دفاعی روزمره معامله شوند. مدلهای مولد پیشرفته میتوانند اطلاعات جمعآوریشده را پردازش کنند، تصاویر را تفسیر نمایند، مجموعهٔ بزرگی از دادهها را خلاصه کنند و بالقوه در تصمیمگیریهای هدفگیری با سرعتی بسیار فراتر از تحلیلگران انسانی یاری برسانند.
برخی پژوهشگران به شبیهسازیهای جنگی اولیه اشاره میکنند که در آنها سامانههای هوش مصنوعی خشونتها را تشدید کردند — گاهی حتی تحت شرایط مدلسازیشده، گزینههای هستهای را ترجیح دادند. آن مطالعات هنوز تجربی هستند، اما نشاندهندهٔ این است که تصمیمسازی ماشینی در سناریوهای نظامی تا چه حد میتواند غیرقابلپیشبینی شود.
برای مهندسانی که این سامانهها را طراحی میکنند، ایدهٔ واگذاری کنترل زیرساختهای نظارتی — یا بدتر، تسلیحات خودمختار — سؤالات اخلاقی عمیقی را مطرح میکند.
نامهٔ عمومی نه تنها بهخاطر پیامش بلکه بهخاطر ائتلاف امضاکنندگانش هم غیرمعمول است. کارکنان شرکتهای رقیب به ندرت چنین مواضع عمومیِ هماهنگشدهای را اتخاذ میکنند، مخصوصاً در صنعتی که نیروی انسانی، دستاوردهای تحقیقاتی و زیرساختها بهشدت مورد رقابتاند.
با اینحال کارگران دخیل میگویند رقابت در این بحث کماهمیت است. استدلال آنها ساده است: وقتی فناوری شروع به شکلدهی مجدد ساختارهای قدرت جهانی میکند، کسانی که آن را میسازند مسئولاند که محدودیتهایش را صریح بیان کنند.
اینکه آیا نامه استراتژی شرکتها را تغییر خواهد داد یا خیر هنوز نامشخص است. شراکتهای دفاعی درآمدزا هستند و دولتها در سراسر جهان در تلاشاند هوش مصنوعی را در برنامههای امنیت ملی ادغام کنند.
اما پیام از درون صنعت اکنون ثبت شده — علنی، جمعی و دشوار برای سوتعبیر کردن.
پیشزمینهٔ تاریخی و عوامل محرک
برای درک بهتر این اعتراض، ضروری است سابقهٔ رابطهٔ صنعت فناوری و نهادهای نظامی را مرور کنیم. گذشته نشان داده که شرکتها در مقاطعی بین منافع اقتصادی، فشارهای سیاسی و ملاحظات اخلاقی دچار تناقض میشوند.
نکات کلیدی سابقه عبارتاند از:
- پروژهٔ Maven (۲۰۱۷–۲۰۱۸): دورهای که اعتراضات کارمندان، قرارداد تحلیل تصاویر پهپاد را به پایان برد.
- تدوین اصول اخلاقی: شرکتها از آن زمان سیاستهای داخلی اخلاقی را تدوین کردهاند که اغلب کلی و باز به نظر میرسد.
- رشد مدلهای مولد: پیشرفتهای فنی اخیر باعث شده ظرفیتهای نظامی بالقوهٔ هوش مصنوعی بهطور فزایندهای ملموس شود.
این پیشزمینه نشان میدهد که نارضایتی فعلی ترکیبی از تجربیات گذشته، آگاهی از توانمندیهای فنی نوین و ترس از فرسایش معیارهای اخلاقی است.
نگرانیهای فنی و عملیاتی
در سطح فنی، پژوهشگران به چند ناحیهٔ اصلی خطر اشاره میکنند:
- دقت و خطا: الگوریتمها ممکن است در شرایط میدان نبرد یا زیر دادههای متغیر خطا کنند و پیامدهای انسانی و حقوقی سنگینی داشته باشند.
- قابلیت توضیحپذیری: مدلهای بزرگ معمولاً مکانیسمهای تصمیمگیری شفافی ندارند و این موضوع مسئولیتپذیری را پیچیده میسازد.
- تسریع عملیات: سیستمهایی که تصمیمات را با سرعت بسیار بالا اتخاذ میکنند ممکن است چرخههای تشدید شدهای ایجاد کنند که کنترل انسانی را مشکل میکند.
- نفوذپذیری زنجیرهٔ تأمین: وابستگی به شرکتهای خصوصی برای زیرساختها و مدلها میتواند نقاط ضعف امنیتی ایجاد کند.
این نگرانیها تکنیکی هستند اما پیامدهای اجتماعی و حقوقی دارند: از خطر افزایش تلفات غیرنظامیان تا پدید آمدن شکافهای جدید در مقررات بینالمللی جنگ.
ابعاد اخلاقی و حقوقی
مسائل اخلاقی فراتر از خطاهای فنی هستند. موضوعات مرتبط شامل مسئولیتپذیری قانونی برای اقدامات اتوماسیونشده، حقوق بشر در برابر نظارت انبوه، و اصول انسانی در تصمیمگیریهای کشنده است.
چند پرسش کلیدی که واکنش اخلاقی را پیچیده میکند:
- چه کسی در برابر تصمیماتِ ناشی از یک سامانهٔ خودمختار پاسخگوست؟ توسعهدهنده، اپراتور یا فرمانده نظامی؟
- چه استانداردهایی باید برای طراحی «قابلیت انسان در حلقه» وجود داشته باشد؟
- چگونه میتوان تضمین کرد که فناوریهای استقرار یافته با قوانین بینالمللی حقوق بشر و کنوانسیونهای جنگ تطابق دارند؟
پیامدهای سیاستگذاری و راهکارهای پیشنهادی
در مواجهه با این معضلات، ترکیبی از رویکردهای فنی، نهادی و سیاستی پیشنهاد میشود:
- شفافیت قراردادی: شرکتها باید گزارشهای شفاف دربارهٔ همکاریها و محدودیتهای قراردادی منتشر کنند.
- استانداردهای بینالمللی: تقویت گفتگوهای بینالمللی برای تدوین استانداردهایی که استفادهٔ نظامی از هوش مصنوعی را محدود یا راهنمایی کند.
- ممیزی مستقل: ایجاد مکانیزمهای ممیزی مستقلِ فنی و اخلاقی برای ارزیابی سامانهها پیش از استقرار نظامی.
- آموزش و مسئولیتپذیری: تدوین چارچوبهای مسئولیت قانونی روشن و آموزشهای ویژه برای کاربران نظامی و توسعهدهندگان.
موقعیت شرکتها و واکنشهای محتمل
هرچند شرکتها بهطور معمول از انتشار جزئیات قراردادهای دفاعی خودداری میکنند، اما چند رفتار محتمل قابل پیشبینی است:
- پذیرش محدود: برخی شرکتها ممکن است همکاریهایی محدود و با چارچوبهای نظارتی پذیرند تا هم بازار را از دست ندهند و هم نگرانیهای داخلی را مدیریت کنند.
- مقاومت مشروط: برخی دیگر ممکن است شروط اخلاقی و فنی خاصی را برای هر نوع همکاری نظامی تعیین کنند.
- خروج یا تعلیق: در مواردی، شرکتها ممکن است از مشارکت در پروژههایی که با اصول اخلاقی آنها در تضاد است، امتناع کنند یا همکاریها را متوقف کنند.
این واکنشها نشان میدهد که تعادل بین منافع اقتصادی، فشارهای امنیتی و تعهدات اخلاقی نقطهٔ مرکزیِ مناقشه خواهد بود.
چشماندازهای بینالمللی
اقدامات شرکتهای بزرگ فناوری آمریکایی میتواند الگوی جهانی را شکل دهد. دولتها، شرکتها و سازمانهای بینالمللی در اروپا، آسیا و دیگر مناطق نیز در حال بازنگری سیاستهای خود دربارهٔ هوش مصنوعی و امنیت هستند.
بنابراین تصمیمگیریها در سیلیکونولی تنها پیامدهای داخلی ندارند؛ آنها میتوانند استانداردهای جهانی در مورد کاربرد نظامی هوش مصنوعی را تحتتأثیر قرار دهند.
پیام نهایی امضاکنندگان
امضاکنندگان نامه میگویند هدف آنها فراتر از مخالفت نمادین است. آنها خواهان مکانیزمهایی هستند که از تحلیل اخلاقی در توسعهٔ فناوری حمایت کند و تضمین دهد که محدودهٔ استفادهٔ نظامیِ هوش مصنوعی بهصورت جمعی و شفاف تعیین میشود.
این خواستهها میتواند به انواع اقدامهای عملی منجر شود: از سیاستگذاری شرکتی روشن گرفته تا فشار عمومی و شکلدهی بحثهای قانونی و بینالمللی.
جمعبندی و نکات برای آینده
نامهٔ منتشرشده نشان میدهد که یک نیروی جدید درون صنعت فناوری خواهان نقش فعالتر در تعیین مرزهای استفادهٔ هوش مصنوعی است. این حرکت ترکیبی از نگرانیهای اخلاقی، هشدارهای فنی و حس مسئولیت حرفهای را نشان میدهد.
اگرچه آیندهٔ دقیق همکاری میان شرکتهای فناوری و نهادهای نظامی نامشخص است، اما چند نتیجهٔ محتمل عبارتاند از:
- پرداختن جدیتر به اخلاق و حاکمیت هوش مصنوعی در سطح شرکتی و بینالمللی،
- افزایش شفافیت دربارهٔ قراردادها و الزامات امنیتی، و
- گسترش گفتوگوهای چندجانبه دربارهٔ محدودیتها و چارچوبهای نظارتی برای استفادهٔ نظامی از فناوریهای هوش مصنوعی.
در نهایت، این موضوع تنها یک کشمکش بین شرکتها و دولتها نیست؛ بلکه بحثی دربارهٔ جهتگیری اخلاقی و مسئولیتپذیری فناوری است که تأثیرش فراتر از مرزهای ملی خواهد بود.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.