پاسخ آنتروپیک به درخواست پنتاگون درباره هوش مصنوعی

آنتروپیک گفت «نه». کمتر از ۲۴ ساعت پیش از آن‌که اولتیماتوم پنتاگون منقضی شود، این استارت‌آپ مستقر در سان‌فرانسیسکو رسماً درخواست وزارت دفاع برای دسترسی نامحدود نظامی به مدل‌های هوش مصنوعی خود را رد کرد. این تصمیم در زمانی گرفته شد که بحث درباره نقش مدل‌های زبانی بزرگ و سامانه‌های هوش مصنوعی پیشرفته در امنیت ملی و نقش آن‌ها در عملیات نظامی به یکی از موضوعات داغ سیاست‌گذاری تبدیل شده است. اعلام رسمی مخالفت آنتروپیک نه تنها پیامی قوی درباره حفظ مرزهای اخلاقی در توسعه فناوری فرستاد، بلکه نشان داد که شرکت‌های خصوصی می‌توانند در مقابل فشارهای دولت برای تغییر عملکرد امنیتی مدل‌ها مقاومت کنند.

این تصمیم مانند خارِ کوچکی در رویهٔ خاموشِ تبعیت در صنعت فناوری نشست. مدیران آنتروپیک درخواست وزارت دفاع را به‌خاطر نگرانی عمیق از این‌که سیستم‌هایشان ممکن است بازپیکربندی شوند تا برای نظارت گسترده یا تولید سلاح‌های کاملاً خودمختار که بدون نظارت انسان عمل می‌کنند، مورد استفاده قرار گیرند، رد کردند. این موضع آن‌ها را از شماری از هم‌صنفی‌هایی که پیش از این شرایط پنتاگون را پذیرفته‌اند، متمایز می‌سازد. پیام روشن بود: امکان تبدیل ابزارهای کمکی به ابزارهای تهاجمی، به‌ویژه در غیاب ضوابط اخلاقی و فنی محکم، یک خط قرمز است.

مدیرعامل، داریو آمودی، برای توضیح موضع شرکت احضار شد و با مقام‌های دفاعی در کاخ سفید دیدار کرد؛ جایی که او خطوط قرمز شرکتش را صریحاً تبیین کرد. او اهمیت به‌کارگیری هوش مصنوعی پیشرفته در دفاع ملی را پذیرفت، اما هشدار داد که برخی کاربردها در شرایط فعلی هم از نظر اخلاقی مشکل‌زا و هم از منظر فنی ناامن هستند. ما نمی‌توانیم با وجدان راحت با درخواست آن‌ها موافقت کنیم. این صراحت در موضع‌گیری نشان می‌دهد که آنتروپیک ترجیح می‌دهد به‌جای پیروی بی‌چون‌وچرا، معیارهای ایمنی و اخلاق را اولویت قرار دهد؛ معیارهایی که بر تضمین امنیت انسانی و کاهش خطرات احتمالی تمرکز دارند.

پاسخ آنتروپیک همچنین به تناقض عملی در رویکرد واشنگتن اشاره کرد. از یک سو وزارت دفاع هشدار داده بود که ممکن است شرکت را در فهرست «ریسک زنجیره تأمین» قرار دهد—برچسبی که معمولاً برای بازیگران خارجی یا رقبای استراتژیک به‌کار می‌رود—و از سوی دیگر برخی مقام‌ها استدلال کرده‌اند که مدل‌های زبانی بزرگ مبتنی بر ابر برای امنیت ملی حیاتی هستند. آمودی استدلال کرد که این تضاد نمی‌تواند توجیه‌کننده رها کردن ضوابط اخلاقی و مکانیزم‌های حفاظتی باشد؛ چرا که محافظت از شهروندان، سربازان و حقوق بنیادین، فراتر از ملاحظات صرفاً راهبردی قوه مجریه است.

ابزارهای قانونی نیز روی میز قرار دارند. پنتاگون علامت داده که می‌تواند اقداماتی همچون استفاده از قانون تولید دفاعی (Defense Production Act) را برای مجبور کردن فروشندگان به حذف محدودیت‌های ایمنی روی مدل‌هایی که ارتش آن‌ها را ضروری تشخیص می‌دهد، به‌کار گیرد. آنتروپیک اعلام کرده که حاضر نیست حفاظ‌های ایمنی را به شکلی حذف کند که به‌طور آگاهانه جان سربازان یا غیرنظامیان را به خطر بیندازد. در عین حال شرکت تضمینی عملیاتی نیز ارائه داد: اگر وزارت دفاع تصمیم به قطع همکاری بگیرد، آنتروپیک متعهد شده همکاری کند تا تحویل یا جایگزینی خدمات طوری انجام شود که اختلال در عملیات نظامی رخ ندهد. این ترکیب از ایستادگی اخلاقی و آمادگی اجرایی تلاش می‌کند تعادل میان مسئولیت اجتماعی و الزامات عملی را حفظ کند.

تمام توسعه‌دهندگان هوش مصنوعی چنین مقاومتی نشان ندادند. شرکت‌هایی مانند اوپن‌ای‌آی (OpenAI) و xAI گزارش شده که شرایط جدید وزارت دفاع را پذیرفته‌اند یا در حال مذاکره با دولت هستند. آنچه مخالفت آنتروپیک را برجسته می‌کند این است که این شرکت در میان معدود نهادهایی قرار دارد که مدل‌های آن‌ها تا حدی نزدیک به استانداردهای نظامی تشخیص داده شده‌اند و حتی در این وضعیت رهبران آن‌ها انتخاب کردند که اصل اخلاقی را بر تبعیت کامل از درخواست‌های دولتی ترجیح دهند. این انتخاب بازتابی از یک ارزیابی داخلی عمیق درباره پیامدهای اجتماعی، حقوقی و امنیتی آزادسازی یا تسهیل دسترسی نظامی به توانمندی‌های هوش مصنوعی است.

چرا این موضوع اهمیت دارد؟ زیرا بحث دیگر انتزاعی نیست. پرسش‌هایی مانند: «چه زمانی ابزاری که قرار بوده به‌عنوان یار کمکی عمل کند، به یک سلاح تبدیل می‌شود؟» و «چه کسی مسئول است وقتی یک سامانه خودمختار تصمیمات مرگ و زندگی می‌گیرد؟» حالا ملموس شده‌اند. اقدام آنتروپیک این پرسش‌ها را دوباره به فضای عمومی بازگردانده، جایی که قانون‌گذاران، فناوران و نظامی‌ها باید درباره حد و مرزهای ایمنی، حاکمیت و نوآوری به توافق برسند. این مذاکرات نه تنها بر سیاست‌های داخلی تأثیر خواهند گذاشت، بلکه می‌توانند چارچوب‌های بین‌المللی مرتبط با توسعه و استفاده از هوش مصنوعی نظامی را شکل دهند.

این تقابل همچنین یک تقسیم‌بندی گسترده‌تر در اکوسیستم فناوری را برجسته می‌کند: شرکت‌هایی که بین فرصت‌های تجاری و فشارهای دولتی، از یک سو، و ریسک‌های اعتباری و مسئولیت‌های اخلاقی، از سوی دیگر، باید توازن برقرار کنند. نتایج این بن‌بست‌ها مسیرهای خرید و تدارکات دولت، اولویت‌های پژوهشی دانشگاه‌ها و شرکت‌ها، و ضوابط حفاظتی مدل‌های هوش مصنوعی را برای سال‌های آینده تعیین خواهد کرد. سیاست‌های خرید دولتی، معیارهای گواهی ایمنی و قراردادهای همکاری می‌توانند به‌سرعت تغییر کنند و استانداردهای جدیدی برای پاسخگو کردن توسعه‌دهندگان هوش مصنوعی وضع نمایند.

هر چه پیش آید، این ماجرا یادآور این نکته است که ساختن هوش مصنوعی قدرتمند بی‌آن‌که هنجارهای روشنی وجود داشته باشد، انتخاب‌های دشواری به همراه دارد—و بعضی شرکت‌ها حاضرند برای کشیدن خط قرمز، شهرت و موقعیت تجاری خود را به خطر اندازند. از منظر سیاست عمومی، این رویداد بر لزوم تدوین چارچوب‌های شفاف اخلاقی، فنی و حقوقی برای استفاده نظامی از هوش مصنوعی تأکید می‌کند؛ چارچوب‌هایی که هم امنیت ملی و هم حقوق بشر و حریم خصوصی را در نظر بگیرند. ادامه این بحث‌ها و تصمیم‌گیری‌ها تعیین خواهد کرد که چه تعادلی میان نوآوری فناوری و رعایت اصول اخلاقی برقرار شود و جامعه چگونه خطرات ناشی از کاربردهای نظامی هوش مصنوعی را مدیریت کند.