سام آلتمن و اوپن ای آی: خط قرمز علیه نظارت انبوه داخلی

سام آلتمن معمولاً لحن مردی را ندارد که خود را برای کشمکش حقوقی آماده می‌کند. این بار اما همین‌طور بود.

پس از خشم عمومی نسبت به همکاری تازه آشکار شدهٔ اوپن‌ای‌آی با وزارت دفاع ایالات متحده، مدیرعامل شرکت اعلام کرد که قرارداد را بازنویسی خواهند کرد تا یک نکته به‌طور غیرقابل ابهامی مشخص شود: سامانه‌های هوش مصنوعی اوپن‌ای‌آی نباید برای نظارت انبوه بر شهروندان آمریکایی به‌کار روند.

آلتمن یک یادداشت داخلی — که ابتدا برای کارکنان ارسال شده بود — منتشر کرد و تغییر را تشریح نمود. به گفتهٔ او، متن به‌روز شده به‌صراحت نظارت عمدی داخلی بر اشخاص و ملیت‌های آمریکایی را ممنوع خواهد کرد و این محدودیت را به قاعده‌ها و حفاظ‌های حقوقی موجود مانند متمم چهارم قانون اساسی، قانون امنیت ملی و قانون نظارت بر اطلاعات خارجی (FISA) پیوند می‌دهد.

عبارت پیشنهادی در این یادداشت برای یک پیمان‌کار دولتی به‌طرز غیرمعمولی مستقیم است. متن می‌گوید که مطابق با قوانین قابل اجرا در ایالات متحده، «سامانهٔ هوش مصنوعی نباید عمداً برای نظارت داخلی بر اشخاص و ملیت‌های آمریکایی مورد استفاده قرار گیرد.» همچنین یک خط توضحی اضافه می‌کند تا راه‌های گریز را ببندد و تأکید می‌کند که این ممنوعیت شامل تعقیب یا پایش عمدی نیز می‌شود، حتی زمانی که این کار بر پایهٔ اطلاعات شخصی یا قابل شناسایی خریداری‌شده از بازارهای تجاری انجام شود.

تغییر قرارداد و خطی در میان‌روده

آلتمن همچنین ادعا می‌کند که وزارت دفاع موردی دیگر را تأیید کرده است که منتقدان فوراً نگران آن شده بودند: بر اساس توافق فعلی، خدمات اوپن‌ای‌آی به آژانس‌های اطلاعاتی ایالات متحده مانند NSA تحویل داده نخواهند شد. او می‌گوید اگر روزی چنین تغییری مدنظر قرار گیرد، نیاز به اصلاح قرارداد خواهد داشت.

سپس جمله‌ای آمد که سریع‌تر از همه پخش شد: آلتمن نوشت که اگر دستوری دریافت کند که به‌اعتقاد او خلاف قانون اساسی است، ترجیح می‌دهد به زندان برود تا اطاعت کند. این بیان به‌ظاهر دراماتیک است، اما هم‌زمان علامتی است از تلاش اوپن‌ای‌آی برای کشیدن یک خط روشن بین «کار دفاعی» و «پایش داخلی»، تمایزی که در لحظه‌ای که هوش مصنوعی وارد معادله می‌شود معمولاً مبهم می‌گردد.

او همچنین پذیرفت که اجرای این خبر آشفته بود. به گفتهٔ خودش، اوپن‌ای‌آی اعلام را بیش از حد سریع منتشر کرد — او گفت این مسائل «بسیار پیچیده» هستند و نیاز به ارتباط روشن‌تری دارند. نیت، به ادعای او، کاهش تنش و جلوگیری از «نتیجه‌ای بسیار بدتر» بود. اما زمان‌بندی اعلام باعث شد این قرارداد ظاهری فرصت‌طلبانه پیدا کند.

و زمان‌بندی واقعاً قابل توجه بود. شراکت اوپن‌ای‌آی درست پس از آنکه رئیس‌جمهور دونالد ترامپ دستور داد آژانس‌های دولتی ایالات متحده استفاده از کلود و دیگر سرویس‌های Anthropic را متوقف کنند، مطرح شد. قابل ذکر است که Anthropic از سال 2024 با دولت فدرال همکاری داشته است.

جزئیات فنی و تعریف نظارت انبوه

برای درک عمیق‌تر، باید تعریف فنی‌تری از «نظارت انبوه» ارائه دهیم: این عبارت معمولاً به پایش سیستماتیک و گستردهٔ جمعیت‌ها اطلاق می‌شود—شامل جمع‌آوری، ترکیب و تحلیل حجم بالایی از داده‌های شخصی برای دنبال‌کردن حرکات، رفتارها یا ارتباطات افراد بدون حکم یا مبنای قانونی جداگانه برای هر فرد. در زمینهٔ هوش مصنوعی، خطر زمانی افزایش می‌یابد که مدل‌ها به پایگاه‌های دادهٔ عظیم، داده‌های تجاری شناسایی‌شونده یا جریان‌های قابل ردیابی بلادرنگ دسترسی پیدا کنند و از آن‌ها برای پیگیری یا پیش‌بینی رفتار افراد استفاده کنند.

حفاظ‌های قراردادی مورد اشارهٔ آلتمن باید مشخص کنند که چه نوع دسترسی‌ها، چه فرآیندهای حسابرسی و چه مکانیسم‌های شفافیتی لازم است تا از هرگونه استفادهٔ نظارتی عمدی جلوگیری شود. افزون بر این، تعریف روشن «قصد» (intent) در متون قراردادی برای جلوگیری از تفسیرهای گسترده حیاتی است: آیا پردازش داده‌های شخصی به‌منظور بهبود عملکرد سیستمی که عملاً به پایش منجر می‌شود هم شامل ممنوعیت می‌شود؟ متن پیشنهادی آلتمن تلاش می‌کند تا مواردی از این دست را محدود کند.

Anthropic، حفاظ‌ها و دیگ فشار سیاسی

داستان عمیق‌تر در اینجا تنها یک بند قراردادی نیست — بلکه گسست رو به گسترش میان آزمایشگاه‌های بزرگ هوش مصنوعی دربارهٔ آن است که مدل‌هایشان در دست دولت چه کاری می‌توانند و نمی‌توانند انجام دهند.

بر اساس گزارش‌هایی که در یادداشت آلتمن بازتاب یافته‌اند، رهبری وزارت دفاع و وزیر پیته هگست (Pete Hegseth) فشار آورده بودند تا Anthropic حفاظ‌های امنیتی مدل کلود را تضعیف کند تا این مدل بتواند برای هر «هدف قانونی» مورد استفاده قرار گیرد. فهرست «استفاده‌های قانونی» در آن گزارش‌ها ظاهراً شامل نظارت انبوه و کار در جهت تسلیحات کاملاً خودمختار نیز می‌شد.

Anthropic مخالفت کرد. در بیانیه‌ای شرکت گفت «هیچ میزان تهدید یا تنبیهی» موضع آن‌ها در قبال نظارت انبوه داخلی یا تسلیحات کاملاً خودمختار را تغییر نخواهد داد. دستور ترامپ در پی آمد و گزارش شد که وزارت دفاع مراحل اولیه‌ای را برای برچسب‌زدن Anthropic به‌عنوان «ریسک زنجیرهٔ تأمین» آغاز کرد — برچسبی که معمولاً به شرکت‌های خارجی (اغلب چینی) متهم به ارتباط با دولت اختصاص داده می‌شود.

فشار سیاسی و معیارهای ریسک زنجیرهٔ تأمین

برچسب «ریسک زنجیرهٔ تأمین» ابزاری سیاسی و حقوقی است که می‌تواند دسترسی یک شرکت به قراردادهای دولتی را محدود کند. معیارهای این برچسب معمولاً شامل ارتباطات ویژه با دولت‌های خارجی، وجود مؤلفه‌های نرم‌افزاری یا سخت‌افزاری با منشأ خارجی و نگرانی‌های امنیت ملی است. اما به‌کارگیری این معیارها علیه شرکت‌های داخلی یا مستقل که از لحاظ فنی بی‌طرف هستند، می‌تواند به مناقشات سیاسی و رقابتی تبدیل شود.

آلتمن می‌گوید که به مسئولان آمریکایی گفته است Anthropic نباید به‌عنوان ریسک زنجیرهٔ تأمین شناخته شود و امیدوار بود پنتاگون به Anthropic همان نوع قراردادی را پیشنهاد دهد که اوپن‌ای‌آی پذیرفته است. او در یک جلسه پرسش و پاسخ آخر هفته در شبکهٔ X افزود که او متن دقیق قرارداد Anthropic را نمی‌داند و تفاوت‌های حقوقی آن‌ها را نمی‌تواند تأیید کند، اما اگر اساساً مشابه باشد، معتقد است Anthropic باید آن را پذیرفته باشد.

این اختلاف صرفاً اختلاف سیاستی نیست—بلکه نمایشی رقابتی است که در منظر عموم بازی می‌شود.

پیامدهای رقابتی و واکنش بازار

پس از انتشار خبر قرارداد اوپن‌ای‌آی با وزارت دفاع، کلود بلافاصله به صدر جدول اپلیکیشن‌های رایگان App Store اپل صعود کرد و از ChatGPT و Google Gemini پیش افتاد. Anthropic سریعاً قابلیت‌هایی را فعال کرد تا انتقال کاربران از ربات‌های گفتگو را ساده‌تر کند، از جمله ابزار وارد کردن حافظه برای تسهیل نقل و انتقال داده‌ها بین چت‌بات‌ها. در همین حال، طبق داده‌های Sensor Tower تعداد حذف‌های ChatGPT روزانه به‌طور ناگهانی 295 درصد افزایش یافت.

این واکنش‌ها نشان‌دهندهٔ حساسیت بازار و اعتماد کاربران است: هنگامی که کاربران احساس کنند حفاظ‌ها قابل مذاکره یا قابل تضعیف‌اند، اعتماد به‌سرعت کاهش می‌یابد. شرکت‌ها باید هم از منظر حقوقی و هم از منظر روابط عمومی به مدیریت ریسک و حفظ شفافیت بیش از پیش توجه کنند.

حقوق، قانون اساسی و چارچوب‌های نظارتی

متن پیشنهادی که آلتمن مطرح کرد اشاره‌ای مستقیم به متمم چهارم دارد؛ متممی که حفاظت در برابر جست‌وجوها و توقیف‌های غیرمنصفانه را تضمین می‌کند. هرگونه استفادهٔ دولتی از تکنولوژی‌های هوش مصنوعی که همراه با جست‌وجوی دیجیتال فراگیر یا پایش داده‌های شخصی باشد می‌تواند با چالش‌های حقوقی مواجه شود. علاوه بر متمم چهارم، قانون امنیت ملی و FISA چارچوب‌هایی را در موضوعات اطلاعاتی و دسترسی به داده‌ها تعیین می‌کنند که می‌توانند تعریف‌کنندهٔ مرزهای قانونی برای کاربردهای هوش مصنوعی در عرصهٔ امنیت ملی باشند.

علاوه بر قوانین فدرال، قوانین ایالتی و مقررات حریم خصوصی مصرف‌کننده (نظیر قوانین حفاظت دادهٔ ایالت‌ها یا قوانین بین‌المللی مانند GDPR برای تعاملات فراملی) نیز می‌توانند محدودیت‌های تکمیلی اعمال کنند. بنابراین هر قرارداد دولتی که ادعا می‌کند استفاده از مدل‌ها را محدود می‌کند، نیاز دارد دقیقاً نشان دهد چگونه با مجموعهٔ پیچیده‌ای از مقررات داخلی و بین‌المللی همخوانی دارد.

پیشنهادات عملی برای شفافیت و پاسخگویی

• تعریف دقیق و قابل سنجش از «نظارت انبوه» در متن قرارداد، همراه با نمونه‌های روشن از آنچه ممنوع است و آنچه مجاز است.
• مکانیزم‌های حسابرسی مستقل و دوره‌ای که دسترسی‌ها، لاگ‌های تراکنش و داده‌های آموزشی یا ورودی مدل را بررسی کنند.
• مکانیزم‌های شفافیت عمومی دربارهٔ نوع داده‌هایی که مدل‌ها به آن دسترسی دارند و شرایط واگذاری یا فروش داده‌های شخصی.
• بندهای فسخ و اصلاح قرارداد که در صورت تغییر در سیاست‌های حاکم یا دریافت دستور قضایی مشخص عمل کند.
• نهادهای پاسخگو و کانال‌های شکایت برای شهروندان و ناظران حقوقی تا در صورت سوءاستفاده تحقیقات مستقل انجام شود.

این اقدامات می‌تواند به کاهش ریسک حقوقی، افزایش اعتماد عمومی و کاهش اثرات منفی احتمالی بر نوآوری کمک کند.

در مجموع، ما با موضوعی مواجه‌ایم که هم‌زمان ابعاد فنی، حقوقی، سیاسی و تجاری دارد. قراردادها و متن‌هایی که شرکت‌ها و دولت‌ها امضا می‌کنند، فراتر از زبان حقوقی صرف‌اند؛ آن‌ها نشان‌دهندهٔ مرزبندی‌های اخلاقی و عملیاتی‌اند که تعیین می‌کنند چگونه فناوری‌های قوی مانند هوش مصنوعی در جامعهٔ مدرن به‌کار گرفته شوند.

این رویداد همچنین یادآوری می‌کند که گفتگوهای عمومی، خبرنگاری تحقیقی و فشار مدنی می‌توانند تأثیر معنی‌داری بر سیاست‌های فناوری داشته باشند؛ زمانی که کاربران، قانون‌گذاران و فعالان موضوعی به‌موقع وارد میدان می‌شوند، شرکت‌ها به بازنگری و شفافیت بیشتر ترغیب می‌شوند.

در نهایت، پرسش‌های اساسی همچنان پابرجا هستند: چه کسی مسئول تعیین مرزهای اخلاقی فناوری است؟ چگونه می‌توان بین منافع امنیت ملی و حقوق فردی تعادل برقرار کرد؟ و چه نهادهایی باید نظارت و پاسخگویی را بر عهده بگیرند؟ این‌ها سؤالاتی هستند که نه‌فقط در اتاق‌های قرارداد، بلکه در مجامع عمومی و سیاست‌گذاری قرار است پاسخ داده شوند.