پرونده نیویورکر درباره سم آلتمن و بازی اعتماد

برای مردی که یکی از قدرتمندترین شرکت‌های هوش مصنوعی را می‌سازد، سم آلتمن همیشه نوع خاصی از شیفتگی را برانگیخته است. تحسین، سوءظن، حتی ترس. جرقه تازه از یک گزارش تحقیقی بلند در نیویورکر می‌آید که رئیس OpenAI را استاد متقاعدسازی نشان می‌دهد؛ کسی که دقیقا می‌داند چگونه تردیدکنندگان را با خود همراه کند، اما بعد آنها را در این فکر رها می‌کند که واقعا به چه چیز، اگر اصلا چیزی باشد، می‌توانند اعتماد کنند.

به گفته این گزارش، چند چهره داخلی صنعت فناوری آلتمن را فردی وسواسی نسبت به دوست‌داشتنی بودن توصیف می‌کنند، اما در عین حال کسی که راحت می‌تواند هر چیزی را که در آن لحظه لازم است بگوید تا دیگران با او همسو بمانند. یکی از اعضای پیشین هیئت‌مدیره OpenAI حتی یک گام فراتر رفته و او را «سایکوپات» نامیده و استدلال کرده است که او می‌تواند نسبت به پیامدهای تحریف حقیقت، به‌طرز نگران‌کننده‌ای بی‌تفاوت باشد.

یک ارائه صیقل‌خورده و خطی که مدام تغییر می‌کند

روایت نیویورکر نشان می‌دهد که بزرگ‌ترین نقطه قوت آلتمن نه نبوغ فنی، بلکه تنظیم دقیق احساسات است. گفته می‌شود او توانایی شگفت‌انگیزی در خواندن فضای جلسه دارد، اولویت‌های مهندسان، سرمایه‌گذاران و نهادهای نظارتی را بازتاب می‌دهد و خود را فردی معرفی می‌کند که بیش از همه می‌تواند از نگرانی‌های آنها محافظت کند.

منتقدان می‌گویند همین مهارت می‌تواند به دام تبدیل شود. در این مقاله، آلتمن کسی تصویر شده که از ایمنی هوش مصنوعی به‌عنوان ابزاری برای اقناع استفاده می‌کند، هر زمان لازم باشد به افراد نگران اطمینان می‌دهد و سپس وقتی فشار کم می‌شود، در جهتی دیگر حرکت می‌کند. اتهام فقط این نیست که او جاه‌طلب است. مسئله این است که جاه‌طلبی او در قالب وعده‌هایی عرضه می‌شود که ممکن است دوام چندانی نداشته باشند.

آرون شوارتز، برنامه‌نویس فقید و فعال اینترنتی که در سال‌های آغازین Y Combinator با آلتمن هم‌مسیر شده بود، ظاهرا به دوستانش هشدار داده بود که نمی‌توان به او اعتماد کرد. در این روایت آمده است که شوارتز گفته بود: «او هر کاری می‌کند.» این جمله با توجه به نفوذ شوارتز در فرهنگ فناوری و جدیتی که امروز به سخنان او داده می‌شود، سایه‌ای بسیار سنگین دارد.

این مقاله همچنین به اتهامی بسیار جدی از سوی خواهر آلتمن بازمی‌گردد؛ کسی که شکایت مدنی ثبت کرده و مدعی سال‌ها آزار جنسی از دوران کودکی اولیه است. آلتمن، همراه با مادر و برادرانش، این ادعاها را رد کرده‌اند. این اتهامات همچنان بخشی از بحث عمومی گسترده‌تر درباره چهره‌ای هستند که نفوذش اکنون بسیار فراتر از سیلیکون‌ولی رفته است.

بعد نوبت به جنبه تجاری می‌رسد، جایی که این تصویر تیزتر هم می‌شود. چند نفر که نیویورکر از آنها نقل‌قول کرده، آلتمن را کمتر به‌عنوان یک سازنده در معنای مهندسی و بیشتر به‌عنوان یک معامله‌گر تمام‌عیار توصیف می‌کنند؛ کسی که می‌تواند سرمایه‌گذاران، مدیران و همکاران را متقاعد کند که ارزش‌های آنها همان ارزش‌های اوست.

یکی از مدیران فناوری این رفتار را «حقه‌های ذهنی جدای» نامیده است. این عبارت شاید رنگ‌وبوی جذابی داشته باشد، اما معنایش به اندازه کافی صریح است. افراد بعد از گفتگو با او با این حس که قانع شده‌اند و حتی انرژی گرفته‌اند، از جلسه بیرون می‌آیند و فقط بعدتر متوجه می‌شوند که شاید زمین زیر پایشان جابه‌جا شده باشد.

یکی از روشن‌ترین نمونه‌های گزارش به داریو آمودی، مدیرعامل Anthropic، مربوط می‌شود؛ مدیر اجرایی پیشین OpenAI که در نهایت برای ساخت یک شرکت رقیب با محوریت ایمنی هوش مصنوعی جدا شد. بر اساس یادداشت‌هایی که نیویورکر بررسی کرده، آمودی در جریان مذاکره بر سر یک سرمایه‌گذاری بزرگ مایکروسافت در سال 2019، فهرستی از مطالبات ایمنی را مطرح کرد. آلتمن دست‌کم روی کاغذ موافقت کرد. اما وقتی معامله به مراحل پایانی نزدیک شد، آمودی متوجه شد بندی تازه و بی‌سروصدا، شرط اصلی فهرست او را تضعیف کرده است. وقتی او این موضوع را با آلتمن در میان گذاشت، گفته می‌شود رئیس OpenAI وجود چنین بندی را اساسا انکار کرد، با اینکه آمودی آن را برایش با صدای بلند خواند.

ساتیا نادلا، مدیرعامل مایکروسافت، نیز در این گزارش به‌عنوان یکی دیگر از مدیرانی دیده می‌شود که در مسیر آلتمن قرار گرفته است. گفته می‌شود افراد داخل مایکروسافت می‌گویند این رابطه بر اثر چندین اختلاف بر سر توافق‌ها و انتظارات آسیب دیده است. یکی از مدیران گفته آلتمن «نادرست‌نمایی کرده، تحریف کرده، دوباره مذاکره کرده و از توافق‌ها عدول کرده است»؛ رشته‌ای از اتهام‌ها که بیشتر از یک لغزش موردی، یک الگو را نشان می‌دهد.

امسال یک نقطه اصطکاک دیگر هم به وجود آمد. در همان روزی که OpenAI بار دیگر مایکروسافت را به‌عنوان ارائه‌دهنده انحصاری برای مدل‌های هوش مصنوعی بدون حافظه خود تأیید کرد، هم‌زمان یک قرارداد جداگانه 50 میلیارد دلاری با آمازون را نیز برای پلتفرم Frontier خود در حوزه عامل‌های هوش مصنوعی اعلام کرد. بر اساس این گزارش، مایکروسافت اعلام کرده بود که در صورت لزوم آماده است این حرکت را از مسیر حقوقی به چالش بکشد. در صنعتی که از قبل هم با رقابت شدید تعریف می‌شود، چنین تنشی از آن نوعی است که می‌تواند ائتلاف‌ها را خیلی سریع دگرگون کند.

اما همه افراد حاضر در این مقاله، آلتمن را یک شرور بزرگ که در سایه‌ها نقشه می‌کشد، نمی‌بینند. سو یون، یکی از اعضای پیشین هیئت‌مدیره OpenAI، تفسیر متفاوتی ارائه داد. از نگاه او، آلتمن آن‌قدرها نابغه‌ای ماکیاولیستی نبود، بلکه کسی بود که درون شتاب خودش گیر افتاده بود و آخرین ارائه‌اش را باور می‌کرد، حتی وقتی دیگر با واقعیت همخوانی نداشت.

یون گفت: «او بیش از حد در باور به خودش غرق شده است. برای همین کارهایی می‌کند که اگر در دنیای واقعی زندگی کنید، هیچ معنایی ندارند. اما او در دنیای واقعی زندگی نمی‌کند.»

شاید این، افشاگرانه‌ترین جمله در کل گزارش باشد. چون در رقابت هوش مصنوعی، باور می‌تواند حکم پول را داشته باشد، اقناع می‌تواند قدرت باشد و اعتمادبه‌نفس می‌تواند میلیاردها دلار را جابه‌جا کند. اما وقتی وعده‌ها شروع به لرزیدن می‌کنند، آدم‌های دور میز معمولا متوجه می‌شوند. و از آن لحظه به بعد، نخستین چیزی که ترک می‌خورد، اعتماد است.