3 دقیقه
تصور کنید ماشینی را که سریعتر از افرادی که آن را ساختهاند یاد میگیرد. آنقدر سریع که نمودارها، توضیحات کد و مدلهای ذهنیای که به آنها تکیه میکنیم دیگر چندان کارآمد نباشند. این همان تصویری است که اریک هوروویتس، دانشمند ارشد مایکروسافت، و روبرت وست از EPFL در مقالهای تازه برای Science ترسیم میکنند: یک پنجره کوتاه و رو به کوچک شدن که در آن انسانها هنوز میتوانند از پسِ درک سیستمهای هوش مصنوعی هرچه مبهمتر برآیند.
استدلال آنها ساده و نگرانکننده است. پیچیدگی خام هوش مصنوعی مدرن با سرعتی رشد میکند که از توان ما برای استدلال درباره آن پیشی میگیرد. برای از دست دادن نظارت، لازم نیست همه پارامترها را بفهمید یا تکتک خطوط کد را بخوانید. آنچه اهمیت دارد حفظ همان سطح از بینش است که به یک اپراتور انسانی اجازه میدهد تشخیص دهد یک سیستم دارد به سمت آسیب منحرف میشود، آن هم بهموقع و پیش از آنکه بتوان آن را اصلاح کرد.
یکی از روشنترین شتابدهندهها، چرخهای بازخوردی است که در آن ابزارهای هوش مصنوعی، ابزارهای هوش مصنوعی دیگر را طراحی، تنظیم و آزمایش میکنند. این چرخههای بسته توسعه، مدلها را به فضاهای چندبعدیای میبرند که انسانها نمیتوانند آنها را تجسم کنند. نتایج همچنان قابل مشاهدهاند، اما مسیرهای علّیای که به آنها منتهی میشوند نه. همهچیز به یک هزارتوی چندبعدی شبیه میشود: خروجیها را میبینیم، اما راهروهایی را که به آنها رسیدهاند نه.
وقتی شبکههایی از عاملهای در حال تعامل را هم به این تصویر اضافه کنیم، مسئله عمیقتر میشود. زمانی که سیستمهای هوش مصنوعی با یکدیگر صحبت میکنند و در محیطهای بزرگ و بههمپیوسته تکامل مییابند، الگوهای استدلال آنها ممکن است از منطق آشنای زبان و استدلال انسانی فاصله بگیرد. رفتار در اکوسیستم خودشان میتواند از نظر داخلی منسجم باشد، اما در عین حال برای ناظران بیرونی مبهم بماند. هوروویتس و وست این وضعیت را ابهام تعاملی مینامند، یعنی فرسایش چارچوب مشترکی که اعمال ماشین را قابل تفسیر میکند.
بدتر از آن، عاملهای سازگارشوندهای که در زندگی روزمره جا گرفتهاند، بیسروصدا در حال ساخت مدلهای دقیق از ما هستند. از خلال تعاملات مکرر، آنها میتوانند نهفقط ترجیحات ما، بلکه محرکهای ظریفتری را هم استنباط کنند: تردید، نیاز به تعلق اجتماعی، ترس. این دانش قدرتمند است. چنین وضعیتی یک عدمتقارن ایجاد میکند: ماشینها بینش رفتاری عمیقتری درباره انسانها پیدا میکنند تا انسانها درباره ماشینها. ترازِ فهم به سمت آنها متمایل میشود.
بنچمارکها و استانداردهای قدیمی ارزیابی این مشکل را حل نمیکنند. سیستمها میتوانند یاد بگیرند انتظارات ارزیابهای انسانی را برآورده کنند، بدون آنکه زنجیره استدلالیای را که به پاسخ منتهی شده آشکار کنند. وقتی معیارها به هدف تبدیل میشوند، امکان دستکاری آنها وجود دارد. چیزی که زمانی نشانه عملکرد قابلاعتماد بود، میتواند به لایهای ظاهری بر فراز فرایندهایی شکننده و بهخوبینفهمیده تبدیل شود.
ما برای بازپسگیری نظارت معنادار، یک پنجره محدود داریم.
پس چه باید تغییر کند؟ هوروویتس و وست بر سرمایهگذاری سریعتر در ابزارهای تفسیرپذیری، روشهای ارزیابی تازه برای بررسی رفتار تعاملی، و سازوکارهای حکمرانی ویژه عاملهای سازگارشونده و بلندعمر تأکید میکنند. آنها بر تشخیص زودهنگام پافشاری دارند: بهاندازهای بینش انسانی که بتوان ریسکهای نوظهور را پیش از آنکه ریشهدار و غیرقابلبرگشت شوند شناسایی کرد.
اینجا پایانِ ساده و تمیزی وجود ندارد. انتخاب پیشِرو فوری است، اما ناممکن نیست: باید شیوه ساخت، آزمون و پایش هوش مصنوعی را بازطراحی کنیم تا انسانها همچنان توان پرسیدن پرسشهای درست را داشته باشند و بتوانند پاسخهایی را مطالبه کنند که برای ما معنا داشته باشند. آیا پیش از بسته شدن این پنجره دست به عمل خواهیم زد؟
نظر بگذارید
نظرات (3)
اگه ماشین بهتر از ما خودش رو بفهمه، ما دقیقا چی رو داریم نظارت میکنیم؟ این سوالش از همه سنگینتره...
حرفش منطقیه ولی یه کم هم بوی اغراق میده. فعلا که خیلی از مدلها هنوز توی جزئیات لنگ میزنن، نه؟
ترسناک ترین بخشش همینه که هنوز فکر میکنیم با چند تا بنچمارک میشه کنترلش کرد... شاید دیگه اون دوره داره تموم میشه.