سم آلتمن: حوادث در فناوری های نو تا حدی اجتناب ناپذیرند

سم آلتمن، مدیرعامل اوپن‌ای‌آی، در کنفرانس دریم‌فورس سیلزفورس در ۱۷ سپتامبر ۲۰۲۶ گفت: «فکر می‌کنم وقوع حوادث تا حدی با فناوری‌های جدید اجتناب‌ناپذیر است.»

به نوشته دبشیش در ۱۷ سپتامبر ۲۰۲۶، آلتمن این موضوع را در چارچوب واکنش و یادگیری سازمانی مطرح کرد و گفت آنچه بیش از همه اهمیت دارد، نحوه برخورد صنعت با رخدادها در زمان وقوع آن‌هاست. او گفت: «چیزی که واقعاً برای من اهمیت دارد، داشتن فرهنگ عالی گزارش‌دهی و یادگیری از حوادث است» و از اداره هوانوردی فدرال و هیئت ملی ایمنی حمل‌ونقل آمریکا به‌عنوان الگوهایی نام برد که هر حادثه را بررسی می‌کنند و برای افزایش ایمنی از آن درس می‌گیرند.

آلتمن نگرانی عمومی درباره سیستم‌های کنترل‌نشده و تمرکز قدرت در دست چند آزمایشگاه را پذیرفت. او گفت این نگرانی‌ها قابل درک‌اند و افزود: «جهان حق دارد از این موضوع بترسد.» او تأکید کرد شرکت‌ها باید فعالیت‌های خود در زمینه هم‌راستاسازی، ایمنی و نظارت را به‌مراتب جلوتر از پیشرفت توانمندی مدل‌ها نگه دارند. او گفت اگر نتوانند این توازن را حفظ کنند، باید آماده کاهش سرعت یا حتی توقف پژوهش باشند. به گفته او، هدف بررسی صادقانه رخدادها و بهبود مستمر است، نه پذیرش بی‌تفاوت آسیب‌ها.

بحث بر سر سرعت پیشرفت و اختیار تصمیم‌گیری

این اظهارات در شرایطی مطرح شد که نظارت بر آزمایشگاه‌های پیشرو هوش مصنوعی، به‌ویژه با نزدیک‌تر شدن سیستم‌ها به خودمختاری بیشتر، شدت گرفته است. اظهارات اخیر جیکوب کاکسون، پژوهشگری که پس از سابقه کار در اوپن‌ای‌آی، به‌تازگی شرکت آنتروپیک را ترک کرده است، نیز با هشدار درباره رقابت شرکت‌ها برای دستیابی به ابرهوش خودبهبوددهنده، به این بحث دامن زد.

این دیدگاه‌ها بخشی از گفت‌وگوی گسترده‌تر و ادامه‌دار درباره سرعت پیشرفت هوش مصنوعی پیشرو است. برخی فعالان صنعت خواستار احتیاط بیشتر شده‌اند، در حالی که سیاست آمریکا در دولت کنونی بر حفظ برتری فناوری تمرکز دارد.

تأکید آلتمن بیشتر بر فرایندها بود تا ارائه راهکاری مشخص: باید پذیرفت که ممکن است حوادث رخ دهند، اما همچنان به گزارش‌دهی شفاف، بررسی سریع و فعالیت‌های هم‌راستاسازی متعهد ماند تا تدابیر ایمنی از رشد توانمندی‌های هوش مصنوعی جلوتر باشند.