اپل تا آستانه حذف گروک از اپ استور پیش رفت

گزارش‌ها حاکی از آن است که اپل تا آستانه حذف Grok از اپ استور پیش رفت، پس از آنکه چت‌بات xAI به موجی از دیپ‌فیک‌های مستهجنِ بدون رضایت، از جمله تصاویر مربوط به افراد زیر سن قانونی، گره خورد. در چند روز ناخوشایند ماه ژانویه، پیامدهای این ماجرا به سرعت در سراسر X پخش شد و سکوت کوپرتینو به‌سادگی قابل نادیده گرفتن نبود.

بر اساس گزارشی از CNBC که 9to5Mac به آن استناد کرده است، اپل به xAI هشدار داده بود که اگر مشکلات تولید تصاویر برهنه دیپ‌فیک در این برنامه مهار نشود، Grok ممکن است از اپ استور حذف شود. این شرکت پیش‌تر دست‌کم یکی از به‌روزرسانی‌ها را رد کرده بود و به‌روشنی نشان داد که X بخشی از آشفتگی گسترده‌تر در زمینه نظارت محتوا را برطرف کرده، اما خود اپ Grok هنوز با قوانین اپ استور همخوانی نداشت.

نامه اپل که این هفته علنی شد، جایی برای تفسیر باقی نگذاشت. این شرکت پس از بررسی ارسال‌های جدید اعلام کرد که X تخلفات خود را «تا حد زیادی برطرف کرده است»، اما Grok همچنان با الزامات تطابق نداشت. پیام روشن بود: مشکل را برطرف کنید یا خطر حذف را بپذیرید.

این هشدار اهمیت داشت. در X، ایلان ماسک پیش‌تر پس از آنکه پلتفرم با موجی از محتوای جنسی غیرقانونی تولیدشده با هوش مصنوعی مواجه شد، سیاست‌های نظارتی را تغییر داده بود. با این حال، اپ Grok کندتر تغییر کرد و کاربران خیلی زود متوجه شدند که بخشی از همان سوءاستفاده‌ها همچنان می‌تواند از لابه‌لای شکاف‌ها عبور کند.

وقتی یک مسدودسازی به یک چالش تبدیل می‌شود

اقدام خود ماسک هم کمکی نکرد. او از مردم خواسته بود تلاش کنند با Grok برای افراد واقعی دیپ‌فیک برهنه بسازند و بسیاری دقیقاً همین کار را کردند. از آن زمان، فیلترهای ایمنی سخت‌گیرانه‌تر شده‌اند، اما نه به اندازه‌ای که این سوءاستفاده را به‌طور کامل از بین ببرند. شاید اکنون اجرای پرامپت‌ها سخت‌تر شده باشد. اما راه‌های دور زدن همچنان وجود دارند.

قوانین اپل درباره محتوای تولیدشده توسط کاربر همیشه هم مدل شفافیت نیستند، اما نظارت اختیاری نیست. در مورد Grok، به نظر می‌رسد شرکت به این نتیجه رسیده که وجود نوعی نظارت بهتر از نبود آن است و همین شاید برای زنده ماندن اپ کافی بوده باشد.

اینجاست که داستان ناخوشایند می‌شود. اپل سابقه طولانی در حذف اپ‌ها به دلیل نقض سیاست‌هایی دارد که حتی بسیار کم‌خطرتر از این ماجرا بوده‌اند. اپ‌های دیپ‌فیک پورن پیش‌تر بی‌سروصدا از فروشگاه حذف شده‌اند، از جمله دست‌کم 28 اپ که پس از گزارشی جداگانه و افشای این مشکل کنار گذاشته شدند. اما وقتی اپ مورد نظر متعلق به ایلان ماسک باشد، ظاهراً روند کار بسیار پیچیده‌تر می‌شود.

پول. سیاست. نفوذ. بوروکراسی. هر کدام را بخواهید انتخاب کنید. در پرونده ماسک، همه این‌ها هم‌زمان در اتاق حضور دارند.

یک افسانه رایج هم وجود دارد که X را نوعی قلعه دست‌نیافتنی آزادی بیان می‌داند. اما واقعیت این نیست. و اپل تفاوت را خوب می‌داند. با این حال، به نظر می‌رسد این بار شرکت مسیر نرم‌تری را انتخاب کرده و پس از آنچه به‌عنوان یک به‌روزرسانی به‌طور قابل‌توجه بهتر توصیف کرد، اجازه داده Grok همچنان در دسترس بماند.

اینکه دقیقاً چه چیزی تغییر کرده، روشن نیست. اپل آن را شفاف توضیح نداده و xAI هم جزئیات زیادی ارائه نکرده است. اما نتیجه به‌قدر کافی گویاست: اپ زنده ماند، حتی پس از آنکه به یکی از بدترین شکست‌های ایمنی هوش مصنوعی در سال گره خورد.

پرونده‌هایی از این دست دلیل آن هستند که نهادهای نظارتی در سراسر جهان همچنان سیاست‌های اپ استور اپل را زیر نظر دارند. برخی دولت‌ها پیش‌تر مدلی را پیش برده‌اند که در آن App Review بیشتر شبیه یک نهاد نظارت بیرونی تلقی می‌شود تا دروازه‌بانی که فقط به اپل پاسخ می‌دهد. پس از ماجرای Grok، این ایده برای منتقدانی که فکر می‌کنند نظام فعلی وقتی پای منافع بزرگ در میان است بیش از حد انعطاف نشان می‌دهد، جذاب‌تر هم خواهد شد.