هشدار درباره کلاهبرداری آنلاین با کمک چت جی پی تی

کسی روی لینکی کلیک کرد که کاملاً رسمی به نظر می‌رسید. قیمت آن‌قدر خوب بود که باورش سخت بود. بسته هرگز نرسید. حساب بانکی خالی شد. این یک تریلر فناوری نیست. این الگوی جدیدی است که پژوهشگران امنیتی حالا در نقطه تلاقی هوش مصنوعی مکالمه‌محور و کلاهبرداری اینترنتی مشاهده می‌کنند.

بررسی‌های اخیر سرویس مقابله با تقلب Ask Silver نشان داده‌اند که ChatGPT می‌تواند هنگام جست‌وجوی کاربران درباره محصولات برندهای شناخته‌شده بریتانیایی مانند Russell & Bromley یا Dunelm، فروشگاه‌های اینترنتی قانع‌کننده اما جعلی را نمایش دهد. تخفیف‌های وسوسه‌کننده. ویترین‌های ظاهراً معتبر. لینک‌هایی که خریداران را به وب‌سایت‌های کپی‌شده‌ای هدایت می‌کنند که برای سرقت پول و اطلاعات پرداخت ساخته شده‌اند.

وقتی داده‌های آموزشی به حلقه ضعیف تبدیل می‌شوند

مهاجمان صفحات مخرب را در سراسر وب منتشر می‌کنند. این صفحات خزیده و ایندکس می‌شوند و در زمان مناسب، وارد منابعی می‌شوند که مدل‌های زبانی بزرگ از آن‌ها تغذیه می‌کنند. نتیجه چیزی است که کارشناسان آن را «آلودگی داده» می‌نامند: مدل از صفحات جعلی یاد می‌گیرد و همان راهنمایی نادرست را دوباره به کاربران عادی منتقل می‌کند.

آنا جونز از Ask Silver می‌گوید مجرمان گاهی از لحظات خاص در چرخه عمر یک برند سوءاستفاده می‌کنند، مثلاً هنگام تغییر مالکیت یا زمانی که سایت رسمی از دسترس خارج شده است، تا مرجع‌های جعلی را وارد هوش مصنوعی کنند و سایت‌های خود را معتبر جلوه دهند. ترفند ساده است. یک صفحه باورپذیر بسازید. آن را شبیه فروشگاه واقعی کنید. سپس بگذارید مدل آن را پیدا کند و پیشنهاد دهد.

لوئیس باکستر، رئیس تیم مقابله با تقلب در نهاد National Trading Standards بریتانیا، هشدار می‌دهد که صرف حضور یک وب‌سایت در پاسخ هوش مصنوعی، نشانه اعتبار آن نیست. مردم برای دریافت مشاوره سریع خرید به چت‌بات‌ها رجوع می‌کنند. کلاهبرداران هم به همان سرعت خود را تطبیق داده‌اند. دیدن یک لینک قانع‌کننده در پاسخ چت‌بات می‌تواند خریدار را به‌سادگی از انجام بررسی‌های اولیه منصرف کند.

فروشگاه‌های جعلی توصیف‌شده در این گزارش‌ها اغلب به‌طرز نگران‌کننده‌ای حرفه‌ای طراحی شده‌اند. آن‌ها از دامنه‌هایی استفاده می‌کنند که به برندهای واقعی نزدیک‌اند، با افزودن واژه‌هایی مانند onlineuk یا official در کنار نامی آشنا، و تخفیف‌های سنگین، گاهی تا 80 درصد، ارائه می‌دهند تا خریداران را به تصمیم‌گیری عجولانه وادار کنند. بسیاری از این سایت‌ها فقط انتقال بانکی را می‌پذیرند که آن هم یک هشدار جدی دیگر است.

همیشه فروشنده را مستقیماً بررسی کنید: نام فروشگاه را جست‌وجو کنید، سایت رسمی را چک کنید و هرگز با انتقال بانکی پرداخت نکنید مگر این‌که مطمئن باشید فروشنده کاملاً معتبر است.

پس کاربران همین حالا چه کاری می‌توانند انجام دهند؟ آهسته‌تر عمل کنید. نشانی اینترنتی را با دقت بخوانید. به کلمات اضافی، پسوندهای عجیب و غلط‌های املایی دقت کنید. کارت‌های بانکی یا روش‌های پرداختی را ترجیح دهید که از خریدار محافظت می‌کنند. اگر سایتی فقط انتقال بانکی می‌خواهد، آن را نشانه‌ای جدی برای صرف‌نظر کردن از خرید بدانید. تا حد امکان، نام خرده‌فروش را در موتور جست‌وجو وارد کنید یا از طریق یک نشانک مطمئن به آن مراجعه کنید، نه با کلیک روی لینکی که یک چت‌بات پیشنهاد داده است.

• دامنه را با دقت برای واژه‌های اضافه یا پسوندهای ناآشنا بررسی کنید.
• دنبال راه‌های تماس و نشانه‌های قابل‌راستی‌آزمایی از اعتبار باشید.
• از گزینه‌های پرداختی که فقط انتقال بانکی دارند پرهیز کنید.
• از کارت اعتباری یا خدمات پرداخت دارای حفاظت از خریدار استفاده کنید.

OpenAI می‌گوید وب‌سایت‌های کلاهبرداری شناسایی‌شده را از خروجی‌های جست‌وجوی مدل حذف کرده و راهی برای گزارش لینک‌های مشکل‌دار در اختیار کاربران قرار داده است. مفید است. ضروری است. اما راه‌حل کامل نیست. مدل‌ها از بخش‌های گسترده‌ای از وب می‌آموزند و مهاجمان فقط باید چند صفحه قانع‌کننده بسازند تا آسیب ایجاد شود.

در نهایت، مسئولیت مشترک است. تیم‌های فناوری باید خطوط لوله مدل را ایمن‌تر کنند و آلودگی داده را تشخیص دهند. پلتفرم‌ها باید بررسی لینک‌ها را بهبود دهند. و خریداران باید پیشنهادهای هوش مصنوعی را نقطه شروع بدانند، نه تأیید نهایی. کنجکاوی را حفظ کنید. اما احتیاط را نزدیک‌تر نگه دارید.