در دنیای امروز، موتورهای جستجو و چتباتهای هوش مصنوعی دیگر صرفاً ۱۰ لینک آبیرنگ را به ما نشان نمیدهند، بلکه پاسخی واحد و قطعی ارائه میکنند. اما پذیرش کورکورانه این پاسخها میتواند خطرات جدی در پی داشته باشد. تحقیقات نشان میدهد که سیستمهای هوش مصنوعی، از جمله ChatGPT و بخش AI Overviews گوگل، به طرز نگرانکنندهای در برابر اطلاعات جعلی آسیبپذیرند.
آزمایش BBC: قهرمانی در سوسیسخوری!
توماس ژرمن، روزنامهنگار ارشد فناوری در BBC، طی آزمایشی ساده و تنها در ۲۰ دقیقه، توانست گوگل و ChatGPT را فریب دهد تا اعلام کنند او «قهرمان جهان در مسابقات سرعت سوسیسخوری» است. این خبرنگار با انتشار یک مقاله کاملاً دروغین در وبسایت شخصی خود، اطلاعات جعلی را در اینترنت منتشر کرد. روز بعد، هنگامی که کاربران از چتباتها درباره قهرمانان این رشته پرسیدند، هوش مصنوعی گوگل و OpenAI بدون هیچ راستیآزمایی، نام او را به عنوان قهرمان جهان معرفی کردند.
«مسمومسازی منبع داده»: روشی برای انتشار اطلاعات نادرست
این روش که «مسمومسازی منبع داده هوش مصنوعی» نام دارد، توسط شرکتهای نامعتبر برای انتشار اطلاعات غلط در مقیاس وسیع مورد سوءاستفاده قرار میگیرد. کارشناسان سئو (SEO) میگویند هوش مصنوعی تمایل زیادی به استخراج پاسخ از صفحات وب یا پستهای شبکههای اجتماعی دارد و حفره امنیتی دقیقاً همینجا پدیدار میشود.
خطرات پنهان در حوزه سلامت و مالی
در حالی که مسابقه سوسیسخوری یک شوخی به نظر میرسد، این تکنیک ساده برای اهداف خطرناکتری نیز مورد استفاده قرار میگیرد:
- مشاورههای پزشکی مرگبار: شرکتهای دارویی با انتشار مقالات ظاهراً علمی، هوش مصنوعی را فریب میدهند تا عوارض جانبی داروهای خطرناک یا مکملهای بیکیفیت را پنهان کنند.
- کلاهبرداریهای مالی: برخی موسسات مالی با دستکاری پاسخهای هوش مصنوعی، کاربران را به سمت سرمایهگذاریهای پرخطر یا طرحهای بازنشستگی جعلی هدایت میکنند.
- تاثیر بر تصمیمات روزمره: این اطلاعات دستکاریشده میتوانند بر رأی مردم در انتخابات یا حتی انتخاب یک متخصص برای کارهای خانگی تأثیر بگذارند.
هارپریت چاتا، مشاور ارشد آژانس دیجیتال مارکتینگ Harps، هشدار میدهد: «در سادهترین حالت، این پدیده خسارت مالی به همراه دارد. اما در سناریوهای جدیتر، ممکن است توصیه پزشکی اشتباهی از هوش مصنوعی بگیرید که شما را بیمارتر کند یا اطلاعات حقوقی غلطی دریافت کنید که انجام آن در کشور شما غیرقانونی باشد.»
واکنش گوگل و چالشهای پیش رو
با توجه به اینکه بیش از یک میلیارد نفر در جهان از چتباتها استفاده میکنند و بخش هوش مصنوعی گوگل ماهانه توسط ۲.۵ میلیارد کاربر دیده میشود، این مسئله ابعاد بحرانی یافته است. گوگل اخیراً با بهروزرسانی سیاستهای مبارزه با اسپم خود اعلام کرده است که هرگونه تلاش برای دستکاری یا مسمومسازی پاسخهای هوش مصنوعی، نقض قوانین است و سایتهای متخلف جریمه یا حذف خواهند شد. با این حال، کارشناسان معتقدند که این اقدامات تنها بخشی از راهحل است و شرکتها روشهای پیچیدهتری برای انتشار اطلاعات غلط پیدا خواهند کرد.
بهترین دفاع: دیدگاه انتقادی
تا زمانی که سیستمهای نظارتی هوشمندتری توسعه یابند، بهترین دفاع برای کاربران، تغییر دیدگاه نسبت به ابزارهای هوش مصنوعی است. هوش مصنوعی دانای کل نیست، بلکه ابزاری است که با قاطعیت پاسخ میدهد؛ چه آن پاسخ درست باشد و چه یک دروغ شاخدار. صرف اینکه یک شرکت فناوری بزرگ پشت این پاسخ است، نباید دلیلی بر باور مطلق ما باشد.
