نقد و بررسی‌های جعلی هوش‌مصنوعی در تمام اینترنت!

ظهور ابزارهای هوش‌مصنوعی مولد این امکان را فراهم کرده است تا افراد تقریباً بدون تلاش چندانی بتوانند بررسی‌های جدید و دقیقی را در فضای آنلاین تولید و منتشر کنند. این مسئله دردسر‌هایی را برای فروشندگان، ارائه‌دهندگان خدمات و مشتریان ایجاد کرده است. به گزارش پیوست، در جهان امروز که پلتفرم‌های آنلاین بخش مهمی از حجم خرید و فروش محصولات را به خود اختصاص می‌دهند، بسیاری از مصرف‌کنندگان برای انتخاب محصول مورد نظر خود از شبکه‌های اجتماعی و یا نقد و بررسی‌های موجود در وب‌سایت‌های مختلف استفاده می‌کنند. همین موضوع انگیزه‌ای را برای کلاهبرداران فراهم کرده است تا با تولید محتوای جعلی و گمراه کننده، بر رفتار مشتریان تأثیر بگذارند. مطالعه جدیدی روی پلتفرم‌های ایالات متحده، بزرگ‌ترین بازار تجارت الکترونیک جهان و میزبان بزرگ‌ترین پلتفرم‌های تجارت الکترونیک، که خبر آن در را فست‌کمپانی منتشر کرده است، نشان می‌دهد که هوش‌مصنوعی مولد به افزایش چشمگیر بررسی‌های جعلی کمک کرده است و میلیون‌‌ها بررسی جعلی با استفاده از این ابزار‌ها تولید و منتشر شده‌اند.

هوش‌مصنوعی مولد تولید بررسی‌های جعلی را ساده‌تر کرده است

بررسی‌ و نقد‌های جعلی مدت‌‌هاست که یکی از دردسر‌های محبوب‌‌ترین وب‌سایت‌های جهان از جمله آمازون محسوب می‌شوند. این بررسی‌های جعلی معمولاً در گروه‌های شبکه اجتماعی بین ارائه‌دهنده و خریداری معامله می‌شوند و آغازگر چنین بررسی‌هایی معمولاً کسب‌وکارهایی هستند که تشویق‌هایی مثل کارت هدیه را برای بازخورد مثبت در نظر می‌گیرند. اما متخصصان صنعتی می‌گویند، تولید متن با ابزارهای هوش‌مصنوعی مولد که از زمان ارائه ChatGPT فراگیر شده‌اند، این امکان را برای کلاهبرداران فراهم کرده است تا بررسی‌های خود را سریع‌تر و در حجم بسیار گسترده‌تری تولید کنند. چنین فعالیت فریب‌کارانه‌ای با وجود غیرقانونی بودن در بسیاری از کشور‌‌ها از جمله ایالات متحده، به یکی از رویه‌های رایج جهان آنلاین تبدیل شده‌اند و از آنجایی که بسیاری از کاربران برای خرید به بررسی و نقد دیگر کاربران اتکاء می‌کند، اطلاع از گستره آن شاید برای بسیاری مفید باشد.

بررسی‌های ساخته هوش‌مصنوعی در کجا مشاهده می‌شوند؟

بررسی‌های جعلی را در صنایع مختلفی از تجارت الکترونیک گرفته تا رستوران‌‌ها و حتی بخش آنلاین خدمات منزل و خدمات درمان نیز مشاهده می‌کنیم. شرکت Transparency Company، یک شرکت فناوری از گروه‌های نظارتی که از نرم‌افزار برای ردیابی بررسی‌های جعلی استفاده می‌کند، می‌گوید بررسی‌‌ها و نقد‌های ساخته هوش‌مصنوعی از اواسط سال ۲۰۲۳ به تعداد بالا مشاهده شده‌اند و از آن زمان تعداد آن‌ها به چند برابر افزایش یافته است. این شرکت در گزارشی که ماه گذشته منتشر کرده است به بررسی ۷۳ میلیون بررسی و نقد در سه بخش پرداخته است: خدمت منزل، حقوقی و درمان. این بررسی نشان می‌دهد که ۱۴ درصد از تمام بررسی‌‌ها احتمالا جعلی هستند و به گفته این شرکت با «اطمینان بالایی» می‌توان گفت که ۲٫۳ میلیون بررسی و نقد به‌طور کامل یا تا حدی توسط هوش‌مصنوعی تولید شده‌اند. ماری بلکمن؛ سرمایه‌گذار و مشاور استارت‌آپ‌های فناوری، که مطالعه The Transparency Company را بررسی کرده و قرار است از ابتدای ژانویه این سازمان را رهبری کند، می‌گوید: «[هوش‌مصنوعی مولد] ابزار خیلی خیلی خوبی برای این جاعلان بررسی است.» شرکت نرم‌افزاری DoubleVerify در ماه آگوست گفت شاهد «افزایش قابل‌توجه» بررسی‌های ساخته هوش‌مصنوعی در اپلیکیشن‌های موبایلی و تلویزیون هوشمند است. این بررسی‌‌ها معمولاً با هدف ترغیب به نصیب اپلیکیشن‌هایی استفاده می‌شوند که می‌توانند دستگاه را تحت کنترل بگیرند یا دایم تبلیغاتی را به نمایش بگذارند. یک ماه پس از این بیانیه، کمیسیون تجارت فدرال (FTC) از یک شرکت ارائه دهنده ابزار نویسندگی هوش‌مصنوعی و تولید محتوا به نام Rytr به اتهام ارائه خدماتی برای آلوده کردن بازار با بررسی‌های جعلی، شکایت کرد. کمیسیون تجارت فدرال که در سال‌جاری فروش یا خرید بررسی‌های جعلی را ممنوع کرده است می‌گوید مشترکان Rytr از این ابزار برای تولید صد‌ها و شاید هزاران بررسی برای شرکت‌های تعمیر در گاراژ، فروشندگان کیف و دیگر کسب‌وکار‌ها استفاده کرده‌اند.