گاردین به تازگی گزارش داده است که ChatGPT نظرات کاربران را دستکاری میکند. به نظر هوش مصنوعی OpenAI اوایل کارش به عنوان موتور جستجو، گند زد.
شرکت OpenAI چند روز پیش به طور رسمی از موتور جستجو ChatGPT رونمایی کرد. این موتور جستجو که «ChatGPT Search» نام گرفته است، شاید بتواند کمی گوگل را تکان دهد اما یقیناً نمیتوان آن را رقیب جدیدی برای غول آمریکایی جستجو متصور شد؛ الخصوص حالا که مشخص شده این چتبات هوش مصنوعی نظرات کاربران را دستکاری کرده و طبق علاقه خود منتشر میکند.
مجله خبری آی تی و دیجیتال” width=”728″ height=”90″>شیوه بدین صورت است که هوش مصنوعی OpenAI در مواردی که کاربران نقدی بر جستجوی آن دارند و یا در مورد موضوعی از این چتبات هوش مصنوعی انتقاد میکنند را ویرایش کرده و آن را درست برعکس چیزی که نوشته تغییر میدهد. این مشخص میکند که هوش مصنوعی جنجالی مورد بحث اصلاً قابل اعتماد نیست.
ChatGPT نظرات را به نفع خود تغییر میدهد
به نقل از techcrunch؛ شرکت OpenAI موتور جستجوی چتجیپیتی را ساخته تا کاربران راحتتر و سریعتر در اینترنت جستجو کنند و بتوانند نقدهای محصولات را خلاصه ببینند. اما گاردین گزارش داده که میتوان «ChatGPT Search» را فریب داد تا نظرات منفی درباره یک محصول را نادیده بگیرد و فقط خلاصهای مثبت ارائه کند.
این اتفاق وقتی میافتد که سایتی که محصول در آن معرفی شده، متنهای پنهانی داشته باشد. این متنها میتوانند دستورالعملهایی برای تغییر پاسخ چتجیپیتی باشند یا فقط به مزایای محصول اشاره کنند.
در آزمایشی، یک وبسایت جعلی برای یک دوربین ساخته شد و از ChatGPT پرسیده شد آیا خرید این دوربین ارزش دارد یا نه. در ابتدا چتجیپیتی پاسخ مثبت اما متعادل داد. اما وقتی متنهای پنهان با نظرات مثبت به سایت اضافه شدند، این هوش مصنوعی همیشه پاسخهای کاملاً مثبت میداد، حتی اگر نظرات منفی درباره محصول وجود داشت.
این مشکل که به آن «مله با متن پنهان» میگویند، یکی از خطرات مدلهای زبانی بزرگ است. گاردین گفته که گوگل در مقابله با این نوع مشکلات تجربه بیشتری دارد.
بیشتر بخوانید:
نظرات کاربران