0

چت بات هوش مصنوعی ChatGPT گاهی اوقات دروغ می‌گوید

چت بات هوش مصنوعی ChatGPT گاهی اوقات دروغ می‌گوید


پروژه‌های هوش مصنوعی مانند Stable Diffusion  ویژگی‌های خوبی دارند، اما هنوز نمی‌تواند به خوبی اطلاعات را بررسی کند، نمونه دیگر چت بات جدید ChatGPT AI است که بهتر است به آن اعتماد نکنید.

به گزارش مجله خبری آی تی و دیجیتال و به نقل از howtogeek، کمپانی OpenAI که بیشتر به عنوان شرکت تحقیقاتی DALL-E شناخته می‌شود، اکنون چت بات هوش مصنوعی ChatGPT   را توسعه داده است.

ربات‌های چت فناوری جدیدی نیستند، حتی ربات‌هایی که می‌توانند به مکالمات قبلی اشاره کنند، اما ChatGPT یکی از تاثیرگذارترین آن‌ها است.

هدف اصلی آن پاسخ دادن به سؤالات اطلاعاتی است، مانند جزئیات زندگی یک فرد، دستورالعمل‌های آشپزی، و حتی برنامه نویسی.

این گروه در وب‌سایت خود نوشته است: «ما یک مدل اولیه را با استفاده از تنظیمات دقیق آموزش دادیم: مربیان هوش مصنوعی مکالماتی را ارائه می‌کردند که در آن هر دو طرف دخیل بودند؛ هم کاربر و هم دستیار هوش مصنوعی. ما به مربیان اجازه دادیم به پیشنهادهای مدل نوشته شده دسترسی داشته باشند تا به آنها کمک کنیم تا پاسخ‌های خود را بنویسند.

با این حال، چند مشکل مهم در ChatGPT وجود دارد.

ChatGPT  در واقع نمی‌گوید که اطلاعات را از کجا پیدا کرده است. دستورهای مستقیم ساده باید دارای نقل قول باشند.

تعیین اینکه آیا یک بخش از اطلاعات واقعاً درست است یا نه، سخت است. شما برای پردازش صحیح آن اطلاعات به مدل هوش مصنوعی تکیه می‌کنید.

ChatGPT معمولاً با سؤالات ساده درست عمل می‌کند، مانند پرسیدن زمان تولد یک شخص مشهور یا تاریخ وقوع یک رویداد مهم، اما درخواست‌هایی که به اطلاعات دقیق‌تر و بیشتری نیاز دارند، سخت است.

نمونه‌های دیگری از داده‌های نادرست نیز در این چت بات گزارش شده است.

ChatGPT دارای فیلترهایی برای جلوگیری از پاسخ‌های مضر است، اما دور زدن آن‌ها آسان است.

OpenAI  نیز اعلام کرده که ChatGPT گاهی اوقات نادرست عمل می‌کند.

 

نظرات کاربران

  •  چنانچه دیدگاهی توهین آمیز باشد و متوجه نویسندگان و سایر کاربران باشد تایید نخواهد شد.
  •  چنانچه دیدگاه شما جنبه ی تبلیغاتی داشته باشد تایید نخواهد شد.
  •  چنانچه از لینک سایر وبسایت ها و یا وبسایت خود در دیدگاه استفاده کرده باشید تایید نخواهد شد.
  •  چنانچه در دیدگاه خود از شماره تماس، ایمیل و آیدی تلگرام استفاده کرده باشید تایید نخواهد شد.
  • چنانچه دیدگاهی بی ارتباط با موضوع آموزش مطرح شود تایید نخواهد شد.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *