پروژه‌های هوش مصنوعی مانند Stable Diffusion ویژگی‌های خوبی دارند، اما هنوز نمی‌تواند به خوبی اطلاعات را بررسی کند، نمونه دیگر چت بات جدید ChatGPT AI است که بهتر است به آن اعتماد نکنید.
به گزارش مجله خبری آی تی و دیجیتال و به نقل از howtogeek، کمپانی OpenAI که بیشتر به عنوان شرکت تحقیقاتی DALL-E شناخته می‌شود، اکنون چت بات هوش مصنوعی ChatGPT را توسعه داده است.
ربات‌های چت فناوری جدیدی نیستند، حتی ربات‌هایی که می‌توانند به مکالمات قبلی اشاره کنند، اما ChatGPT یکی از تاثیرگذارترین آنها است.
هدف اصلی آن پاسخ دادن به سؤالات اطلاعاتی است، مانند جزئیات زندگی یک فرد، دستورالعمل‌های آشپزی، و حتی برنامه نویسی.
این گروه در وبسایت خود نوشته است: «ما یک مدل اولیه را با استفاده از تنظیمات دقیق آموزش دادیم: مربیان هوش مصنوعی مکالماتی را ارائه می‌کردند که در آن هر دو طرف دخیل بودند؛ هم کاربر و هم دستیار هوش مصنوعی. ما به مربیان اجازه دادیم به پیشنهادهای مدل نوشته شده دسترسی داشته باشند تا به آنها کمک کنیم تا پاسخ‌های خود را بنویسند.
با این حال، چند مشکل مهم در ChatGPT وجود دارد.
ChatGPT در واقع نمی‌گوید که اطلاعات را از کجا پیدا کرده است. دستورهای مستقیم ساده باید دارای نقل قول باشند.
تعیین اینکه آیا یک بخش از اطلاعات واقعاً درست است یا نه، سخت است. شما برای پردازش صحیح آن اطلاعات به مدل هوش مصنوعی تکیه می‌کنید.
ChatGPT معمولاً با سؤالات ساده درست عمل می‌کند، مانند پرسیدن زمان تولد یک شخص مشهور یا تاریخ وقوع یک رویداد مهم، اما درخواست‌هایی که به اطلاعات دقیق‌تر و بیشتری نیاز دارند، سخت است.
نمونه‌های دیگری از داده‌های نادرست نیز در این چت بات گزارش شده است.
ChatGPT دارای فیلترهایی برای جلوگیری از پاسخ‌های مضر است، اما دور زدن آنها آسان است.
OpenAI نیز اعلام کرده که ChatGPT گاهی اوقات نادرست عمل می‌کند.
نظرات کاربران