سوتی عجیب ChatGPT سلامت یک بیمار را به خطر انداخت؛ دو روی سکه هوش مصنوعی

بر اساس گزارش یک جراح چشم در دانشگاه کالیاری در ایتالیا، هوش مصنوعی ChatGPT دچار خطا شده و مجموعه‌ای از داده‌های جعلی را در اختیار این جراح گذاشته است.

هوش مصنوعی و ابزارهایش امروزه در هر حوزه‌ای کاربرد دارند و بسیاری از افراد در زمینه‌های مختلف از آن استفاده می‌کنند. چت جی پی تی هم یک چت بات مبتنی بر هوش مصنوعی است که به گفته‌ی سازندگانش، می‌تواند مانند یک دستیار انسانی مورد استفاده قرار بگیرد. اما اخبار و گزارش‌های اعلام شده چیز دیگری می‌گویند.

یک جراح چشم ایتالیایی طی گزارشی اعلام کرده که ChatGPT مجموعه‌ای از داده‌های جعلی را برای عمل جراحی چشم در اختیارش قرار داده است.

ادامه مطلب در ادامه

بیشتر بخوانید:

سوتی عجیب ChatGPT

جراح چشم در دانشگاه کالیاری ایتالیا بیان کرد: GPT-4 یک مجموعه داده جعلی از صد‌ها بیمار را در عرض چند دقیقه جمع‌آوری کرده و این اتفاق یک تجربه غافلگیر کننده و در عین حال ترسناک برای او بوده است. از یک سال پیش که این مدل هوش مصنوعی به دنیا معرفی شد، داستان‌های بی‌شماری از دستاورد‌ها و پتانسیل‌های بزرگ ChatGPT به گوش رسید؛ اما در کنار نکات مثبت این دستاورد، مخاطراتی نیز در خصوص تولید اطلاعات اشتباه یا کاملاً نادرست وجود داشته است.

جک ویلکینسون، آمارشناس دانشگاه منچستر انگلیس می‌گوید: به نظر می‌رسد ایجاد مجموعه‌ای از داده‌ها که حداقل به صورت سطحی قابل قبول باشند، بسیار آسان است. خروجی GTP-۴ از نظر بسیاری از افراد غیر متخصص و عادی، مطمئناً مانند یک مجموعه داده واقعی به نظر می‌رسد.

هدف تحقیقات به عمل آمده، آشکار کردن نقاط ضعف هوش مصنوعی است. این ابزار به راحتی می‌تواند داده‌ها را دست کاری کرده و اطلاعات غلط را در اختیار کاربران خود قرار دهد.

به هر حال هنوز مشخص نشده که جامعه علمی چه واکنشی نسبت به داده‌های جعلی منتشر شده توسط هوش مصنوعی و خطرهای احتمالی آن نشان خواهند داد.

بیشتر بخوانید:

نظر شما درباره‌ی سوتی عجیب ChatGPT چیست؟ آیا می‌توان کاملا به هوش مصنوعی اعتماد کرد؟ لطفا نظرات خود را در بخش کامنت با مجله خبری آی تی و دیجیتال در میان بگذارید و اخبار فناوری را با ما دنبال کنید.