نتایج یک پژوهش جدید نشان میدهد که هوش مصنوعی هم مانند انسانها دیوانه و کلافه میشود! در ادامه با ما در مجله خبری آی تی و دیجیتال همراه باشید تا این موضوع را بررسی کنیم.
نتایج یک مطالعه محدودیتهای جدیدی را درباره مدلهای هوش مصنوعی مانند ChatGPT آشکار کرده است. به نظر میآید مدلهای هوش مصنوعی تمایل چندانی به آموزش دیدن ندارند و در صورتی که یک موضوع بیش از پنج بار به آنها آموزش داده شود، رفتار عجیب و غریبی از خود بروز داده و به اصطلاح دیوانه (MAD) میشوند.
بیشتر بخوانید: مایکروسافت تراشه هوشمصنوعی اختصاصی خودش را میسازد؛ رقابت با AWS داغتر میشود
هوش مصنوعی هم مانند انسانها دیوانه و کلافه میشود!
پژوهشگران دانشگاه استنفورد با مطالعه روی رفتار مدلهای هوش مصنوعی مانند ChatGPT به نتایج جالبی رسیدهاند. ظاهراً مدلهای هوش مصنوعی در هنگام آموزش دیدن رفتارهای عجیب و غریبی را از خود نشان میدهند. به نظر میآید اگر مدل هوش مصنوعی را بیش از پنج دوره با یک مطلب آموزش دهید، رفتار آنها تغییر کرده و مانند تصویر زیر خروجیهای غیر واقعی تولید میکنند. در این مواقع هوش مصنوعی به اصطلاح دیوانه یا MAD میشود.
بر اساس اعلام tomshardware همچنین ممکن است مدل های هوش مصنوعی دادههای مصنوعی تولید کرده و تصمیمات متعصبانه بگیرند. البته چنین رویکردی در رفتار هوش مصنوعی پس از پنج دوره آموزش نمود پیدا میکند.
هنوز معلوم نیست که آیا همه مدلهای هوش مصنوعی چنین اختلال رفتاری را دارند یا خیر. وجود چنین نقصی در عملکرد مدلهای هوش مصنوعی ممکن است آسیبهای جبران ناپذیری را به همراه داشته باشد. خصوصاً که این روزها بیشتر کارهای انسان دارد به هوش مصنوعی محول میشود.
بیشتر بخوانید:
نظر شما درباره اینکه هوش مصنوعی هم مانند انسانها دیوانه و کلافه میشود چیست؟ دیدگاه خود را در بخش کامنتها با مجله خبری آی تی و دیجیتال در میان بگذارید و اخبار تکنولوژی را با ما دنبال کنید.
نظرات کاربران