نگرانی‌ از مدل‌های زبانی جستجو روی وب

مدل‌های زبانی یا همان سیستم‌های هوش مصنوعی که می‌توانند مقاله و ایمیل بنویسند، به سؤالات پاسخ دهند و ….؛ از برخی جهات ضعف‌هایی دارند و استفاده از قابلیت جستجو در وب مزایا و معایب خاصی به این سیستم می‌بخشد.

به گزارش مجله خبری آی تی و دیجیتال و به نقل از venturebeat، از آنجایی که این سیستم نوشتن را از نوشته‌های موجود در وب، از جمله پست‌های رسانه‌های اجتماعی یاد می‌گیرند، مستعد تولید اطلاعات نادرست، تئوری‌های توطئه، و زبان نژادپرستانه، جنسیت‌ زده، یا هر زبان سمی هستند.

در ابتدا یکی دیگر از محدودیت‌های اصلی این زبان هوشمند؛ محدودیت به زمان است. از آنجایی که آن‌ها با مجموعه بزرگی از متن از وب آموزش می‌بینند، دانش آنها بسته به زمان استقرار آن‌ها می‌تواند به سرعت منسوخ شود.

مثلاً، ابزار کمکی نوشتن You.com – که توسط مدل زبان GPT-3 OpenAI ارائه شده و در تابستان 2020 آموزش داده شده است؛ وقتی از آن می‌پرسند “رئیس جمهور ایالات متحده کیست؟” جواب می‌دهد “رئیس جمهور فعلی ایالات متحده دونالد ترامپ است.”

راه حل

برخی از محققان پیشنهاد کردند، دسترسی مدل‌های زبانی هوشمند به موتورهای جستجوی وب مانند گوگل، Bing و DuckDuckGo می‌توانند مفید باشد؛ زیرا به‌جای تکیه بر داده‌های قدیمی، آخرین اطلاعات را در مورد یک موضوع خاص جستجو می‌کند.

در حالی که این فرآیند پیچیده است؛ اما محققان ادعا می‌کنند که دقت واقعی پاسخ‌ها تا 30 درصد بهبود می‌بخشد.

به طور مثال محققان متا (فیسبوک سابق) یک ربات چت به نام BlenderBot 2.0 را توسعه دادند که با جستجو در اینترنت اطلاعات به روزی در مورد فیلم‌ها و نمایش‌های تلویزیونی ارائه می‌دهد که نسبت به نسخه‌ی قبلی بهتر شده است.

خطرات و تهدیدها

در حالی که جستجوی وب امکانات زیادی را در اختیار سیستم زبان هوش مصنوعی قرار می‌دهند؛ خطرات جدیدی نیز به همراه دارد.

وب «لایو» نسبت به مجموعه داده‌های ایستا، کمتر مدیریت شده و کمتر فیلتر شده است.

البته وب زنده را می‌توان تا حدی فیلتر کرد و طبق نظر محققان DeepMind موتورهای جستجو مانند گوگل و بینگ می‌توانند از مکانیسم‌های “ایمنی” برای کاهش احتمال محتوای غیرقابل اعتماد استفاده می‌کنند.

علاوه بر این کنترل موتورهای جست و جو می‌تواند بر روی این سیستم‌ها تأثیر منفی بگذارد؛ به طور مثال گوگل خدمات خود را در جستجو اولویت بندی می‌کند و به درخواست سفر با داده‌های Google Places اطلاعات می‌دهد؛ به جای منبع اجتماعی غنی‌تر مانند TripAdvisor.