OpenAI حسابهای کاربران چینی را به دلیل استفاده از ChatGPT برای نظارت بر شبکههای اجتماعی مسدود کرد
بهگزارش مجله خبری آی تی و دیجیتال به نقل از engadget، برای اولین بار، OpenAI توانسته چنین فعالیتی را شناسایی کند. این شرکت روز جمعه اعلام کرد که حسابهای گروهی از کاربران چینی را که سعی داشتند از ChatGPT برای اصلاح و ویرایش کد یک ابزار نظارتی بر شبکههای اجتماعی استفاده کنند، مسدود کرده است.
مجله خبری آی تی و دیجیتال” width=”728″ height=”90″>این اقدام که OpenAI آن را «بررسی همتا» (Peer Review) نامیده، نشان میدهد که این گروه از ChatGPT برای ایجاد پیشنهادهای فروش مربوط به برنامهای استفاده کردهاند که اسناد منتشرشده آن حاکی از طراحی آن برای پایش احساسات ضدچینی در پلتفرمهایی مانند ایکس (توییتر سابق)، فیسبوک، یوتیوب، اینستاگرام و دیگر شبکههای اجتماعی است. این عملیات بهویژه بر شناسایی فراخوانهای اعتراض به نقض حقوق بشر در چین تمرکز داشته و هدف آن به اشتراکگذاری این اطلاعات با مقامات چینی بوده است.
OpenAI در بیانیهای اعلام کرد:
«این شبکه از حسابهای ChatGPT تشکیل شده بود که فعالیتهای آن با ساعتهای کاری چین هماهنگ بود، مدلهای ما را به زبان چینی مورد استفاده قرار میداد و بهطور دستی، نه خودکار، از ابزارهای ما با حجم و تنوع بالایی بهره میبرد.»
این شرکت افزود:
«اپراتورهای این شبکه از مدلهای ما برای بازبینی ادعاهایی استفاده میکردند که نشان میداد اطلاعات آنها به سفارتخانههای چین در خارج از کشور ارسال شده و همچنین توسط مأموران اطلاعاتی برای رصد اعتراضات در کشورهایی نظیر ایالات متحده، آلمان و بریتانیا مورد استفاده قرار گرفته است.»
بن نیمو، محقق ارشد OpenAI، تاکید کرد که این نخستین باری است که این شرکت ابزاری مبتنی بر هوش مصنوعی را با چنین کاربردی شناسایی میکند. او در گفتوگو با نیویورک تایمز گفت:
«بعضی از عوامل تهدید از طریق نحوه استفاده از مدلهای هوش مصنوعی ما، ناخودآگاه پرده از فعالیتهای خود در بخشهای دیگر اینترنت برمیدارند.»
نظرات کاربران