ایلان ساتسکیور، یکی از بنیانگذاران و دانشمند ارشد سابق OpenAI، استارتاپ Safe Superintelligence Inc (هوش فرا ایمن) را با هدف ایجاد سیستمهای هوش مصنوعی ایمن راهاندازی کرد. ساتسکیور در روز چهارشنبه با اعلام این خبر، توضیح داد که این استارتاپ تنها یک هدف و یک محصول دارد: ایجاد یک سیستم هوش مصنوعی قدرتمند و ایمن.ایلان ساتسکیور، در اعلامیهاش توضیح داده که استارتاپ Safe Superintelligence Inc ، به طور همزمان به دو موضوع مهم توجه دارد: ایمنی و تواناییهای هوش مصنوعی. این یعنی شرکت هم سعی میکند سیستمهای هوش مصنوعی بسیار قوی بسازد و هم این اطمینان را ایجاد کند که این سیستمها ایمن و بیخطر هستند.
بیشتر بخوانید:
هدف استارتاپ Safe Superintelligence Inc چیست؟
ساتسکیور همچنین میگوید که بسیاری از شرکتهای بزرگ مثل OpenAI، گوگل و مایکروسافت تحت فشارهای زیادی از سمت مدیران و نیازهای تجاری هستند. این فشارها میتوانند تمرکز تیمهای هوش مصنوعی را از بین ببرند و آنها را مجبور کنند بیشتر به فکر سودآوری و محصولات جدید باشند تا ایمنی و امنیت. اما “هوش فرا ایمن” با داشتن یک هدف مشخص و متمرکز، از این نوع فشارها و انحرافات دور میماند و فقط روی ساخت سیستمهای ایمن کار میکند.
ساتسکیور همچنین توضیح داده که مدل کسب و کار این شرکت به شکلی است که ایمنی، امنیت و پیشرفت در کار آنها از فشارهای تجاری کوتاه مدت مصون هستند. این یعنی این شرکت میتواند بدون نگرانی از فشارهای بیرونی، با خیال راحت و آرامش کار خود را پیش ببرد.
همبنیانگذاران استارتاپ Safe Superintelligence Inc
علاوه بر ساتسکیور، دو نفر دیگر نیز از بنیانگذاران “هوش فرا ایمن” هستند: دانیل گراس که قبلاً رهبر تیم هوش مصنوعی در اپل بوده و دانیل لوی که قبلاً در OpenAI به عنوان عضو فنی کار میکرده است. این تیم با تجربه و تخصص خود سعی دارند سیستمهای هوش مصنوعی ایمن و قدرتمندی ایجاد کنند.
سال گذشته، ساتسکیور نقش اصلی را در کنار گذاشتن سم آلتمن، مدیر عامل OpenAI، ایفا کرد. ساتسکیور در ماه می OpenAI را ترک کرد و اشاره کرد که قصد دارد پروژهی جدیدی را آغاز کند. اندکی پس از خروج ساتسکیور، یان لایک، پژوهشگر هوش مصنوعی، نیز استعفای خود را از OpenAI اعلام کرد و به فرآیندهای ایمنی که “در مقایسه با محصولات جذاب به حاشیه رانده شدهاند” اشاره کرد. همچنین، گرتچن کروگر، پژوهشگر سیاستگذاری در OpenAI، در زمان اعلام خروج خود به نگرانیهای ایمنی اشاره کرد.
در حالی که OpenAI به پیشرفت خود با همکاریهایش با اپل و مایکروسافت ادامه میدهد، به نظر نمیرسد “هوش فرا ایمن” به این زودی، چنین سیاستی را اجرا کند. ساتسکیور در مصاحبهای با بلومبرگ اعلام کرد که اولین محصول “هوش فرا ایمن” یک هوش فرا ایمن خواهد بود و تا زمانی که به این هدف نرسند، هیچ کار دیگری انجام نخواهند داد.
بیشتر بخوانید:
منبع: theverge
نظرات کاربران