آیا هوش مصنوعی غیر قابل کنترل است؟ ، نتیجه تحقیق دانشمندان درباره ابر هوش کامپیوتری - وبلاگ بینام

به گزارش وبلاگ بینام، محاسبات نشان می دهد که کنترل یک هوش مصنوعی فوق هوشمند غیرممکن خواهد بود.

به گزارش وبلاگ بینام و به نقل از ساینس الرت، دهه ها است که از این ایده که هوش مصنوعی که بشر را نابود می نماید صحبت می گردد و برنامه هایی مانند چت جی پی تی این نگرانی ها را تجدید نموده است.

بنابراین چقدر محتمل است که بتوانیم ابر هوش کامپیوتری سطح بالا را کنترل کنیم؟ دانشمندان می گویند که چنین چیزی ممکن نیست. نکته مهم این است که کنترل یک ابر هوش بسیار فراتر از درک انسان نیازمند شبیه سازی آن ابر هوش است که ما می توانیم آن را تحلیل کنیم، اما اگر ما قادر به درک آن نباشیم، ایجاد چنین شبیه سازی غیرممکن است.

به گفته نویسندگان مقاله، اگر ما نوع سناریوهایی را که یک هوش مصنوعی قرار است ایجاد کند، درک نکنیم، نمی توان قوانینی مانند هوش مصنوعی نباید به انسان ها آسیب برساند تنظیم کرد. هنگامی که یک سیستم کامپیوتری در سطحی بالاتر از محدوده برنامه نویسان ما کار می نماید، دیگر نمی توان محدودیت ها را معین کرد.

محققان در سال 2021 نوشتند: یک ابرهوش کامپیوتری مسئله ای از اساس متفاوت با آنچه که معمولا تحت عنوان اخلاق روبات مورد مطالعه قرار می گیرد، ایجاد می نماید. این به این علت است که یک ابرهوش چندوجهی است، و بنابراین به طور بالقوه قادر به جمع آوری منابع متنوعی برای دستیابی به اهدافی است که برای انسان غیرقابل درک است، چه رسد به اینکه قابل کنترل باشد.

بخشی از استدلال تیم از مسئله توقف ارائه شده به وسیله آلن تورینگ در سال 1936 ناشی می گردد. یعنی آیا ما می توانیم بفهمیم یک برنامه کامپیوتری به نتیجه و پاسخ می رسد (متوقف می گردد) و یا اینکه برای همواره در کوشش برای یافتن پاسخ در یک حلقه ابدی باقی می ماند.

برای مثال، هر برنامه ای که برای جلوگیری از آسیب رساندن هوش مصنوعی به انسان ها و نابودی دنیا نوشته شده باشد، ممکن است به نتیجه برسد (و متوقف گردد) یا خیر. در هر صورت از نظر ریاضی غیرممکن است که کاملا مطمئن باشیم و این یعنی قابل کنترل نیست.

• تصاویر | ترکیب شگفت انگیز هوش مصنوعی و بهترین فناوری دوستدار محیط زیست در کشتی Sea Zero

در اوایل امسال، غول های فناوری از جمله ایلان ماسک و استیو وزنیاک، بنیانگذار اپل، نامه ای سرگشاده امضا کردند و از بشریت خواستند که کار روی هوش مصنوعی را حداقل به مدت 6 ماه متوقف نمایند تا ایمنی آن آنالیز گردد.

این تحقیق در ژانویه 2021 در مجله تحقیقات هوش مصنوعی منتشر شد.