پژوهشگر هوش مصنوعی هشدار داد؛ احتمال نابودی بشر توسط ایآی بیش از ۱۰ درصد است
- مجموعه: اخبار تکنولوژی
به گزارش شفقنا، ایوان هوبینگر، پژوهشگر ارشد ایمنی در آنتروپیک، سازنده مدل زبانی کلاود، در پستی در شبکه اجتماعی ایکس (توئیتر سابق) گفت خطر مدلهای هوش مصنوعی فعلی پایین است، اما او نگران سرعت پیشرفت این فناوری است.
به گفته هوبینگر، اگر هوش مصنوعی در آینده نزدیک به توانایی بهبود مستقل تواناییهای خودش برسد، ممکن است خطر آن برای بقای انسان به سطحی بیسابقه برسد. او معتقد است احتمال اینکه هوش مصنوعی در دهه آینده بتواند به نابودی بشر منجر شود، از ۱۰ درصد بیشتر است.
هوبینگر در عین حال تأکید کرده است که آنتروپیک تلاش میکند این فناوری را ایمنتر کند، اما هنوز راهکار مشخصی برای حل مسئله همراستایی ابرهوش با اهداف انسانی وجود ندارد. منظور از همراستایی این است که رفتار و اهداف یک سیستم هوش مصنوعی بسیار قدرتمند همچنان با خواستهها و منافع انسانها سازگار باقی بماند.
این اظهارات در شرایطی مطرح شده که نگرانی درباره کنترل سیستمهای هوش مصنوعی پیشرفته افزایش یافته است. طی ماههای اخیر، چند شرکت بزرگ فناوری از حملات سایبری خبر دادهاند که با استفاده از عاملهای هوش مصنوعی انجام شدهاند؛ سیستمهایی که میتوانند بدون دخالت مداوم انسان، مجموعهای از اقدامات را بهصورت خودکار انجام دهند.
مدیران و چهرههای شناختهشده صنعت هوش مصنوعی نیز در سالهای اخیر بارها درباره خطرات احتمالی این فناوری هشدار دادهاند. با این حال، احتمال ۱۰ درصدی مطرحشده از سوی هوبینگر پیشبینی شخصی اوست و نباید آن را بهعنوان احتمال قطعی یا اجماع علمی درباره آینده هوش مصنوعی در نظر گرفت.
همزمان، گزارشهایی درباره کاهش همکاری برخی شرکتهای هوش مصنوعی با نهادهای ارزیابی ایمنی نیز منتشر شده است؛ موضوعی که بار دیگر بحث درباره میزان نظارت و همکاری بینالمللی برای کنترل خطرات مدلهای پیشرفته را جدیتر کرده است.
