هشدار بیل گیتس: هوش مصنوعی میتواند عامل مرگ «یک میلیارد» انسان شود
- مجموعه: اخبار تکنولوژی
فایننشال تایمز نوشت: بیل گیتس در رویدادی که به مناسبت پنجاهمین سالگرد تاسیس مایکروسافت برگزار شد، روی صحنه در حال سخنرانی و دست تکان دادن است.
به گزارش «انتخاب»؛ در ادامه این مطلب آمده است: هوش مصنوعی به اندازه کافی قدرتمند است که اگر به دست افراد نادرست بیفتد، یک میلیارد نفر را بکشد. بیل گیتس، همبنیانگذار مایکروسافت، ضمن بیان این هشدار، خواستار مقررات سختگیرانهتر دولتی برای این فناوری شد.
گیتس به شبکه خبری NBC گفت: «هوش مصنوعی قطعاً به اندازهای قدرتمند است که بتواند رویدادهایی را رقم بزند که منجر به مرگ یک میلیارد نفر شود. بنابراین، اگرچه رسیدن به صد درصد [نابود کردن بشریت] بسیار دشوار است، اما هرگز سلاحی به قدرتِ ترکیبِ افراد با نیت سوء و استفاده از ابزارهای هوش مصنوعی پیشرفته وجود نداشته است.»
بحث بر سر ایمنی هوش مصنوعی در هفتههای اخیر و پس از یک سری حوادث امنیتی برجسته که تردیدهایی را درباره توانایی آزمایشگاههای پیشرو هوش مصنوعی نظیر OpenAI و آنتروپیک (Anthropic) در کنترل مدلهایشان ایجاد کرد، بالا گرفته است.
هفته جاری مشخص شد که یکی از سیستمهای OpenAI، وبسایت خدمات بهداشت عمومی استرالیا را هک کرده است. این شرکت مستقر در سانفرانسیسکو، ماهها پس از وقوع این حمله، آن را به دولت استرالیا گزارش نداد؛ اقدامی که آنتونی آلبانیزی، نخستوزیر استرالیا، آن را «بهطور آشکار غیرقابلقبول» خواند.
در همین ماه، شرکت آنتروپیک اعلام کرد که شبهنظامیان یمنی، که گمان میرود حوثیهای تحت حمایت ایران باشند، تلاش کردهاند از مدل هوش مصنوعی «کلود» (Claude) این شرکت برای توسعه نرمافزار هدایت، کنترل و ناوبری موشکهای بالستیک استفاده کنند.
با وجود هشدارهای فزاینده در سیلیکونولی و مخالفتهای گسترده مردمی با این فناوری، دونالد ترامپ، رئیسجمهور ایالات متحده، همچنان سرسختانه با مقرراتگذاری هوش مصنوعی مخالف است و ترسهای امنیتی را «حقهبازی» خوانده و آنچه را که «طرح جهانیگرایان» برای کنترل این فناوری مینامد، رد کرده است.
سم آلتمن از OpenAI و داریو آمودی از آنتروپیک، هر دو در هفته جاری در شورای امنیت سازمان ملل سخنرانی کردند و از ایالات متحده خواستند که با توجه به درخواستهای گسترده برای کند کردن سرعت توسعه فناوریهای پیشرو، رهبری یک ائتلاف بینالمللی برای تعیین استانداردهای ایمنی هوش مصنوعی را بر عهده بگیرد.
با این حال، دیدار هفته جاری میان ترامپ و شی جینپینگ، رئیسجمهور چین در نیویورک، هیچ تعهد معناداری برای مهار این فناوری به همراه نداشت.
گیتس در مصاحبهای که روز چهارشنبه انجام شد و قرار است آخر هفته جاری در برنامه «دیدار با مطبوعات» (Meet the Press) شبکه NBC پخش شود، گفت که واشنگتن «قطعاً» نیاز دارد قوانین فدرالی را برای ایجاد پادمانها و نظارت بر پیشرفتهای هوش مصنوعی تصویب کند.
او افزود: «هیچکس فکر نمیکند که خودتنظیمی کافی باشد.» وی در ادامه گفت که وضع قوانین، «کمی هزینه اداری برای این صنعت ایجاد میکند، اما مانع چشمگیری برای کارهایی که انجام میدهند، نخواهد بود.»
گیتس میان پتانسیل کوتاهمدت برای سوءاستفاده از هوش مصنوعی توسط تروریستها یا دولتهای سرکش، و هشدارهای بلندمدت در مورد «خطر وجودی» (اگزیستانسیال) که توسط فعالان ایمنی نظیر جیکوب کاکسون، پژوهشگر سابق آنتروپیک مطرح میشود، تمایز قائل شد. کاکسون گفته است که بسیاری از توسعهدهندگان هوش مصنوعی معتقدند که این فناوری میتواند «تا پایان دهه همه ما را بکشد.»
هشدار اخیر این میلیاردر، یک ماه پس از آن مطرح میشود که او در یک مقاله ۶۰۰۰ کلمهای، ضمن پیشبینی تحولات عظیم در زمینه اشتغال، از سیاستگذاران خواست برخی از مشاغل را به عنوان «مشاغل رزرو شده برای انسان» تعیین کنند.
