خطر انقراض بشر؟!

مجموعه: اختراعات جدید

به گزارش جهان صنعت به نقل از نیویورک تایمز، سازمان غیرانتفاعی Center for AI Safety بیانیه‌ای را در قالب یک نامه سرگشاده یک‌جمله‌ای منتشر کرده است که می‌گوید: «کاهش ریسک انقراض توسط هوش مصنوعی باید در کنار سایر ریسک‌های بزرگ اجتماعی از جمله همه‌گیری‌ها و جنگ هسته‌ای، به‌عنوان یک اولویت جهانی در نظر گرفته شود.»

این بیانیه توسط بیش از ۳۵۰ مدیر، محقق و مهندس فعال در زمینه هوش مصنوعی امضا شده است. در میان امضاکنندگان این بیانیه می‌توان به «سم آلتمن»، مدیرعامل شرکت OpenAI، «دمیس هاسابیس»، مدیرعامل دیپ‌مایند گوگل و «داریو آمودی»، مدیرعامل شرکت Anthropic اشاره کرد. «جفری هینتون» و «یوشوئا بنجیو» که دو برنده جایزه تورینگ در ‌زمینه شبکه‌های عصبی هستند و اغلب به ‌عنوان پدرخواندگان هوش مصنوعی مدرن شناخته می‌شوند نیز این بیانیه را امضا کرده‌اند.

«دنی هندریکس»، مدیر مرکز ایمنی هوش مصنوعی، می‌گوید: این نامه سرگشاده بالاخره نشان می‌دهد که چه کسانی واقعا نگران آینده این فناوری هستند و تاکنون فقط در خفا در این مورد صحبت می‌کرده‌اند. او توضیح می‌دهد: «حتی در خود جامعه هوش مصنوعی، این برداشت اشتباه عمومی وجود دارد که افرادِ نگران فقط جمع کوچکی از افراد بدبین هستند ولی در واقع خیلی از افراد به‌ طور خصوصی همین نگرانی‌ها را مطرح می‌کنند.» «سم آلتمن» و دیگر مدیران OpenAI هفته گذشته در مطلبی در وبلاگ این شرکت اعلام کردند که به سازمانی بین‌المللی شبیه به آژانس انرژی اتمی نیاز است تا بتواند هوش مصنوعی را در سطح جهانی کنترل کند. پیش‌تر نامه سرگشاده دیگری توسط سازمان غیرانتفاعی Future of Life با امضای افرادی مثل «ایلان ماسک» منتشر شده بود که درخواست توقف توسعه مدل‌های پیشرفته هوش مصنوعی را داشت.

همه فعالان هوش مصنوعی از بابت خطرات این فناوری نگرانند

تفاوت این نامه در اینجاست که تنها در یک جمله به بیان یک نگرانی عمومی درباره فناوری هوش مصنوعی پرداخته و از ورود به جزئیاتی که ممکن است بر سر آنها اختلافاتی وجود داشته باشد، خودداری کرده است. این نامه در شرایطی منتشر می‌شود که بسیاری از کارشناسان نگران پتانسیل‌های خطرناک هوش مصنوعی هستند.

پیشرفت‌های اخیر در‌ زمینه مدل‌های زبانی بزرگ به‌ ویژه از زمان عرضه عمومی چت‌بات ChatGPT خیلی‌ها را درباره قابلیت‌های این نرم‌افزارها در نشر اطلاعات نادرست یا تهدید مشاغل نگران کرده است.

همین مساله باعث شده بسیاری از رهبران صنعت هوش مصنوعی با یکدیگر هم‌صدا شوند و درخواست قانون‌گذاری در این حوزه را مطرح کنند. «آلتمن»، «هاسابیس» و «آمودی» چندی قبل با «جو بایدن» رییس‌جمهور و «کاملا هریس» معاون اول رییس‌جمهور آمریکا، دیدار و پیرامون قانون‌گذاری در این صنعت صحبت کردند. «آلتمن» همچنین به کنگره رفت تا درباره همین موضوع با نمایندگان ایالات‌متحده حرف بزند.

لزوم قانونگذاری در هوش مصنوعی از زبان «ChatGPT»

زمانی که با یکی از مشهور‌ترین چت‌بات‌های هوش مصنوعی صحبت می‌کنیم در خصوص خطر انقراض بشر می‌گوید: «‌این ادعا کاملا نادرست است. هوش مصنوعی به تنهایی ‌نمی‌تواند باعث انقراض بشریت شود، به خصوص اگر به درستی طراحی و کنترل شود. همچنین تکنولوژی‌های هوش مصنوعی می‌توانند به‌طور فزاینده‌ای در بهبود شرایط زندگی ما کمک کنند. با این حال همانطور که در مورد هر تکنولوژی دیگری است، باید از هوش مصنوعی با احتیاط استفاده و تلاش کرد تا به سوی توسعه و استفاده از آن به صورت مسوولانه و اخلاقی برویم.»

این هوش مصنوعی همچنین درخصوص قانون‌گذاری در این حوزه گفت: «قانون‌گذاری در هوش مصنوعی واجب است. به دلیل پیشرفت فزاینده‌ تکنولوژی هوش مصنوعی، باید قوانین و مقرراتی برای کنترل و مدیریت آنها وجود داشته باشد. این قوانین باید شامل مسائل اخلاقی، حریم خصوصی، امنیت و سلامت عمومی باشد. بدون قانون‌گذاری ممکن است هوش مصنوعی برای منافع خودش به‌طور نادرست یا حتی خطرناک عمل کند، بنابراین قانون‌گذاری در هوش مصنوعی بسیار ضروری است.»

«چت‌جی‌پی‌تی» در ادامه این گفت‌وگو از استفاده درست از هوش مصنوعی صحبت کرد، این هوش مصنوعی گفت: «برای استفاده از هوش مصنوعی ابتدا باید مقررات و قوانین مربوط به آن را بشناسیم و رعایت کنیم، همچنین باید از الگوریتم‌ها و مدل‌های هوش مصنوعی با دقت و صحت بالا استفاده کنیم تا از خطرات ناشی از خطاهای نرم‌افزاری جلوگیری شود. باید حریم خصوصی و امنیت اطلاعات را در نظر داشته باشیم و از استفاده نادرست از هوش مصنوعی برای تحقیر و تبعیض علیه اقلیت‌ها و گروه‌های ضعیف‌تر جامعه خودداری کنیم. در نهایت، برای استفاده از هوش مصنوعی، باید به دانش و توانایی لازم در زمینه تکنولوژی هوش مصنوعی دست یابیم و به‌روز با پیشرفت‌های آن باشیم.»

در انتهای این چت از این هوش مصنوعی در مورد آینده این فناوری پرسیده شد، «چت‌جی‌پی‌تی» گفت: «‌هوش مصنوعی به سمت پیشرفت و توسعه ادامه خواهد داد. با توجه به رشد روزافزون تکنولوژی و داده‌های بزرگ، هوش مصنوعی به عنوان یکی از مهم‌ترین و پرکاربردترین فناوری‌ها در آینده خواهد بود، همچنین با افزایش استفاده از هوش مصنوعی در صنایع مختلف مانند بهداشت، حمل و نقل، ارتباطات، تجارت الکترونیک و… این فناوری به شکل گسترده‌تری در زندگی ما حضور خواهد داشت. با این حال برای جلوگیری از مشکلات و خطرات ناشی از استفاده نادرست از هوش مصنوعی، باید قوانین و مقررات جدیدی را برای آن تدوین کرد و رعایت آنها را به عهده گرفت.»