خطای هوش مصنوعی آمریکا نزدیک بود جنگ با چین را شعلهور کند
- مجموعه: اخبار بین الملل
- تاریخ انتشار : جمعه, ۲۷ شهریور ۱۴۰۵ ۲۲:۳۱
به گزارش «انتخاب»؛ در ادامه این مطلب آمده است: به گفته چهار منبع آگاه از این ماجرا، ارتش ایالات متحده با برنامهریزی برای رهگیری این شناور، دست به کار شد. بر اساس گفتههای دو تن از این منابع، نیروهای مسلح ایالات متحده در حال آمادهسازی برای ورود به کشتی (عملیات بوردینگ) بودند. یکی از این منابع و منبع دیگری که از این حادثه اطلاع دارد، تأیید کردند که هواپیماهای نظامی نیز در آسمان حضور داشتند.
تنها لحظاتی پیش از آغاز عملیات برنامهریزی شده بود که مقامات با بررسی دقیقترِ گزارشی که توسط یک تحلیلگر فرماندهی عملیات ویژه تهیه شده بود، دریافتند که این گزارش با کمک هوش مصنوعی (AI) تولید شده است؛ و اینکه چتباتی که تحلیلگر از آن استفاده کرده، ماهیت محموله کشتی را به اشتباه شناسایی کرده بود. سیانان نتوانست ماهیت محمولهای که به اشتباه شناسایی شده بود را مشخص کند.
به گفته یکی از منابع، این گزارش «کاملاً کذب» بود. اما همین منبع اضافه کرد که این گزارش «تقریباً باعث شروع یک جنگ شد». هرگونه عملیات ایالات متحده علیه یک شناور چینی میتوانست به یک درگیری مسلحانه میان دو کشور تبدیل شود.
در سراسر ارتش و جامعه اطلاعاتی ایالات متحده، مقامات در تلاشند تا هوش مصنوعی را در تقریباً تمام جنبههای کاری خود بگنجانند؛ از تحلیل حجم عظیم اطلاعات خام جمعآوریشده توسط آمریکا و انتخاب اهداف برای حملات، تا کاربردهای روزمرهتری مانند مدیریت بودجه، لجستیک و زنجیرههای تأمین.
اما این حادثه، خطرات عمیق استفاده از این فناوری قدرتمند، جدید و نسبتاً ناشناخته را برای هدفگیری در میانه یک جنگ برجسته میکند. تحلیلگران مدتهاست نگرانند که هوش مصنوعی در صورت تکیه دولتها بر دادههای ناقص یا فاسد، منجر به محاسبات اشتباه فاجعهباری شود؛ همان نوع محاسباتی که ممکن بود ایالات متحده را بر اساس اطلاعات نادرست، به سمت شلیک به یک کشتی چینی سوق دهد.
در این مورد خاص، تحلیلگر از یک چتبات درباره برخی گزارشهای اطلاعاتی مربوط به مانیفست (فهرست بار) کشتی که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام، مستقر در هاوایی نشأت میگرفت، پرسوجو کرد. مشخص نیست که آیا آن چتبات یک ابزار تجاری در دسترس عموم بوده یا محصولی از دولت ایالات متحده.
یک مقام ارشد سابق ایالات متحده که با سیستمهای هوش مصنوعی مورد استفاده تحلیلگران نظامی و اطلاعاتی آشنا است، میگوید: «ابزارهای داخلی اکثراً کپیهایی از همان ابزارهای تجاری هستند که تنها ظاهری رسمی به خود گرفتهاند.»
این ربات، اطلاعات منبعباز را با اطلاعات محرمانه سیگنالیک (شنود) موجود در مخازن دولتی ترکیب کرد و به آن نتیجه سرنوشتساز درباره محموله کشتی رسید.
سپس تحلیلگر دوباره از هوش مصنوعی برای بستهبندی این یافتهها در قالب یک گزارش اطلاعاتی استاندارد استفاده کرد؛ همان نوع گزارشی که مورد اعتماد مقامات نظامی است؛ و سپس آن را منتشر کرد.
فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام و پنتاگون به درخواستها برای اظهارنظر پاسخ ندادند.
منطق پشت پذیرش سریع هوش مصنوعی این است که میتواند به ارتش کمک کند تا تصمیمات میدان نبرد، مانند اینکه چه اهدافی را هدف قرار دهند یا کدام داراییهای نظامی را به کجا منتقل کنند، سریعتر اتخاذ شود. مقامات میگویند ایالات متحده نمیتواند در ادغام هوش مصنوعی عقب بماند، مبادا روزی مجبور به مبارزه با چین یا دشمن دیگری شود که احتمالاً میتواند یک قدم از ایالات متحده جلوتر باشد.
در ماه ژانویه، وزیر دفاع، پیت هگست (Pete Hegseth)، «استراتژی شتابدهی هوش مصنوعی» آژانس خود را با هدف سرعت بخشیدن به استفاده ارتش از هوش مصنوعی منتشر کرد.
هگست در سخنرانی خود برای اعلام این استراتژی گفت: «ما آزمایشها را آزاد خواهیم کرد، موانع بوروکراتیک را از بین خواهیم برد، بر سرمایهگذاریهایمان تمرکز خواهیم کرد و رویکرد اجرایی لازم را برای اطمینان از پیشتازی در هوش مصنوعی نظامی نشان خواهیم داد.»
این استراتژی همچنین خواستار استفاده گسترده از آن در سراسر ارتش است و به وزارتخانه دستور میدهد که هوش مصنوعی را از طریق چندین برنامه در دسترس قرار دهد، با هدف «دموکراتیزه کردن آزمایش و تحول هوش مصنوعی در سراسر وزارتخانه، با قرار دادن مدلهای هوش مصنوعی پیشرو جهان در دستان سه میلیون پرسنل نظامی و غیرنظامی آمریکا، در تمامی سطوح طبقهبندی».
اما به گفته چندین مقام آمریکایی آشنا با این پویایی، این تلاش غیرمتمرکز است و بخشهای مختلف دولت از ابزارهای متفاوتی تحت دستورات و استانداردهای ایمنی متفاوتی استفاده میکنند. هیچ مجموعه استانداردی برای نحوه راستیآزمایی اطلاعات تولید شده توسط این ابزارها وجود ندارد. مجموعه سیستمهای هوش مصنوعی مختلفی که توسط گوشههای پراکنده ارتش و جامعه اطلاعاتی به کار گرفته میشوند، به این معنی است که قابلیت اطمینان و کارایی آنها بسیار متفاوت است.
طی هفتههای اخیر، سیاستگذاران واشینگتن به دنبال هشدارهای پیدرپی مهندسان سیلیکونولی و مدیران عامل شرکتهای فناوری مبنی بر احتمال رها شدن هوش مصنوعی از قید و بندهای انسانی، با عواقبی که میتواند تمدن را به پایان برساند، بهشدت در حال بحث درباره هوش مصنوعی بودهاند.
اما حادثه مربوط به کشتی چینی، خطر متفاوت و فوریتری را برجسته میکند: انسانهایی که بر اساس اطلاعات نادرست یا گمراهکننده تولید شده توسط هوش مصنوعی یا سایر سیستمهای خودکار، تصمیمات فاجعهباری میگیرند. منابع گفتند که ارتش بهسرعت به سمت استفاده از هوش مصنوعی برای کمک به هدفگیری روی آورده است؛ حوزهای که ریسک آشکار خطاهای مرگبار را به همراه دارد.
یک منبع دیگر آشنا با سیاستهای فعلی ارتش گفت: «هوش مصنوعی در هدفگیری قطعاً موضوعی است که در حال افزایش است و هیچ راهنمای واقعی برای اینکه چگونه حضور یک انسان در چرخه تصمیمگیری (human in the loop) میتواند از تلفات غیرنظامی یا آتش خودی جلوگیری کند، وجود ندارد.»
به گفته یکی از منابع، «توهم» (Hallucination) یا خطای شناختی که ابزار مورد استفاده تحلیلگر در این مورد ایجاد کرد، از زمان گسترش این ابزارها در سراسر دولت، حادثهای منحصربهفرد در جامعه اطلاعاتی نبوده است.
برای برخی از مقامات اطلاعاتی قدیمیتر - حتی آنهایی که بهطور کلی از استفاده از هوش مصنوعی در ارتش حمایت میکنند - هوش مصنوعی فشار بر تحلیلگران را برای تولید و انتشار سریعتر اطلاعات افزایش داده و راه را برای اشتباهات باز کرده است. به گفته چندین منبع، بهویژه تحلیلگران جوان، بومیان این ابزارها هستند و احتمال بیشتری دارد که بدون انتقاد به آنها اعتماد کنند.
یکی از منابع گفت: «هوش مصنوعی به شما اجازه میدهد سریعتر به یک ایده بد برسید.»
