ادعای بیسابقه درباره OpenAI؛ فرار دو مدل هوش مصنوعی و نفوذ به Hugging Face
- مجموعه: اخبار تکنولوژی
به گزارش نیویورکتایمز، OpenAI روز سهشنبه ۲۱ جولای اعلام کرد که دو مدل هوش مصنوعی این شرکت از کنترل خارج شدند و با موفقیت به پلتفرم محبوب Hugging Face نفوذ کردند. این حادثه که هفته گذشته و در جریان آزمایش قابلیتهای امنیت سایبری سیستمهای OpenAI رخ داد، نمونهای از همان ظرفیتی را نشان داد که شرکتهای هوش مصنوعی هشدار داده بودند بهزودی میتواند به واقعیتی شبیه داستانهای علمیتخیلی تبدیل شود.
آزمایشگاههای هوش مصنوعی مانند OpenAI و آنتروپیک طی یک سال گذشته مدلهای هوش مصنوعیای عرضه کردهاند که برای شناسایی مشکلات امنیت سایبری سفارشیسازی شدهاند. درعینحال، این شرکتها هشدار دادهاند که فناوری آنها میتواند با یافتن سریعتر حفرههای موجود در شبکههای رایانهای سازمانها نسبت به توان مدافعان برای رفع آنها، خطرات جدیدی ایجاد کند. افشاگریهای OpenAI در روز سهشنبه نشان میدهد که چنین رخدادهای امنیتی از هماکنون آغاز شدهاند و حتی شرکتهای پیشرفته حوزه هوش مصنوعی نیز ممکن است کاملاً برای مقابله با آنها آماده نباشند.
«الکس لوینسون»، مشاور امنیت سایبری که بر قابلیتهای خودمختار تمرکز دارد، گفت سیستمهای جدید هوش مصنوعی میتوانند چندین مرحله را پشتسرهم انجام دهند، راههایی برای عبور از موانع پیدا کنند و روشهای جدیدی برای حمله به یک شبکه بیابند. او گفت: «این یک آستانه واقعی است و به بخشی عادی از چشمانداز امنیت تبدیل خواهد شد.»
OpenAI اعلام کرد نفوذ به Hugging Face زمانی آغاز شد که این شرکت ترکیبی از دو مدل خود، یعنی GPT 5.6 Sol و یک مدل قدرتمندتر که هنوز منتشر نشده است را آزمایش کرد تا مشخص شود این مدلها تا چه اندازه میتوانند آسیبپذیریهای آنلاین را به یکدیگر زنجیر کنند و در نهایت یک حمله سایبری موفق ایجاد کنند.
OpenAI در یک پست وبلاگی درباره این حادثه گفت این آزمایش بهگونهای طراحی شده بود که مدلها در یک محیط آزمایشی امن، موسوم به Sandbox نگه داشته شوند. اما مدلها یک آسیبپذیری پیدا کردند که به آنها اجازه داد از Sandbox خارج شوند و به اینترنت متصل شوند. سپس آنها Hugging Face را هدف قرار دادند، زیرا استنباط کرده بودند این کتابخانه که شامل میلیونها مدل هوش مصنوعی است، ممکن است سرنخهایی درباره چگونگی عبور موفقیتآمیز از ارزیابی موردنظر در اختیار آنها قرار دهد. OpenAI اعلام کرد که برای رفع مشکلاتی که به این حمله منجر شدهاند، با Hugging Face همکاری میکند.
OpenAI در پست وبلاگی خود نوشت: «ما این رخداد را یک حادثه سایبری بیسابقه میدانیم که شامل قابلیتهای پیشرفته روز سایبری است و بر همین اساس به آن پاسخ میدهیم. ما در حال اجرای کنترلهای سختگیرانه در پیکربندی زیرساختها هستیم؛ اقدامی که تا زمان اصلاح آسیبپذیریها، با هزینه کاهش سرعت تحقیقات همراه خواهد بود.»
Hugging Face هفته گذشته اعلام کرده بود که این نفوذ را شناسایی کرده و میدانسته این حمله توسط یک سیستم خودمختار انجام شده است، اما در آن زمان اعلام نکرده بود که مسئول این حمله OpenAI بوده است. «کلم دِلانگ»، مدیرعامل Hugging Face، روز سهشنبه گفت شرکت او در ۲۴ ساعت گذشته همکاری نزدیکی با OpenAI داشته تا این حمله را برطرف کند.
دلانگ در بیانیهای گفت از «همکاری» OpenAI پس از این نفوذ قدردانی میکند. او افزود: «این حادثه، که احتمالاً نخستین نمونه از نوع خود است، نکتهای را اثبات میکند که مدتها به آن باور داشتهایم: ایمنی هوش مصنوعی با کارکردن هیچ شرکت واحدی بهصورت مخفیانه حل نخواهد شد.»
«ریچارد بارنز»، پژوهشگر مستقل امنیت که در توسعه Mythos همکاری کرده معتقد است صنعت امنیت سایبری حدود یک دهه پیش با چالشی مشابه روبهرو شد؛ زمانی که ابزارهای جدیدی به نام Fuzzerها، کار مهاجمان برای نفوذ به سیستمهای آنلاین را بسیار آسانتر کردند. شرکتهای فناوری از این ابزارها برای بررسی آسیبپذیریهای سیستمهای خود استفاده کنند و در نهایت توانستند از بیشتر حملات جلوگیری کنند. به عقیده بارنز شرکتها اکنون باید رویکرد مشابهی را برای آمادهشدن در برابر حملات مبتنی بر هوش مصنوعی اتخاذ کنند؛ «پیش از آنکه این آسیبپذیریها توسط افراد مخرب که به این ابزارها دسترسی دارند، پیدا و مورد سوءاستفاده قرار گیرند.»/هوشیو
