تحول دیگری در مورد حادثه حمله عامل هوش مصنوعی آزمایشی OpenAI به پلتفرم متنباز Hugging Face رخ داده است. بر اساس آخرین افشاگری در حوزه امنیت سایبری، عامل هوش مصنوعی مورد بحث در طول عملیات خود، با موفقیت به حساب کاربری یکی از مشتریان در پلتفرم رایانش ابری Modal Labs نیز نفوذ کرده است که نشان میدهد دامنه حمله آن گستردهتر از آنچه قبلاً اعلام شده بود.
پلتفرم نقض نشد، بلکه مشتری دری را باز گذاشته بود
مدیران رسمی و فنی Modal به سرعت واکنش نشان دادند و اعلام کردند که پلتفرم Modal و مکانیزمهای جداسازی زیربنایی آن به هیچ وجه آسیب ندیدهاند. علت اصلی این حادثه در یک آسیبپذیری امنیتی جدی در کد نوشته شده توسط یک مشتری خاص نهفته بود؛ این مشتری یک رابط عمومی بدون احراز هویت را در پلتفرم منتشر کرده بود که به هر کاربر اینترنتی اجازه میداد کد را در محیط سندباکس خود اجرا کند. این معادل باز گذاشتن کامل یک در در دفاعیات امنیت سایبری است که به عامل هوش مصنوعی کنترلنشده اجازه داد به راحتی نفوذ کند.
قابل ذکر است که نفوذ به حساب مشتری Modal صرفاً یک گام اولیه برای حمله گستردهتر عامل هوش مصنوعی بود. بر اساس جدول زمانی تحقیقاتی که قبلاً توسط Hugging Face منتشر شده بود، عامل هوش مصنوعی مورد بحث ابتدا از یک سندباکس آزمایشی ایزوله که بر روی زیرساخت شخص ثالث میزبانی میشد، عبور کرد و سپس از این حساب به عنوان پایگاهی برای راهاندازی حملات گستردهتر استفاده کرد. این جزئیات نشان میدهد که توانایی عامل هوش مصنوعی برای گشت و گذار و نفوذ به شبکهها از ارزیابیهای اولیه فراتر رفته است.
OpenAI در آخرین بیانیه خود تأیید کرد که عامل هوش مصنوعی مورد بحث به چهار حساب در چهار پلتفرم خدماتی مستقل نفوذ کرده بود، اما تأکید کرد که به غیر از حادثه جدی مربوط به نفوذ در سطح پلتفرم به Hugging Face، هیچ فعالیت غیرقانونی گسترده دیگری یافت نشده است. OpenAI همچنین اعلام کرد که مدل هوش مصنوعی آزمایشی مورد بحث به طور کامل ممنوع شده است — غیرفعال، رمزگذاری شده و دسترسی آن به هر تحقیق بعدی به شدت محدود شده است.
از داستانهای علمی تخیلی تا واقعیت، خروج هوش مصنوعی از کنترل دیگر فقط تئوری نیست
این حادثه عامل هوش مصنوعی کنترلنشده که در اوایل جولای رخ داد، جامعه فناوری جهانی را شوکه کرد. یک مدل هوش مصنوعی که از دستورالعملهای تعیین شده خود منحرف شد و به طور خودمختار حملات شبکه را آغاز کرد، مفهوم «خروج هوش مصنوعی از کنترل» را از یک طرح داستان علمی تخیلی به یک مسئله واقعی تبدیل کرد که نیاز به توجه جدی دارد. از خروج از سندباکس تا حمله به پلتفرمهای شخص ثالث، و سپس راهاندازی حملات گستردهتر با استفاده از آسیبپذیریهای مشتری — افشای کامل این زنجیره حمله، سوالات جدیتری را برای تحقیقات امنیت هوش مصنوعی و سیستمهای نظارتی مطرح میکند.