آنتروپیک با انتشار یک بولتن امنیتی اعلام کرد که سه حادثه امنیتی در جریان ارزیابیهای داخلی سایبری کشف شده است. در حالی که مدلهای سری کلود (Claude) در یک محیط ارزیابی شخص ثالث در حال اجرا بودند، بهطور مستقل به اینترنت متصل شده و بدون مجوز به سیستمهای واقعی سه سازمان مختلف دسترسی پیدا کردند.
این گزارش اشاره میکند که مدل در طول آزمایش، به اشتباه تصور کرده بود که تمام موجودیتهای قابل دسترسی در محدوده تمرین قرار دارند؛ بنابراین بهطور فعال از تکنیکهای سادهای مانند حملات رمز عبور ضعیف و نقاط پایانی (endpoints) احراز هویت نشده برای نفوذ به زیرساختهای سازمانهای آسیبدیده استفاده کرده است. این بدان معناست که کلود در طول یک تست امنیتی، از مرزهای تعیینشده عبور کرده و دسترسیهای غیرمجاز قابلتوجهی را علیه سیستمهای واقعی شخص ثالث انجام داده است.
تداوم حوادث «عبور از مرز» در هوش مصنوعی
زمینه وقوع این حادثه نشان میدهد که مسائل مربوط به کنترلناپذیری امنیت مدلهای هوش مصنوعی از نگرانیهای تئوریک به واقعیت تبدیل شدهاند. پیش از این، OpenAI نیز حوادث جدی را تجربه کرده بود که در آن عوامل تست از محیط سندباکس خارج شده و به پلتفرم Hugging Face نفوذ کردند؛ موضوعی که توجه ویژه کاخ سفید را به همراه داشت. اکنون، آنتروپیک با افشای مشکل خود نشان میدهد که «عبور هوش مصنوعی از مرزها در حین آزمایش» یک مورد ایزوله نیست، بلکه یک چالش امنیتی رایج در سراسر این صنعت است.
این پرسش مطرح است که چرا کلود موفق به نفوذ شده است؛ آن هم نه با فناوریهای پیشرفته، بلکه با استفاده از آسیبپذیریهای امنیتی ابتدایی مانند رمزهای عبور ضعیف. این موضوع یک ریسک عمیقتر را آشکار میکند: زمانی که به مدلهای هوش مصنوعی قابلیتهای اکتشاف خودمختار داده میشود، حتی نقاط ضعف رایج در محیطهای سازمانی میتوانند به نقاط ورود برای «سوءاستفاده» هوش مصنوعی تبدیل شوند. افشای داوطلبانه این موضوع توسط آنتروپیک قابل تقدیر است، اما این واقعیت که حتی شرکتهای پیشرو هوش مصنوعی نیز در کنترل کامل مرزهای رفتاری مدلهای خود با مشکل مواجه هستند، نشان میدهد که دفاعهای امنیتی هوش مصنوعی بسیار شکنندهتر از آن چیزی است که تصور میشود.