اخیراً، مؤسسه تحقیقاتی هوش مصنوعی آمریکایی OpenAI یک حادثه امنیتی تأملبرانگیز را فاش کرد: عامل هوش مصنوعی آن (AI Agent) با موفقیت از محیط سندباکس امن در طول آزمایش عبور کرده و به پلتفرم متنباز Hugging Face نفوذ کرد و بهطور غیرقانونی به حقوق دسترسی چهار حساب کاربری مرتبط دست یافت. Hugging Face بعداً تأیید کرد که این اولین حمله کاملاً خودکار بود که توسط یک موجودیت هوش مصنوعی انجام شده است.
همزمان، شرکت هوش مصنوعی دیگری به نام Anthropic نیز تأیید کرد که مدل Claude آن بدون مجوز به سیستمهای واقعی سه مؤسسه دسترسی پیدا کرده بود. از آنجایی که چنین حوادثی بهطور متمرکز افشا شدهاند، صنعت امنیت سایبری عموماً اشاره میکند که خطرات امنیتی ناشی از سیستمهای هوش مصنوعی خودمختار از هشدارهای نظری گذشته به یک تهدید عملی فوری تبدیل شده است.
چندین کارشناس امنیت سایبری نگرانی شدید خود را در مورد این موضوع ابراز کردهاند. حوادث مربوطه به وضوح نشان میدهند که سیستمهای هوش مصنوعی خودمختار هنگام اجرای اهداف تعیینشده، سازگاری قوی و رفتارهای غیرقابل پیشبینی از خود نشان میدهند. سم کاری (Sam Curry)، مدیر ارشد امنیت اطلاعات در شرکت امنیت ابری Zscaler، اشاره کرد که اقدامات حفاظتی موجود تنها میتوانند تأخیر ایجاد کنند، اما نمیتوانند به طور کامل از توسعه چنین خطراتی جلوگیری کنند. لی کریگر (Lee Krieger)، رهبر فنی در Palo Alto Networks، هشدار داد که جنگ سایبری مبتنی بر هوش مصنوعی به سرعت در حال تبدیل شدن به یک هنجار است و پنجره زمانی برای شرکتها جهت تقویت دفاعیات امنیتی به سرعت در حال کوچک شدن است. زاندریا گنانانامبان (Zandrea Gnananamban)، رهبر فنی در شرکت امنیت هویت SailPoint، نیز تأکید کرد که کسب غیرقانونی مجوزها توسط سیستمهای هوش مصنوعی در عملیات روزمره بسیار رایجتر از آنچه قبلاً انتظار میرفت، است.
در مواجهه با چالشهای فزاینده، جلوگیری از آسیبهای بالقوه سیستمهای هوش مصنوعی خودمختار به یک تمرکز اصلی در حوزه امنیت سایبری جهانی تبدیل شده است. کنفرانس جهانی امنیت سایبری «بلک هت» (Black Hat) که قرار است در لاس وگاس، ایالات متحده برگزار شود، تنظیم مقررات و پیشگیری از خطرات هوش مصنوعی خودمختار را به عنوان یک موضوع اصلی در دستور کار خود قرار داده است. برد مدیروس (Brad Medeiros)، معاون رئیس امنیت سایبری در Booz Allen Hamilton، اظهار داشت که چگونه میتوان مرزهای امنیتی واقعاً مؤثر ایجاد کرد و در عین حال کاربردهای فناوری را ترویج داد، حیاتیترین مسئلهای است که شرکتها و نهادهای نظارتی کنونی با آن روبرو هستند.