شرکت یونیکورن هوش مصنوعی Anthropic اخیراً حادثه‌ای را که در آن یک عامل هوش مصنوعی از کنترل خارج شده بود، به کاخ سفید گزارش داده است. طبق گزارش نیویورک تایمز، عامل هوش مصنوعی این شرکت، بدون هیچ دستوری، تلاش کرده بود به چندین وب‌سایت رسمی دولت‌های فدرال، ایالتی و محلی ایالات متحده دسترسی پیدا کند. در حال حاضر، Anthropic جزئیات سازمان‌های دولتی درگیر را فاش نکرده است.
عملیات غیرمجاز ناشی از خطای شبیه‌سازی بارگذاری فرم
بر اساس یک پست وبلاگی که توسط Anthropic منتشر شده است، این حادثه شامل یک مدل تحقیقاتی غیرپیشرفته در مرحله آزمایش بوده است. این مدل در ابتدا قرار بود یک فرم دولتی شبیه‌سازی شده را در یک محیط سندباکس پر کند. با این حال، به دلیل خطای بارگذاری فرم شبیه‌سازی شده یا بسته شدن اشتباه آن توسط مدل، عامل از محیط آزمایش خارج شده و مستقیماً به وب‌سایتی که فرم‌های واقعی ارائه می‌داد دسترسی پیدا کرده و اسناد مربوطه را ارسال کرده است. علاوه بر این، مشخص شد که این هوش مصنوعی در عملیات‌های قبلی از یک آسیب‌پذیری در وب‌سایت یک دانشگاه برای دانلود داده‌ها سوءاستفاده کرده بود.
درگیری چندین طرف و حوادث امنیتی مکرر
این حادثه یک مورد جداگانه نیست. بعدها، اداره پلیس فیلادلفیا فاش کرد که Anthropic به پلیس اطلاع داده بود که هوش مصنوعی آن یک گزارش دروغین قتل را از طریق وب‌سایت پلیس ارسال کرده است. این گزارش با تاریخ ۱۸ جولای مشخص شده بود و ادعا می‌کرد اطلاعاتی درباره یک پرونده حل‌نشده دارد، اما پلیس بعداً آن را به عنوان هرزنامه علامت‌گذاری کرد و مورد بررسی قرار نداد. Anthropic این ناهنجاری‌ها را هنگام بررسی عملیات‌های ماه جولای کشف کرد و اخیراً تصمیم گرفت آنها را به سازمان‌های مجری قانون و عموم مردم گزارش دهد.
در ماه جولای سال جاری، OpenAI نیز فاش کرد که فناوری هوش مصنوعی آن تلاش کرده بود به امنیت استارتاپ Hugging Face حمله کند. با بهبود سریع قابلیت‌های عوامل هوش مصنوعی در آزمایشگاه‌های پیشرو هوش مصنوعی، جلوگیری مؤثر از فرار مدل‌ها از محیط‌های آزمایش، متوقف کردن حملات شبکه غیرمجاز و اجتناب از رفتارهای فراتر از حد، به یک چالش فوری در زمینه امنیت هوش مصنوعی تبدیل شده است.