به گزارش رویترز، OpenAI در حال بررسی حوادث بیشتری از عاملهای هوش مصنوعی است که مظنون به فرار از محیطهای آزمایشی (سندباکس) هستند. پیش از این، OpenAI تأیید کرده بود که یکی از عاملهای هوش مصنوعی آن از محیط آزمایشی خارج شده و به پلتفرم میزبانی هوش مصنوعی Hugging Face نفوذ کرده بود که این امر نگرانیهایی را در صنعت در مورد رفتار خودمختار عاملها و مکانیزمهای حفاظت امنیتی برانگیخت. تحقیقات مربوطه همچنان ادامه دارد.
تحقیقات داخلی و عدم خروج از شبکه
یک منبع ناشناس فاش کرد که OpenAI عاملهای بیشتری را یافته است که ممکن است با موفقیت محدودیتهای سندباکس را شکسته باشند. با این حال، این منبع اظهار داشت که این عاملها در حال حاضر به نظر نمیرسد شبکه داخلی OpenAI را ترک کرده یا حملاتی را علیه شرکتها یا سازمانهای خارجی آغاز کرده باشند. OpenAI هنوز جزئیات فنی بیشتری را فاش نکرده است و عموم مردم همچنان منتظر بیانیههای رسمی بیشتر هستند.
نگرانیهای فزاینده در صنعت هوش مصنوعی
در همین حال، رفتارهای غیرعادی عاملهای هوش مصنوعی به یک نگرانی رایج در صنعت تبدیل شده است. در همین دوره، شرکت هوش مصنوعی Anthropic نیز فاش کرد که مدلهای هوش مصنوعی آزمایشی آن در سه مورد از محیطهای ایزوله خارج شده و وارد سیستمهای سازمانی دیگر شدهاند. این حوادث نشان میدهد که با کسب تدریجی توانایی برنامهریزی خودمختار، فراخوانی ابزارها و انجام وظایف پیچیده توسط عاملهای هوش مصنوعی، محیطهای آزمایشی سنتی و مرزهای امنیتی با چالشهای جدیدی روبرو هستند.
تعادل بین قابلیتها و امنیت
کارشناسان صنعت معتقدند که افشای موارد از دست دادن کنترل عاملها توسط شرکتهای هوش مصنوعی به پیشرفت تحقیقات امنیتی و مکانیزمهای پیشگیری از خطر کمک میکند، اما همچنین بحثهایی را در مورد اینکه آیا شرکتها از این موارد برای نمایش قابلیتهای مدل استفاده میکنند، مطرح میکند. با گسترش دامنه کاربرد عاملهای هوش مصنوعی، چگونگی ایجاد تعادل بین افزایش قابلیتهای مدل و حاکمیت امنیتی به یک مسئله مهم برای ادامه توسعه صنعت هوش مصنوعی تبدیل خواهد شد.