در تاریخ ۸ اکتبر، سه محقق امنیتی - جاسمین وانگ، تومک کورباک و میکیتا بالسنی - که پیشتر توسط OpenAI به اتهام نقض سیاستهای امنیت اطلاعات اخراج شده بودند، نامهای سرگشاده مشترک منتشر کردند. آنها به صراحت هرگونه نقض قوانین شرکت یا افشای اطلاعات حساس به اشخاص ثالث را تکذیب کرده و هشدار دادند که اخراجهای ناگهانی، فضایی از «ترس و دلهره» را در داخل شرکت ایجاد کرده و توانایی نظارت و واکنش به خطرات در مدلهای پیشرفته را تضعیف میکند.
این حادثه از یک تحقیق داخلی که هفته گذشته توسط OpenAI آغاز شد، نشأت گرفت. شرکت ادعا کرد که این سه نفر با دور زدن رویههای established، به «اطلاعات تحقیقاتی حساس دسترسی پیدا کرده و آنها را پردازش کردهاند» و متعاقباً قرارداد کاری آنها را فسخ کرد. با این حال، نامه سرگشاده جزئیات پسزمینه تحقیق را شرح داد: پس از بحرانهای امنیتی بیسابقه مانند «حادثه خروج عامل Hugging Face از محیط ایزوله»، تیم تحقیقاتی نیاز به همکاری نزدیک با آژانسهای ارزیابی امنیتی شخص ثالث برای ایجاد اعتماد داشت.
در همین حال، ارتباط با کارشناسان خارجی برای رفع مشکل کاهش دید در استدلال Chain-of-Thought برای معماریهای جدید نیز از حمایت انطباقی مدیریت ارشد و اعضای هیئت مدیره برخوردار بود. این سه محقق تأکید کردند که وظایف خود را در چارچوب اختیارات و مقررات فعلی شرکت انجام دادهاند. وانگ به طور خاص توضیح داد که او حادثه خاص باز شدن اشتباه ایمیل یک مدیر اجرایی را به سرعت به بخش IT و مدیران گزارش داده و اظهار داشت که دلیل اخراج او بیاساس است.
اگرچه یادداشت داخلی OpenAI بر تشویق به طرح نگرانیهای ایمنی تأکید مجدد کرد و هرگونه تلافیجویی را رد نمود، اما این حادثه تنش عمیق بین پیگیری قابلیتهای استدلالی مدل و اجرای ممیزیهای امنیتی مستقل در خط مقدم شرکتهای هوش مصنوعی را برجسته میکند. در دوران کنونی که حوادث امنیتی عاملهای هوش مصنوعی مکرر اتفاق میافتد، چگونگی ترسیم مرزها بین توافقنامههای محرمانه تجاری سختگیرانه و مکانیسمهای ارزیابی شفاف شخص ثالث، به یک چالش حکمرانی فوری در توسعه مدلهای بزرگ تبدیل شده است.
