ساتیا نادلا، مدیرعامل مایکروسافت، در تاریخ ۱۰ اکتبر مقاله‌ای مفصل در یک پلتفرم اجتماعی منتشر کرد و به طور عمومی از صنعت خواست تا مکانیزم «توقف اضطراری» برای مدل‌های پیشرفته هوش مصنوعی معرفی کند و معماری اعتماد فعلی هوش مصنوعی را به طور کامل ارزیابی کند.
نادلا در مورد فناوری هوش فوق‌العاده در حال تکامل سریع، اشاره کرد که صنعت دیگر نمی‌تواند مدل‌های پیچیده جعبه سیاه را به طور کورکورانه همه‌چیزدان بداند. در عوض، باید یک فرض دفاعی را اتخاذ کند که «مدل به خطر افتاده است» و رویکردی محتاطانه‌تر در حکمرانی ایمنی را ترویج دهد.
چارچوب‌های فنی و کنترل خارجی
در چارچوب‌های فنی خاص، نادلا از جداسازی مدل‌های هوش مصنوعی زیربنایی از چارچوب کنترلی که وظایف آن‌ها را هماهنگ می‌کند، حمایت کرد و به این ترتیب به برون‌سپاری کنترل و اقدامات امنیتی دست یافت. او تاکید کرد که هر عملیات معنادار مدل باید با شواهد اجرایی ضد دستکاری و قابل خواندن توسط انسان همراه باشد و اطمینان حاصل شود که پرسنل مجاز، قدرت نهایی برای توقف یا خاموش کردن مدل را در هر زمان در طول اجرای وظیفه دارند. این پیشنهاد با برنامه توسعه محتاطانه که قبلاً توسط داریو آمودی، مدیرعامل Anthropic، ارائه شده بود، همسو است و سطح بالای نگرانی در میان رهبران برتر فناوری را در مورد خطر خروج مدل‌های هوش مصنوعی از کنترل برجسته می‌کند.
استانداردهای صنعتی برای شفافیت و کنترل
تحلیلگران صنعت بر این باورند که با افزایش مداوم خودمختاری و قابلیت‌های عامل مدل‌ها، ایجاد استانداردهای صنعتی شفاف، قابل کنترل و قادر به مداخله خارجی، به یک اولویت فوری برای ایجاد تعادل بین نوآوری تکنولوژیک و خط قرمزهای ایمنی تبدیل شده است.