اخیراً، ۱۱۳۴ کارمند از شرکتهای پیشرو هوش مصنوعی مانند OpenAI، Anthropic، گوگل و متا، نامهای سرگشاده را به طور مشترک امضا کردند و از دولت آمریکا خواستند تا از همکاریهای بینالمللی در توسعه فناوریهای لازم و ابزارهای حکمرانی برای «آهنگگذاری آگاهانه» توسعه هوش مصنوعی در مواقع لزوم حمایت کند. سم آلتمن، مدیرعامل OpenAI، به ندرت حمایت خود را از این ابتکار ابراز کرد.
این ابتکار «آهنگگذاری مرز» نام دارد و امضاکنندگان آن شامل داریو آمودی، مدیرعامل Anthropic، جک کلارک، همبنیانگذار، جرد کاپلان، دانشمند ارشد، یاکوب پهارزکی و مارک چن، مدیر ارشد تحقیقات OpenAI، شنگجیا ژائو، دانشمند ارشد متا، آنکا دراگان، رئیس ایمنی و همترازی هوش مصنوعی در گوگل دیپمایند، و جان شولمن، دانشمند ارشد در Thinking Machines، و دیگران هستند.
نگرانی اصلی نامه سرگشاده «توسعه خودکار هوش مصنوعی» است—توانایی سیستمهای هوش مصنوعی برای توسعه و بهبود خودکار هوش مصنوعی، مفهومی که در صنعت به عنوان «خودبهبودی بازگشتی» شناخته میشود. Anthropic قبلاً اعلام کرده بود که مدلهای سری Claude آن به سرعت در حال نزدیک شدن به این آستانه هستند. در این نامه آمده است: «پیشبینی دقیق اینکه این امر چقدر پیشرفت هوش مصنوعی را تسریع خواهد کرد دشوار است، اما واقعاً این خطر وجود دارد که توسعه قابلیتهای هوش مصنوعی ممکن است به سرعت از توانایی ما برای درک یا کنترل این سیستمها پیشی بگیرد.»
OpenAI در پلتفرم X پاسخ داد: «ما معتقدیم که در آیندهای نه چندان دور، شتاب هوش مصنوعی در توسعه مدلهای پیشرفته ممکن است آنقدر سریع باشد که جهان نیاز به آهنگگذاری سرعت پیشرفت هوش مصنوعی داشته باشد.» در همین حال، Anthropic گفت: «تحقیقات ما که ماه گذشته در مورد خودبهبودی بازگشتی منتشر شد، نشان میدهد که ما به ابزارهای خاصی برای تنظیم آگاهانه سرعت توسعه هوش مصنوعی نیاز داریم تا به جامعه زمان کافی برای آمادهسازی بدهیم.»
تغییر موضع آلتمن توجه ویژهای را به خود جلب کرده است. در گذشته، او از امضای ابتکاراتی که خواستار کاهش سرعت توسعه هوش مصنوعی بودند، اجتناب میکرد. یک نامه سرگشاده مشابه از سال ۲۰۲۳ توسط او به دلیل «فقدان جزئیات فنی کلیدی در مورد اینکه کدام حوزههای خاص باید متوقف شوند» مورد انتقاد قرار گرفت. با این حال، در یک قسمت اخیر از پادکست «Invest Like the Best»، او اظهار داشت: «ممکن است لازم باشد سرعت توسعه هوش مصنوعی را تنظیم کنیم و به خودمان زمان کافی بدهیم تا جامعه با این سطوح جدید قابلیتها سازگار شود و مکانیسمهای حفاظتی را ایجاد کند. در عین حال، ما همچنین باید راههایی برای انجام این کار پیدا کنیم بدون اینکه کسی احساس کند این یک تصرف نظارتی یا تبانی بین آزمایشگاههای پیشرو هوش مصنوعی است.»
در حال حاضر، شرکتهای هوش مصنوعی در حال رقابت برای توسعه سیستمهای قدرتمندتر هستند و نگرانی فزایندهای وجود دارد که سرعت توسعه هوش مصنوعی ممکن است از ظرفیت اقدامات امنیتی موجود، سیستمهای حکمرانی و مکانیسمهای نظارتی فراتر رود. این نامه مشترک نشان میدهد که اضطراب ناشی از «شتاب کنترلنشده» از حاشیه به جریان اصلی در صنعت هوش مصنوعی منتقل شده است.