به گزارش Business Insider، بیش از ۱۱۰۰ کارمند از شرکتهای پیشرو هوش مصنوعی مانند OpenAI، Anthropic، گوگل و متا، نامهای سرگشاده را امضا کردهاند که از دولت آمریکا میخواهد سرعت توسعه هوش مصنوعی را کاهش دهد. این ابتکار که «کنترل مرز» نام دارد، مستقیماً به تأخیر جدی در سیستمهای ایمنی و حکمرانی در مسابقه تسلیحاتی کنونی هوش مصنوعی میپردازد. این نامه سرگشاده بر موضوع اصلی «توسعه خودکار هوش مصنوعی» تمرکز دارد – توانایی هوش مصنوعی آینده برای توسعه و بهبود مستقل سیستمهای هوش مصنوعی از طریق «خودبهبودی بازگشتی». Anthropic اعلام کرده است که مدلهای سری Claude آن به سرعت به این آستانه نزدیک میشوند. این نامه هشدار میدهد که توسعه قابلیتهای هوش مصنوعی ممکن است به سرعت فراتر از توانایی انسان برای درک یا کنترل این سیستمها شتاب گیرد و از دولت آمریکا میخواهد تا از همکاریهای بینالمللی برای توسعه فناوریهای لازم و ابزارهای حکمرانی حمایت کند و آگاهانه پیشرفت توسعه خودکار هوش مصنوعی را کنترل کند.
حمایت مدیران اجرایی، تغییر موضع آلتمن
لیست امضاکنندگان این نامه سرگشاده را میتوان یک «ترکیب تمامستاره» در صنعت هوش مصنوعی دانست – داریو آمودی، مدیرعامل Anthropic، به همراه دو بنیانگذار، یاکوب پاچوکی، دانشمند ارشد در OpenAI، شنگجیا ژائو، دانشمند ارشد در متا، و آنکا دراگان، رئیس بخش ایمنی و همسوسازی هوش مصنوعی در Google DeepMind، همگی در آن حضور دارند. OpenAI و Anthropic متعاقباً پیامهایی را در پلتفرم X در حمایت از این موضوع منتشر کردند؛ اولی اذعان داشت که در آیندهای نه چندان دور، شتاب توسعه مدلهای مرزی ممکن است آنقدر سریع شود که جهان نیاز به کاهش سرعت داشته باشد، در حالی که دومی به تحقیقات خود در مورد خودبهبودی بازگشتی که ماه گذشته منتشر شد، اشاره کرد و بر نیاز جامعه به زمان برای آمادهسازی تأکید کرد.
سم آلتمن، مدیرعامل OpenAI، تغییر موضع قابل توجهی از خود نشان داد. او در مصاحبهای با پادکست «Invest Like the Best» گفت که شاید اکنون زمان «کاهش سرعت» توسعه هوش مصنوعی باشد تا جامعه بتواند با قابلیتهای جدید سازگار شود و مکانیسمهای حفاظتی را ایجاد کند.
با این حال، او همچنین تأکید کرد که این رویکرد نباید به عنوان تصاحب نظارتی یا تبانی بین آزمایشگاههای پیشرو تلقی شود. تنها یک سال پیش، هنگامی که با نامهای سرگشاده مشابه که پیشنهاد «کاهش سرعت توسعه هوش مصنوعی» را مطرح میکرد، مواجه شد، آلتمن از امضای آن خودداری کرده بود و دلیل آن را فقدان جزئیات فنی کلیدی عنوان کرد. از خودداری از امضا در سال ۲۰۲۳ تا حمایت عمومی کنونی، این تغییر خود نشاندهنده تحولی عمیق در درک صنعت هوش مصنوعی از خطرات ایمنی است.