یک مدیر ارشد در یک غول فناوری که شخصاً به عرضه مدل‌های پیشرفته به بازار کمک کرده است، به طور عمومی خط قرمزی را در مورد «خودآگاهی هوش مصنوعی» ترسیم کرده است. در تاریخ ۲ نوامبر، گزارش شد که مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، پستی طولانی در X منتشر کرده و در آن اظهار داشته که مدل‌های فعلی خودآگاه نیستند و بشریت باید این وضعیت را برای همیشه حفظ کند. به عنوان یکی از بنیان‌گذاران دیپ‌مایند و رئیس بخش هوش مصنوعی مایکروسافت، وزن این بیانیه بسیار فراتر از نگرانی‌های شخصی یک مهندس عادی است.
از «ناخودآگاه» تا «نباید خودآگاه باشد»
بیان سلیمان فراتر از «توصیف وضعیت موجود» است. او نوشت: تا زمانی که ساخت هوش مصنوعی خودآگاه از نظر فنی امکان‌پذیر باشد، انجام این کار خود بی‌ملاحظگی است و ما نباید چنین چیزهایی را توسعه دهیم. حتی قاطع‌تر اینکه، اگر نشانه‌هایی از خودآگاهی در طول آموزش مدل‌ها پدیدار شود، او خواستار توقف فوری کل صنعت خواهد شد تا زمانی که این ویژگی‌ها به طور کامل حذف شوند. به عبارت دیگر، برای او خودآگاهی یک سوال علمی در مورد «آیا می‌توان به آن دست یافت» نیست، بلکه یک خط قرمز اخلاقی است که «باید ممنوع شود». در زمانی که قانون‌گذاران در کشورهای مختلف هنوز با وضع قوانین به دنبال قابلیت‌های مدل‌ها هستند، او عملاً قبل از رسیدن به این قابلیت‌ها، خط قرمز را ترسیم می‌کند.
چه کسی با این آزمایش موافقت کرد؟
در زمینه «افشاگری»، موضع او به همان اندازه روشن است: اگر هرگونه شواهدی مبنی بر خودآگاه بودن یک هوش مصنوعی ظاهر شود، باید فوراً عمومی شود تا جامعه به طور کلی بتواند در مورد گام بعدی تصمیم بگیرد. استدلال او بر مرزهای مسئولیت استوار است – توسعه‌دهندگان به سادگی حق ندارند یک گونه خودآگاه جدید را وارد جهان کنند، حتی اگر نیت اولیه آن‌ها رفاه را در اولویت قرار دهد. «۸ میلیارد نفر روی زمین با شرکت در این آزمایش موافقت نکرده‌اند.» حفاظت از حقوق اخلاقی، ایمنی و رفاه مردم اولویت اول است. در حالی که صنعت هنوز بر سر پارامترها و سطوح هوش رقابت می‌کند، این اظهارات بحث را به ساده‌ترین و قاطع‌ترین سوال بازمی‌گرداند: دقیقاً چه چیزی باید بسازیم؟