بر اساس گزارش بلومبرگ، فئی فئی لی (Fei-Fei Li)، از پیشگامان هوش مصنوعی، خواستار نظارت بیشتر نهادهای مستقل و بخش عمومی بر هوش مصنوعی شده است. او بر این باور است که ارزیابی ایمنی سیستم‌های قدرتمند هوش مصنوعی نباید صرفاً به شرکت‌های توسعه‌دهنده آن‌ها واگذار شود.
ارزیابی نباید تنها به توسعه‌دهندگان سپرده شود
لی، استاد دانشگاه استنفورد و هم‌بنیان‌گذار World Labs، روز سه‌شنبه اظهار داشت که اگرچه پژوهشگران داخلی شرکت‌های هوش مصنوعی می‌توانند قابلیت‌ها و ایمنی مدل‌های فردی را ارزیابی کنند، اما این امر نمی‌تواند جایگزین استانداردهای گسترده‌تری شود که توسط دولت‌ها، صنایع و مؤسسات آکادمیک تعیین می‌شوند. او در مصاحبه با بلومبرگ تلویژن گفت: «من همچنان معتقدم که ایجاد محک‌ها و استانداردها توسط نهادهای مستقل و بخش عمومی مانند دانشگاه‌ها بسیار مهم است. در عین حال، صنعت و دولت نیز باید مسئولیت را به اشتراک بگذارند.»
با قدرتمندتر شدن سیستم‌های هوش مصنوعی، نگرانی‌ها درباره خطرات بالقوه آن‌ها در حال افزایش است. برخی از رهبران در سیلیکون ولی هشدار داده‌اند که توسعه سریع این فناوری ممکن است در نهایت از کنترل انسان خارج شود. در هفته‌های اخیر، داریو آمودی، مدیرعامل آنتروپیک، و سم اولمن، مدیرعامل OpenAI، هر دو خواستار کند کردن روند توسعه مدل‌های پیشرفته شده‌اند.
لی گفت خطرات وجودی ناشی از هوش مصنوعی در نهایت به نحوه انتخاب انسان‌ها برای توسعه، حکومت‌داری و استفاده از این فناوری بستگی دارد. او تأکید کرد که این اصل فراتر از هوش مصنوعی نیز صدق می‌کند؛ جامعه همیشه نیاز داشته است تا مزایای فناوری را با ایمنی شخصی تعادل ببخشد. وی خاطرنشان کرد که بشریت «قدرت را بر فناوری در دست دارد» و «ما باید کنترل را حفظ کنیم.»
انسان‌ها باید کنترل را حفظ کنند و بحث‌ها شدت می‌گیرد
اظهارات لی صداهای تازه‌ای را به بحث رو به رشد میان سیاست‌گذاران و رهبران صنعت هوش مصنوعی در مورد میزان جدی گرفتن هشدارهای مربوط به افراطی‌ترین خطرات این فناوری اضافه می‌کند.
لی همچنین اشاره کرد که بحث‌ها درباره رفتار سیستم‌های هوش مصنوعی فراتر از «مدل‌های پیشرو» که رونق فعلی را هدایت می‌کنند، رفته است. شرکت او، World Labs، در حال توسعه «مدل‌های جهانی» است که قادر به تولید و بازسازی محیط‌های سه‌بعدی هستند. او گفت با ورود این سیستم‌ها به کاربردهای دنیای واقعی، صنعت با همان سؤال اساسی روبرو است: چگونه سیستم‌های قدرتمند هوش مصنوعی را ارزیابی کنیم و تشخیص دهیم که آیا طبق انتظار عمل می‌کنند یا خیر.