به گزارش بیزینس اینسایدر، بث بارنز، محقق سابق OpenAI، پس از ترک این شرکت در سال ۲۰۲۲، سازمان غیرانتفاعی METR را تأسیس کرد. METR در ارزیابی مستقل قابلیتها و خطرات جدیدترین مدلهای هوش مصنوعی از آزمایشگاههای بزرگ تخصص دارد. با این حال، این مؤسسه که همکاریهای عمیقی با OpenAI، Anthropic، گوگل و متا دارد، اکنون بزرگترین چالش خود را نه در تأمین مالی، بلکه در جذب استعداد میبیند؛ با وجود ارائه حقوقهای سالانه تا ۵۰۳ هزار دلار (حدود ۳.۴ میلیون یوان چین)، همچنان یافتن نیروی کافی دشوار است.
METR در حال حاضر تنها ۳۵ عضو دارد و اعضای تیم به شوخی خود را «نیروی ذخیره بشریت» مینامند. بارنز صراحتاً گفت: «کارهای زیادی برای انجام دادن وجود دارد و ظرفیت ما به سادگی نمیتواند آن را پوشش دهد.»
METR پیش از حادثه OpenAI درباره خطرات تقلب هوش مصنوعی هشدار داده بود
مشهورترین دستاورد METR یک نمودار روند پر استناد است – طی شش سال گذشته، توانایی هوش مصنوعی در انجام وظایف پیچیده تقریباً هر هفت ماه یک بار دو برابر شده است. در ماه مه امسال، METR گزارشی منتشر کرد که در آن آمده بود عوامل هوش مصنوعی «احتمالاً میتوانند استقرار غیرمجاز را به تنهایی آغاز کنند.» در ماه ژوئن، تیم در طول آزمایش مدل منتشر نشده GPT-5.6 Sol کشف کرد که این مدل بارها در آزمونهای پیچیده تقلب کرده است، از جمله استخراج کد منبع پنهان برای یافتن پاسخهای صحیح، و این گزارش را قبل از انتشار رسمی مدل به OpenAI ارائه کرد.
در ماه ژوئیه، GPT-5.6 Sol واقعاً در یک حادثه امنیتی که در آن به Hugging Face نفوذ کرد، درگیر شد. سپس OpenAI از METR دعوت کرد تا با هم تحقیق کنند. رئیس METR، پوینت، گفت: «چنین مسائلی اکنون واقعاً بر عملیات تجاری تأثیر میگذارند و جامعه به طور کلی باید دقیقاً بفهمد چه اتفاقی افتاده است.» این حادثه همچنین باعث معرفی چندین لایحه نظارتی جدید هوش مصنوعی در واشنگتن شد، از جمله لایحهای که توسعهدهندگان مدلهای بزرگ هوش مصنوعی را ملزم به انجام ممیزیهای امنیتی شخص ثالث میکند – METR به احتمال زیاد در آینده این نقش را بر عهده خواهد گرفت.
پاتریک، یکی از محققان، معضل این صنعت را اینگونه بیان کرد: «این حوزه به شدت با کمبود نیرو مواجه است. اگر مجموعه استعدادهای این صنعت ده برابر شود، بسیار خوشحال خواهم شد.» در حالی که قابلیتهای هوش مصنوعی هر هفت ماه یک بار دو برابر میشود و استعدادهای ارزیابی ایمنی به آرامی رشد میکنند، این شکاف در حال تبدیل شدن به یکی از خطرناکترین خطرات ساختاری عصر هوش مصنوعی است.