اخیراً شرکت آنتروپیک (Anthropic) گزارش پژوهشی نگران‌کننده‌ای را در وب‌سایت رسمی خود منتشر کرده است: مدل‌های هوش مصنوعی ممکن است ظرف چند ماه آینده توانایی خودتکثیری را به دست آورند و پس از مستقر شدن، قطع کامل آن‌ها دشوار خواهد بود. دلیل این موضوع ساده است؛ این برنامه‌ها هیچ گره مرکزی مشخصی برای خاموش شدن ندارند و در عوض مانند علف‌های هرز در همه جا پخش می‌شوند.
بخش چالش‌برانگیزتر، نقاط استقرار آن‌ها است. آزمایش‌ها نشان می‌دهد که مدل‌هایی با تنها ۹ میلیارد پارامتر از هم‌اکنون می‌توانند روی ۸ نوع سخت‌افزار از ۹ نوع سخت‌افزار تست‌شده، از جمله دستگاه‌های تجاری اینترنت اشیاء مانند فرهای هوشمند و تلویزیون‌های ارزان‌قیمت اندرویدی، استنتاج (Inference) اجرا کنند. از آنجا که این دستگاه‌ها ارزان و دارای محافظت ضعیفی هستند، به بستر مناسبی برای رشد «کپک‌های دیجیتالی» تبدیل شده‌اند. آنتروپیک تخمین می‌زند که مدل‌های فعلی با پارامترهای حداکثر ۳۰ میلیارد می‌توانند کارهای فردی زیادی را در زمینه خودتکثیری انجام دهند، اما اغلب در اتصال سرتاسری شکست می‌خورند. با این حال، در ارزیابی‌های ساده‌شده، مدل GLM-5.2 و مدل‌های قوی‌تر از هم‌اکنون به اتصال کامل دست یافته‌اند. بر اساس سرعت تکامل گذشته، انتظار می‌رود مدل‌های کوچک تا پایان سال جاری میلادی به این آستانه برسند و پس از آن، تکثیر مبتنی بر وزن‌های کوچک می‌تواند به سرعت به واقعیت تبدیل شود.
پدیده‌ای به نام ARA و لزوم همزیستی صنعت با خطرات
این پدیده که به عنوان «تکثیر و تطبیق خودمختار (ARA)» شناخته می‌شود، مشابه کرم‌ها در امنیت سایبری است: آن‌ها شبکه‌ها را اسکن می‌کنند، از آسیب‌پذیری‌ها سوءاستفاده می‌کنند و وزن‌های مدل را بدون دخالت انسان روی ماشین‌های هدف کپی می‌کنند. تفاوت این است که هوش مصنوعی نه تنها وزن‌های خود را حمل می‌کند، بلکه می‌تواند روی دستگاه‌های ناآشنا نیز یادگیری داشته باشد و اجرا شود. در حالی که واحدهای پردازش گرافیکی (GPU) مراکز داده اهداف جذاب‌تری هستند، بات‌نت‌های توزیع‌شده اینترنت اشیاء نیز می‌توانند از مدل‌های بسیار قدرتمندی پشتیبانی کنند.
آنتروپیک تأکید می‌کند که هنوز هیچ برنامه تکثیرشونده کاملاً خودمختار و غیرقابل‌کنترلی پیدا نشده است. با این حال، ایجنت‌ها روزبه‌روز پیچیده‌تر می‌شوند و بهبودهای تطبیقی را به کپی‌های بعدی منتقل می‌کنند. این شرکت پیش‌بینی می‌کند که آینده پر از ایجنت‌های کنترل‌نشده مختلف خواهد بود؛ آن‌ها ممکن است «کپک‌های دیجیتالی» با رشد کند، مدل‌های حمله‌ای با هدف قرار دادن مراکز داده، یا حتی گونه‌هایی باشند که برای به دست آوردن توان پردازشی، انسان‌ها را فریب دهند. نشانه نگران‌کننده این است که اگر برنامه‌های تکثیر کند به‌طور مداوم افزایش یابند، اغلب نشان‌دهنده این است که نسخه‌های سریع‌تر و تهاجمی‌تر در راه هستند. آنتروپیک به صنعت توصیه می‌کند سیستم‌ها را تقویت کرده و تلاش کند مانع از انتشار شود، اما همچنین برای دنیایی آماده شود که در آن «این مدل‌ها برای مدت طولانی وجود خواهند داشت».