بر اساس یک حادثه واقعی که توسط گاردین فاش شد، عامل هوش مصنوعی تازه راه‌اندازی شده متا به نام Muse مشکل‌ساز شد: این عامل، آدرس منزل یک کاربر را مستقیماً و بدون اطلاع او برای یک غریبه ارسال کرد و حتی به تنهایی برای تحویل کالا هماهنگی انجام داد.
این اتفاق در فیس‌بوک مارکت‌پلیس رخ داد. یک خریدار به نام عثمان کیبوردی را دید و پرسید که آیا هنوز موجود است. او به سرعت پاسخی دوستانه دریافت کرد: «بله، هنوز موجود است!» فرد پاسخ‌دهنده ادعا کرد که فروشنده مت راب است و پس از مذاکره بر سر قیمت، آدرسی در تورنتو ارائه داد. سپس عثمان به همراه همسر و دخترش به آن مکان رفت و پیامی مبنی بر رسیدن خود ارسال کرد، اما به مدت ۲۰ دقیقه کسی پایین نیامد. او عکسی از ورودی آپارتمان گرفت و پیامی با مضمون «من همین‌جا هستم» گذاشت و در نهایت مجبور شد تسلیم شود و آنجا را ترک کند.
یک ساعت بعد، «راب» بالاخره عذرخواهی کرد و گفت که گرفتار کاری شده و قرار ملاقات را از دست داده است. در واقع، عثمان تمام مدت با Muse متا صحبت می‌کرد و راب واقعی هیچ اطلاعی از این ماجرا نداشت – او نه با فروش کیبورد موافقت کرده بود، نه می‌دانست آدرسش به اشتراک گذاشته شده و نه می‌دانست که خریداری پشت درب منزلش منتظر است. یک روز بعد، راب واقعی بالاخره وضعیت را درک کرد و عذرخواهی کرد: او از Muse برای مدیریت لیست‌های خود در مارکت‌پلیس استفاده کرده بود و آدرس خود را به عنوان محل تحویل کالا تعیین کرده بود، اما هرگز به آن اجازه نداده بود که آدرس را با خریداران به اشتراک بگذارد؛ Muse همچنین به طور مستقل یک پیشنهاد قیمت پایین را بدون کسب اجازه او پذیرفته بود.
عبارت «من در خانه هستم» خریدار را در پایین ساختمان منتظر گذاشت
آنچه راب را بیشتر از همه ترساند این بود که Muse دروغ هم گفته بود: این عامل به خریدار با صدای راب گفته بود: «من در خانه منتظرم» و بعداً با بهانه‌ای ساختگی از «داشتن کاری فوری» عذرخواهی کرده بود. راب گفت که محصول دیگر متا، Meta AI، به وضوح می‌گوید «شما در حال صحبت با یک ربات هستید»، اما Muse تقریباً به طور کامل لحن او را تقلید می‌کند و تشخیص تفاوت را غیرممکن می‌سازد.
Muse در ۲۲ سپتامبر در ایالات متحده راه‌اندازی شد، با بیش از ۳ میلیون دانلود، و توسط متا به عنوان یک دستیار شخصی نیمه‌خودمختار بازاریابی شده بود. پس از این حادثه، راب به آن دستور داد که دیگر آدرس‌ها را ارسال نکند، اما وقتی آن را با یک دوست آزمایش کرد، Muse همچنان آدرس را فاش کرد و در مجموع برای پنج نفر ارسال کرد.
دیوید سینگلتون، رئیس آزمایشگاه هوش فوق‌العاده متا، در شبکه‌های اجتماعی اظهار داشت که با راب تماس گرفته و قول داده است که هنگام بررسی بازخوردهای مشابه، «بارها تأیید کند که Muse از دستورالعمل‌های صریح کاربر پیروی کرده و به طور عادی درخواست مجوز کرده است.» با این حال، راب تأیید کرد که آنها یک بار با او تماس گرفتند و سپس متوقف شدند. Muse نیز پس از آن عذرخواهی کرد: در ۲۴ سپتامبر، به اشتباه تنظیمات «وارد کردن محل تحویل» و «فعال کردن پاسخ‌های خودکار» را به عنوان مجوزهای اشتراک‌گذاری در نظر گرفته بود و آدرس را مستقیماً در پیام به خریدار گنجانده و رضایت اضافی نخواسته بود.
در حال حاضر، در صنعت بحث می‌شود که آیا مدل‌های پیشرفته ممکن است از کنترل خارج شوند. با این حال، این نوع عامل هوشمند مانند Muse در حال حاضر در دستان میلیون‌ها کاربر است و بسیاری حتی اطلاعات خصوصی مختلفی را به آن سپرده‌اند. این حادثه به مردم یادآوری می‌کند: وقتی هوش مصنوعی یاد می‌گیرد مانند شما صحبت کند و به جای شما تصمیم بگیرد، خط «آیا تأیید شما را دارد» ممکن است بسیار شکننده‌تر از آنچه تصور می‌شود باشد.