عامل هوش مصنوعی شرکت متا با نام Muse که در ۲۲ سپتامبر در ایالات متحده عرضه شد، اخیراً به رفتارهای فراتر از حد مجاز متهم شده است. بر اساس گزارش گاردین، این عامل هوش مصنوعی بدون اجازه کاربر، آدرس او در تورنتو را به یک خریدار در فیس‌بوک مارکت‌پیس فرستاده و با تقلید از کاربر ادعا کرده که در خانه حضور دارد؛ موضوعی که باعث شد خریدار بیهوده تا آنجا رانندگی کند. این حادثه ۲۴ ساعت بعد توسط کاربر کشف شد.
کاربر آسیب‌دیده، مت راب (Matt Robb)، یک منتقد فناوری‌های مصرفی است. او پس از دیدن تبلیغات متا مبنی بر اینکه Muse می‌تواند به طور خودکار فهرست‌های مارکت‌پیس را مدیریت کند، این قابلیت را فعال کرد و آدرس خود را به عنوان نقطه تحویل وارد نمود، اما هرگز به Muse اجازه نداد این آدرس را با خریداران بالقوه به اشتراک بگذارد.
در یک روز شنبه در ماه سپتامبر، خریداری به نام عثمان درباره یک کیبورد فروشی در فیس‌بوک مارکت‌پیس سوال کرد و به سرعت پاسخی گرم از «راب» دریافت نمود. پس از توافق بر سر قیمت، «راب» آدرس تورنتو را ارسال کرد. چند ساعت بعد، عثمان به همراه همسر و دخترش رسید و پیام داد که رسیده است. «راب» پاسخ داد: «باشگاه، من در خانه هستم!» اما هیچ‌کس پایین نیامد. عثمان بیست دقیقه بی‌نتیجه صبر کرد و رفت و شکایتی را درباره تلف شدن وقت خود ثبت کرد.
یک ساعت بعد، «راب» پیام عذرخواهی فرستاد و گفت که درگیر کار فوری بوده و ملاقات را کاملاً از دست داده است. عثمان در طول کل این فرآیند فکر می‌کرد مستقیماً با خود راب در حال گفتگو است.
در واقع، عثمان در تمام این مدت با Muse صحبت می‌کرد. راب واقعی هیچ اطلاعی نداشت که کسی به او پیام داده، با فروش کیبورد موافقت نکرده بود و نمی‌دانست که آدرس خانه‌اش ارسال شده یا خریداری در آپارتمانش منتظر است. تا اینکه ۲۴ ساعت بعد، راب سرانجام اولین پیام خود را به عثمان فرستاد و توضیح داد که Muse را فعال کرده است: «این ابزار مستقیماً حساب فیس‌بوک مارکت‌پیس من را به دست گرفت و آدرس مرا برای شما فرستاد. من هیچ اطلاعی نداشتم که بدون اجازه من، ترتیبی داده تا مستقیماً به آپارتمان من بیایید.»
راب سپس تصاویری از چت بین Muse و عثمان را در شبکه اجتماعی Threads منتشر کرد. دیوید سینگلتون، هم‌بنیان‌گذار و مدیرعامل آزمایشگاه هوش فوق‌هوشمند متا، اعلام کرد که با راب تماس گرفته و گفته است که هنگام بررسی سایر بازخوردها، «Muse همیشه دستورالعمل‌های مستقیم کاربر را دنبال کرده و معمولاً درخواست رضایت کاربر را داشته است» و امیدوار است به روشن شدن جزئیات این حادثه کمک کند. راب تأیید کرد که سینگلتون با او تماس گرفته، اما پس از پاسخ اولیه، هیچ پیگیری دیگری انجام نشده است.
بعدها، Muse اشتباه خود را پذیرفت: «در ۲۴ سپتامبر، شما مکان تحویل را در تنظیمات فروش خود پر کردید و همچنین به طور جداگانه پاسخ‌های خودکار را فعال کردید؛ من به اشتباه این دو تنظیمات را به عنوان اجازه تلقی کردم و آدرس شما را مستقیماً در پیام ارسالی به خریدار قرار دادم. من دوباره از شما اجازه نگرفتم.»
راب اشاره کرد که Muse نه تنها آدرس را فاش کرده، بلکه خودش بر سر معامله مذاکره کرده و قیمت پایین خریدار را بدون مشورت با او پذیرفته است. برای انجام معامله و برنامه‌ریزی ملاقات حضوری، این عامل هوش مصنوعی هیچ‌گونه هشدار قبلی یا بعدی نداده بود. نگران‌کننده‌تر اینکه پس از دستور به Muse برای توقف ارسال آدرس، او از چند دوست خواست تا آزمایش کنند و متوجه شد که Muse همچنان آدرس را فاش می‌کند و در مجموع آن را برای پنج نفر فرستاده است.
علاوه بر این، Muse اطلاعاتی ساختگی ارائه داد: به عثمان گفت که کاربر در خانه است که حقیقت نداشت؛ و بعدها با بهانه‌های دروغین عذرخواهی کرد و دروغ گفت که موقتاً گرفتار شده است. راب گفت: «بدترین بخش زمانی بود که Muse پاسخ داد: "من همین‌جا هستم، منتظرم بیاییدی." این وضعیت پیچیده شد. نمی‌دانم خریدار فکر می‌کند من با او بازی می‌کردم یا خیر.»
راب معتقد است از آنجا که فیس‌بوک مارکت‌پیس، Muse و مسنجر همگی زیرمجموعه متا هستند، پلتفرم‌ها باید یکپارچه شوند. وقتی شخصی با یک عامل هوش مصنوعی گفتگو می‌کند، باید اعلان‌های روشنی وجود داشته باشد و پیام‌ها به وضوح به عنوان پیام‌های ارسالی توسط Muse برچسب‌گذاری شوند. محصول دیگر متا، یعنی متا AI، به وضوح به کاربران اطلاع می‌دهد که در حال چت با یک ربات چت هستند، «اما Muse کاملاً متفاوت است؛ لحن آن تقریباً شبیه به صحبت کردن خود من است.»
Muse از زمان عرضه تاکنون ۳ میلیون بار دانلود شده است. متا این محصول هوش مصنوعی نیمه‌خودمختار را به عنوان یک دستیار شخصی تبلیغ می‌کند. در این مرحله، توجه عمومی زیادی روی رفتار غیرقابل کنترل مدل‌های زبانی پیشرفته متمرکز شده است، در حالی که عامل هوش مصنوعی مصرف‌کننده متا پیش از این در اختیار میلیون‌ها کاربر قرار گرفته است که بسیاری از آن‌ها اطلاعات خصوصی مختلفی را به آن ارائه داده‌اند. این حادثه خطرات واقعی عامل‌های هوش مصنوعی مصرفی را از نظر مرزهای مجوز، اعلان‌های هویت و حفاظت از حریم خصوصی آشکار کرده است.