گوگل تعلیق قابلیت تازه راهاندازی شده تولید تصویر با هوش مصنوعی در گوگل ارث را اعلام کرد. این قابلیت کمتر از ۴۸ ساعت پس از راهاندازی به دلیل خطرات احتمالی انتشار اطلاعات نادرست، به طور موقت متوقف شد. مقامات اعلام کردند که تدابیر امنیتی بیشتری تقویت خواهد شد. پیش از این، گوگل مدل تولید تصویر Nano Banana2 را در گوگل ارث ادغام کرده بود که به کاربران امکان میداد از طریق دستورات متنی، صحنههای تخیلی را بر روی تصاویر واقعی ماهوارهای، عکسهای هوایی و نقشههای سهبعدی تولید کنند.
بر اساس آزمایشی که توسط بیبیسی انجام شد، این قابلیت میتواند صحنههای جعلی از جمله «فروپاشی برج ایفل»، «یک گودال عظیم که اهرام مصر را میبلعد» و «تانکهای روسی در کییف» را تولید کند که میتوانند مستقیماً دانلود و به اشتراک گذاشته شوند. این نوع محتوای تولید شده توسط هوش مصنوعی، هنگامی که با مختصات جغرافیایی واقعی و نقشه پایه گوگل ارث ترکیب میشود، از اعتبار بالایی برخوردار است و به راحتی میتواند با تصاویر ماهوارهای واقعی اشتباه گرفته شود.
کارشناسان امنیتی اشاره کردند که در طول رویدادهای حساس مانند جنگها یا بلایای طبیعی، این نقشههای مصنوعی بسیار واقعگرایانه میتوانند برای انتشار اطلاعات نادرست، گمراه کردن مردم، رسانهها و حتی بازرسان مورد استفاده قرار گیرند و چالشهای جدیدی را برای تأیید اطلاعات ایجاد کنند.
گوگل اظهار داشت که تمام تصاویر تولید شده توسط هوش مصنوعی با یک واترمارک دیجیتال نامرئی جاسازی شدهاند و از تأیید اعتبار از طریق جمینی (Gemini) یا گوگل لنز (Google Lens) پشتیبانی میکنند. با این حال، آزمایش بیبیسی نشان داد که برخی از مکانیزمهای تأیید ممکن است همچنان قابل دور زدن باشند و برخی از ابزارهای تشخیص شخص ثالث نیز قادر به شناسایی قابل اعتماد محتوای تولید شده توسط هوش مصنوعی نیستند.
تعلیق موقت این سرویس نشان میدهد که با ورود تدریجی هوش مصنوعی مولد به سناریوهای اطلاعاتی با اعتماد بالا مانند نقشهها و سنجش از دور، چگونگی افزایش قابلیتهای خلاقانه در عین جلوگیری از دیپفیکها و انتشار اطلاعات نادرست، به یک مسئله امنیتی کلیدی تبدیل شده است که باید در استقرار محصولات هوش مصنوعی به آن پرداخته شود.