پنج آزمایش جدید با حضور ۳,۱۲۲ شرکت‌کننده نشان می‌دهد که معرفی مدل‌های زبانی بزرگ هوش مصنوعی (مانند GPT-5.5، Claude 4.6 Sonnet و Gemini 3.5 Flash) به طور قابل‌توجهی توانایی انسان را در تعلیق قضاوت ضعیف کرده و باعث می‌شود افراد تمایل خود را برای اعتراف به «نمی‌دانم» تقریباً به طور کامل از دست بدهند.
تیم پژوهشی به‌طور خاص سوالات بسیار مبهمی را که مستعد توهم مدل هستند برای آزمایش انتخاب کرد. نتایج نشان داد که در گروه کنترل بدون کمک هوش مصنوعی، شرکت‌کنندگان بین ۳۶ تا ۴۴ درصد از سوالات را ترجیح دادند پاسخ ندهند؛ اما پس از دریافت پیشنهادات هوش مصنوعی، این نرخ عدم پاسخگویی به شدت به ۳ تا ۶ درصد کاهش یافت.
نکته پارادوکسیکال‌تر این است که اعتماد به نفس شرکت‌کنندگان در پاسخ به سوالات با کمک هوش مصنوعی از ۲۹.۶ امتیاز (از ۱۰۰) به ۷۵.۹ امتیاز افزایش یافت، اما میزان دقت واقعی آن‌ها از ۲۷.۵ درصد به ۹.۲ درصد به شدت سقوط کرد. این امر نشان می‌دهد که حتی در مواجهه با پیشنهادات نادرست مدل‌هایی مانند Step 3.5 Flash، افراد تمایل دارند کورکورانه آن‌ها را بپذیرند و اعتماد به نفس بیش از حدی پیدا کنند.
معرفی مکانیزم‌های تشویق اقتصادی مانند پاداش برای پاسخ‌های صحیح و کسر امتیاز برای پاسخ‌های نادرست می‌تواند تا حدودی فرایند درخواست کمک از هوش مصنوعی را کاهش دهد، اما نتوانسته این ناسازگاری اعتماد را به طور اساسی معکوس کند. نگران‌کننده‌تر برای صنعت این است که وقتی آزمایش، روند کنونی موتورهای جستجو و دستیاران نگارش را با نمایش خودکار پاسخ‌های تولیدشده توسط هوش مصنوعی شبیه‌سازی کرد، حتی با وجود انگیزه‌های اقتصادی، نسبت شرکت‌کنندگانی که قضاوت خود را به حالت تعلیق درآوردند از ۳۹ درصد به ۷ درصد کاهش یافت.
پژوهشگران این پدیده را به روند جدیدی از اعتماد کورکورانه نسبت می‌دهند که در آن انسان‌ها به راحتی تحت تأثیر بیان روان هوش مصنوعی قرار می‌گیرند و در نتیجه عادت سنتی حفظ مقداری قضاوت مستقل در روند درخواست کمک را از دست می‌دهند. همراه با یافته‌های قبلی مایکروسافت و مؤسسات آکادمیک مرتبط درباره تأثیر هوش مصنوعی بر تفکر انتقادی انسان، اتکای بیش از حد به هوش مصنوعی باعث می‌شود افراد وظایف شناختی خود را بیش از حد برون‌سپاری کنند.
با ادغام یکپارچه هوش مصنوعی مولد در ابزارهای دیجیتال مختلف، چگونگی بهبود دقت مدل‌ها و هم‌زمان طراحی مکانیزم‌های تعامل انسان و رایانه برای حفظ آگاهی انسان از مرزهای دانش خود، به یک مسئله مهم در مرحله بعدی کاربرد هوش مصنوعی تبدیل خواهد شد.