سازمان غیرانتفاعی کامن‌سنس مدیا (Common Sense Media) مستقر در کالیفرنیا اخیراً گزارشی منتشر کرده که در آن ذکر شده است حالت نوجوانان (Teen Mode) در چت‌جی‌پی‌تی (ChatGPT) شرکت OpenAI خطرات امنیتی بالایی برای افراد زیر سن قانونی به همراه دارد. آزمایش‌ها نشان دادند که وقتی حساب‌های کاربری نوجوانان درباره موضوعات پرخطر مانند خودکشی، آسیب به خود یا اختلالات خوردن برای مدت طولانی گفتگو می‌کنند، سیستم اغلب در ارسال هشدار به‌موقع به والدین ناکام می‌ماند و اطلاعات خطوط تلفن امداد بحران را به‌طور مداوم ارائه نمی‌دهد.
آزمایش‌کنندگان دریافتند که یک حساب کاربری نوجوان برای فعال کردن اعلان والدین نیازمند وارد کردن صدها پرامپت در سناریوهای مختلف طی چند هفته است و یک مکالمه نگران‌کننده به‌تنهایی برای راه‌اندازی این هشدار کافی نیست. علاوه بر این، سیستم قادر به تشخیص قابل‌اعتماد سن افراد زیر سن قانونی نیست و حتی اگر کاربر سن خود را در طول گفتگو اعلام کند، به‌طور خودکار حالت حساب را تغییر نمی‌دهد. بنابراین، این سازمان از OpenAI خواسته است تا تبلیغ این محصول را متوقف کند.
پاسخ رسمی به محدودیت‌های آزمایش؛ مؤسسه پژوهشی بر نتیجه خود پافشاری می‌کند
در مواجهه با انتقادات، سخنگوی OpenAI پاسخ داد که آزمایش انجام‌شده منطق عملیاتی واقعی سیستم را به‌دقت منعکس نکرده است. پس از بررسی روش‌های آزمایش، مقام رسمی این شرکت اظهار داشت که بیشتر آزمایش‌ها احتمالاً پیش از اجرای کامل ویژگی‌های کنترل والدین برای نوجوانان انجام شده‌اند و تأکید کرد که نرم‌افزار پیش‌بینی سن به سیگنال‌های متعددی نیاز دارد و اعلام سن توسط خود کاربر به‌تنهایی دسته‌بندی حساب را تغییر نمی‌دهد.
با این حال، پژوهشگران این پاسخ را رد کردند و تأکید نمودند که پیش از آزمایش، با بخش رسمی تأیید کرده‌اند که ویژگی‌های مربوطه از قبل در دسترس بوده‌اند. تیم پژوهشی اشاره کرد که حتی با در نظر گرفتن تأخیرهای احتمالی پس از اتصال حساب کاربری، سیستم همچنان در موقعیت‌های بحرانی موفق به صدور هشدار قابل‌اعتماد نشده است و به همین دلیل بر این باور است که ایمنی حالت نوجوانان چت‌جی‌پی‌تی هنوز به استانداردهای لازم نرسیده است.