در گذشته، کاربران خودشان باید خویشتن‌داری می‌کردند؛ اما اکنون هوش مصنوعی ابتدا وارد عمل می‌شود. اوپن‌ای‌آی اخیراً اعلام کرده است که در هفته‌های آتی، تدابیر امنیتی سخت‌گیرانه‌تری را برای مقابله با محتوای خشونت‌آمیز به ChatGPT اضافه خواهد کرد: زمانی که مکالمه‌ای حول محور خشونت یا افکار آسیب جدی به دیگران بچرخد، مدل می‌تواند به تنهایی به مکالمه پایان دهد؛ اگر یک حساب کاربری به دلیل چنین مسائلی چندین بار قطع شود، مسدودسازی نیز اعمال خواهد شد. این یک قانون کاملاً جدید نیست – ChatGPT پیش از این نیز ارائه راهنمایی برای برنامه‌ریزی یا انجام خشونت را ممنوع کرده بود. این به‌روزرسانی، «قطع فعال» را به اجرای قوانین اضافه می‌کند و از «امتناع منفعلانه از پاسخگویی» به «وقفه فعال» تغییر جهت می‌دهد، و منطق پلتفرم برای مدیریت محتوای خطرناک به وضوح ارتقا یافته است.
قوانین یکسان برای تمام سنین
قوانین جدید محدودیت‌ها را به تمام کاربران، بدون استثنا برای بزرگسالان، گسترش می‌دهد. این تنظیمات بر نحوه پاسخگویی به سوالات مربوط به «حوادث حمله تاریخی» تمرکز دارد – از منظر ایمنی، مدل جزئیات مربوط به سلاح‌ها، تجهیزات و روش‌های دستیابی مورد استفاده در حملات را کاهش داده یا حتی از ارائه آن‌ها خودداری خواهد کرد و همچنین مقایسه‌های جانبی آمار تلفات را که می‌تواند شهرت عاملان را افزایش دهد، محدود می‌کند. به عبارت دیگر، بزرگسالان و خردسالان با محدودیت‌های سخت‌گیرانه یکسانی روبرو هستند؛ تفاوت فقط در عمق است: کاربران بزرگسال نیز متوقف خواهند شد، اما بدون لایه اضافی که اطلاعات عملی در مورد سلاح‌ها و سیستم‌های امنیتی را مسدود می‌کند.
لایه حفاظتی اضافی برای خردسالان
برای حساب‌هایی که زیر ۱۸ سال شناسایی شده‌اند، اوپن‌ای‌آی به طور اضافی اطلاعات عملی در مورد سلاح‌ها و سیستم‌های امنیتی را که می‌توانند برای ارتکاب خشونت استفاده شوند، مسدود می‌کند، حتی اگر سوال در ظاهر قصد خشونت‌آمیز نداشته باشد. نوجوانان همچنان مجازند از ChatGPT برای درخواست کمک استفاده کنند – نحوه پیشگیری یا کاهش خشونت، یا نحوه تماس با یک بزرگسال مورد اعتماد، جزو موضوعات مسدود شده نیستند. بهبود همراه در پیش‌بینی سن، سیگنال‌های متعددی مانند رفتار کاربر را ترکیب می‌کند تا به طور مداوم ارزیابی کند که آیا یک حساب ممکن است متعلق به یک خردسال باشد و در صورت لزوم، محافظت‌های مربوط به نوجوانان را به طور خودکار اعمال کند؛ اگر کاربری به اشتباه طبقه‌بندی شود، می‌تواند به طور فعال اطلاعات هویتی را برای تأیید ارسال کند.