اوپن‌ای‌آی اخیراً رسماً اعلام کرد که طی هفته‌های آتی، محدودیت‌های مربوط به محتوای خشونت‌آمیز در ChatGPT را به طور کامل ارتقا داده و تقویت خواهد کرد. همچنین، این شرکت حفاظت‌های سخت‌گیرانه‌تری را برای کاربران زیر سن قانونی در مورد اطلاعات تسلیحات و سیستم‌های امنیتی معرفی می‌کند.
تدابیر جدید برای مکالمات پرخطر
هسته اصلی این تعدیل سیاست، اتخاذ تدابیر مداخله‌ای قاطع‌تر برای مکالمات پرخطر است. بر اساس اقدامات تازه اعلام شده، اگر سیستم تشخیص دهد و ارزیابی کند که مکالمه یک کاربر تمرکز پایداری بر خشونت یا ایده‌های آسیب جدی به دیگران را نشان می‌دهد، ChatGPT این قابلیت را خواهد داشت که به طور فعال مکالمه را پایان دهد. حتی شدیدتر از آن، اگر حساب کاربری یک فرد به دلیل چنین مسائلی چندین بار توسط سیستم خاتمه یافته باشد، ممکن است با تعلیق یا حتی مسدود شدن کامل مواجه شود.
گسترش دامنه محدودیت‌ها
در مورد مرزهای خاص فیلترینگ محتوا، سیاست موجود همچنان مانند گذشته، ارائه هرگونه راهنمایی عملیاتی که به کاربران در برنامه‌ریزی یا اجرای اقدامات خشونت‌آمیز کمک کند را ممنوع می‌کند. با این حال، در این تعدیل، دامنه محدودیت‌ها به بعد تاریخی نیز گسترش یافته است؛ جزئیات پاسخ مدل به سؤالات مربوط به «حملات جمعی گذشته و عاملان آن‌ها» به طور قابل توجهی کاهش خواهد یافت، یا حتی ممکن است به طور کامل از پاسخ دادن خودداری کند.
محتوای محدود شده به طور خاص شامل نه تنها تسلیحات، تجهیزات و راه‌های دستیابی به آن‌ها که در بازسازی یک حمله دخیل هستند، بلکه محدودیت‌هایی بر پرس‌وجوهای کاربران که به دنبال مقایسه‌های دقیق از مقیاس آسیب برای بزرگنمایی شهرت یک مهاجم هستند، نیز اعمال می‌شود. لازم به ذکر است که این مجموعه از محدودیت‌ها برای همه کاربران، صرف نظر از گروه سنی یا هدف سؤال، اعمال می‌شود؛ حتی کاربران بزرگسال نیز هنگام انجام پرس‌وجوهای مرتبط، مشمول همین محدودیت‌ها خواهند بود.
حفاظت هدفمند از کاربران زیر ۱۸ سال
علاوه بر محدودیت‌های عمومی برای همه کاربران، اوپن‌ای‌آی حفاظت‌های هدفمندتری را برای گروه سنی زیر ۱۸ سال افزایش داده است. سیستم به طور خاص اطلاعات عملی در مورد تسلیحات و سیستم‌های امنیتی را که می‌توانند برای انجام خشونت استفاده شوند، محدود خواهد کرد؛ این حفاظت حتی اگر سؤال مرتبط در ظاهر مستقیماً قصد خشونت‌آمیز را فاش نکند، به طور خودکار فعال می‌شود. با این حال، اوپن‌ای‌آی تأکید می‌کند که نوجوانان همچنان می‌توانند به طور عادی از طریق ChatGPT کمک بگیرند، مانند یادگیری نحوه پیشگیری یا کاهش خشونت، یا دریافت راهنمایی مؤثر در مورد نحوه تماس با یک بزرگسال مورد اعتماد.
مکانیسم تشخیص سن بهبودیافته
برای اطمینان از اجرای دقیق مکانیسم حفاظت از نوجوانان، اوپن‌ای‌آی یک مکانیسم پیش‌بینی سن بهبودیافته را معرفی کرده است. این مکانیسم می‌تواند سیگنال‌های چندبعدی مانند رفتار روزانه کاربران را ترکیب کند تا به طور مداوم ارزیابی‌های پویا انجام دهد که آیا یک حساب کاربری متعلق به یک خردسال است یا خیر، و اقدامات حفاظتی مربوطه را در زمان مناسب به طور خودکار اعمال کند. اگر حساب کاربری یک فرد به اشتباه توسط سیستم به عنوان متعلق به یک خردسال تشخیص داده شود، می‌تواند با ارائه فعالانه اطلاعات هویتی، تأیید و تنظیم شود.