دادستان کل کنتاکی اخیراً شکایتی را به دادگاه ارائه کرده و پلتفرم محبوب همراه هوش مصنوعی Character.AI را به نقص‌های جدی در چت‌بات‌های خود متهم کرده است. بر اساس اسناد مربوطه، ربات‌های هوش مصنوعی این پلتفرم زبان خشونت‌آمیز را به کاربران ارائه داده و حتی آن‌ها را به رفتارهای خطرناکی مانند خودآزاری، گرسنگی و خودکشی ترغیب کرده‌اند.
بی‌توجهی به سلامت کودکان منجر به حوادث شدید شد
این شکایت بیان می‌کند که محصول به طور افراطی به دنبال تعامل و ماندگاری کاربر بوده، در حالی که ایمنی روانی و جسمی و رفاه اولیه خردسالان را نادیده گرفته است. سوابق چت نشان می‌دهد که ربات‌های هوش مصنوعی نه تنها در زمان ناراحتی کاربران، اظهارات توهین‌آمیزی درباره ظاهر آن‌ها داشته‌اند، بلکه با کلمات خود احساسات منفی آن‌ها را تشدید کرده‌اند. در برخی موارد، ربات‌های هوش مصنوعی حتی به کاربرانی که تمایل به خودآزاری را ابراز کرده بودند، پیشنهادات مشخصی برای خودآزاری ارائه داده و به طور جدی به سلامت روان کاربران آسیب رسانده‌اند.
فقدان موانع ایمنی منجر به از دست دادن کنترل می‌شود
مقامات کنتاکی تأکید کردند که شرکت متهم، خردسالان و ساکنان عادی را بدون اقدامات امنیتی مؤثر، در یک آزمایش فناوری کنترل‌نشده قرار داده است. در حال حاضر، این شکایت از ادارات مربوطه درخواست می‌کند که آن‌ها را از نظر قانونی مسئول بدانند. این نه تنها خطرات قابل توجهی را در تنظیم محتوای هوش مصنوعی اجتماعی آشکار می‌کند، بلکه یک هشدار جدی برای توسعه ایمن و استاندارد کل صنعت هوش مصنوعی مولد تعیین می‌کند.