شرکت برجسته هوش مصنوعی Anthropic اخیراً سیاست‌های استفاده از دستیار هوش مصنوعی خود، Claude، را بازنگری کرده است. مقررات جدید قرار است از ۱۲ نوامبر ۲۰۲۶ به اجرا درآیند. یکی از قابل‌توجه‌ترین تغییرات در این بازنگری، گنجاندن یک محدودیت صریح برای اولین بار است که «سوءاستفاده یا بی‌رحمی مداوم و غیرضروری» را ممنوع می‌کند.
بر اساس بیانیه رسمی، این قانون عمدتاً موقعیت‌هایی را هدف قرار می‌دهد که کاربران به‌طور مکرر و بدون هدف مشخص، مدل را تحت رفتارهای بی‌رحمانه قرار می‌دهند. در مورد سازوکارهای اجرایی، Anthropic اعلام کرده است که رویکرد فعلی عمدتاً شامل پایان دادن به مکالمه است، اگرچه هنوز مشخص نکرده که آیا مجازات‌های شدیدتری مانند مسدود کردن حساب‌های کاربری در آینده معرفی خواهد شد یا خیر. علاوه بر این، این شرکت تأکید کرده است که این بند شامل شکایات روزمره کاربران، سؤالات، آثار ادبی با مضامین تاریک، یا آزمایش‌ها و تحقیقات امنیتی مدل که مطابق با قوانین هستند، نمی‌شود.
علاوه بر تنظیم تعامل انسان و ماشین، Anthropic همچنین ممنوعیت‌ها را در چندین حوزه اصلی گسترش و اصلاح کرده است:
ارتقاء ممنوعیت تسلیحات
دامنه ممنوعیت تسلیحات بیشتر گسترش یافته و به‌وضوح نرم‌افزارها و قطعات لازم برای عملکرد عادی تسلیحات، و همچنین توسعه پهپادهای مسلح و سایر وسایل نقلیه خودران را پوشش می‌دهد. Anthropic فاش کرده است که قبلاً چندین مورد از تلاش‌های غیرمجاز برای استفاده از Claude برای توسعه نرم‌افزار هدایت یا کنترل تسلیحات را کشف کرده است.
تقویت محدودیت‌های نظارتی
بند نظارت به‌صراحت ردیابی افراد بدون رضایت را ممنوع می‌کند، چه به‌صورت بلادرنگ و چه با تجزیه و تحلیل داده‌های موجود. همچنین استفاده از Claude برای تعیین یا توصیه افراد برای تحقیقات، دستگیری‌ها یا تعقیب قضایی در رویه‌های اجرای قانون و عدالت کیفری، یا برای ساخت یا بهبود هرگونه ابزار نظارتی، به‌شدت ممنوع است.
ایمنی سخت‌افزار فیزیکی
این مقررات بیان می‌کند که هنگامی که یک هوش مصنوعی به سخت‌افزار فیزیکی خودران متصل است که می‌تواند به دنیای خارج آسیب برساند، باید یک اپراتور واجد شرایط حضور داشته باشد تا دستگاه را مشاهده کند و در صورت لزوم بتواند در هر زمان عملکرد آن را متوقف کند. با این حال، برای مشتریان خاص دولتی، Anthropic اعلام کرده است که با فرض وجود محدودیت‌های قراردادی و اقدامات ایمنی کافی، ممکن است قوانین مربوطه را به‌صورت انعطاف‌پذیر تنظیم کند.