کدنویسی هوش مصنوعی ۱۲.۱۵ میلیون یوان هزینه به بار آورد و بودجه را ۸۶۰ درصد افزایش داد: حادثه داخلی آمازون زنگ خطری برای هزینه‌های هوش مصنوعی شرکت‌ها است.
تعدادی از رسانه‌های آمریکایی اخیراً از یک حادثه بزرگِ سرریز هزینه‌ی هوش مصنوعی در داخل آمازون پرده برداشتند. یک مهندس از مدل Claude Sonnet شرکت انتروپیک (Anthropic) برای نوشتن برنامه‌ای با هدف تطبیق اطلاعات نویسنده با فهرست محصولات در یک پلتفرم تجارت الکترونیک استفاده کرد — که یک کار پردازش داده‌ی روتین محسوب می‌شود — و این کار در نهایت به صورت‌حسابی بالغ بر ۱.۸ میلیون دلار (تقریباً ۱۲.۱۵ میلیون یوان) منجر شد، به‌طوری که هزینه‌ی واقعی ۸۶۰ درصد از بودجه‌ی اصلی فراتر رفت.
نکته‌ی عجیب‌تر این بود که این پروژه هرگز با موفقیت پیاده‌سازی نشد و مصرف بالای قدرت پردازشی به مدت پنج ماه به‌طور مداوم ادامه داشت. شرکت تنها در جریان حسابرسی مالی متوجه این ناهنجاری شد. این بدان معناست که یک برنامه‌ی هوش مصنوعیِ نظارت‌نشده، نزدیک به شش ماه بدون توقف در حال «سوزاندن پول» بوده است.
نقص‌های کد همراه با فقدان نظارت؛ آسیب‌پذیری‌های کوچک و بودجه‌های نجومی
تحلیل‌ها نشان داد که ریشه‌ی این حادثه پیچیده نبوده است. برنامه‌ی تولیدشده توسط هوش مصنوعی فاقد محدودیتی برای فرکانس فراوانی درخواست‌ها بود و مدل به‌طور مداوم درخواست ارسال می‌کرد و باعث می‌شد هزینه‌های رایانش ابری و فراخوانی مدل بزرگ انباشته شود. در همان زمان، تیم فاقد یک مکانیسم هشدار هزینه‌ی بی‌درنگ (لحظه‌ای) بود و نقص‌های کوچک کد برای مدت طولانی بدون توجه باقی مانده و به‌طور مداوم بودجه را مصرف می‌کردند.
مدیران اجرایی آمازون در یک جلسه‌ی داخلی، این حادثه را به عنوان یک «مطالعه‌ی موردی پرهزینه» تعریف کردند و گزارش دادند که خطرات مشابه متعددی در داخل شرکت وجود دارد و برخی پروژه‌ها به طور غیرمنتظره‌ای ۵۴۰,۰۰۰ دلار هزینه‌ی اضافی به بار آورده‌اند. پس از تکرار این مشکلات، آمازون شروع به ساخت فوری یک سیستم کنترل ریسک کرد و برنامه‌ریزی نمود تا یک مکانیزم محافظت خودکار را راه‌اندازی کند — به این صورت که به محض رسیدن هزینه‌های مرتبط با هوش مصنوعی به یک آستانه مشخص، سیستم به طور خودکار ترافیک را محدود کرده و وظایف را متوقف کند تا از سرسام‌آور شدن هزینه‌ها جلوگیری شود. در عین حال، این شرکت مقررات خود را تقویت کرد و از تمامی کدهای تولیدشده توسط هوش مصنوعی خواست قبل از انتشار عمومی، به طور کامل توسط انسان بازبینی شوند تا از استقرار مستقیم بدون تأیید جلوگیری گردد.
خطاهای کد سنتی زمان می‌برند، برنامه‌های هوش مصنوعیِ خارج از کنترل پول واقعی به باد می‌دهند
این حادثه خطری را آشکار کرد که بیشتر شرکت‌ها آن را نادیده گرفته‌اند: خطاهای کد سنتی عمدتاً زمان انسان را مصرف می‌کنند، در حالی که یک برنامه‌ی هوش مصنوعیِ خارج از کنترل، به‌طور مداوم هزینه‌های توکن تولید می‌کند. هنگامی که نظارت بر بودجه وجود نداشته باشد، این امر به‌آسانی می‌تواند به زیان‌های هنگفتی منجر شود. امروزه بسیاری از شرکت‌ها صرفاً انتظار دارند که هوش مصنوعی هزینه‌ها را کاهش داده و بهره‌وری را بهبود بخشد، اما خطر جدیدی را که مدل صورتحسابِ قدرت پردازشی به همراه دارد، نادیده می‌گیرند.
از «کمک هوش مصنوعی در نوشتن کد» تا «سوزاندن مخفیانه‌ی پول توسط هوش مصنوعی»، درسِ آمازون یک مورد منزوی نیست، بلکه مرحله‌ی جدیدی است که کل صنعت در حال ورود به آن است. هنگامی که هوش مصنوعی از یک ابزار کمکی به یک مجری خودکار تبدیل می‌شود، دقتِ کنترل هزینه‌ها باید از «سطح پروژه» به «هر فراخوانی» تغییر یابد. قبل از لذت بردن از مزایای هوش مصنوعی، نصب یک «ترمز اضطراری» برای آن احتمالاً مهم‌ترین درسی است که شرکت‌ها همین حالا باید بیاموزند.