زندهمحاسبهگرهای چشم
چند مدل LLM را کنار هم در یک جدول مقایسه کنید — قیمت، کانتکست و هزینه نمونه
انتخاب مدل فقط انتخاب «قویترین» نام نیست. هر مدل پروفایل متفاوتی از قیمت ورودی و خروجی، اندازه کانتکست، سرعت و سطح کیفیت دارد. بدون مقایسه همتراز، ممکن است برای یک سناریو ساده هزینه اضافی بپردازید یا برای سند بلند مدلی با کانتکست ناکافی انتخاب کنید.
در این صفحه چند مدل را کنار هم میگذارید، توکن ورودی و خروجی سناریو را یکسان نگه میدارید و هزینه نمونه را هم به دلار و هم به تومان میبینید. هدف این است که قبل از commit به یک ارائهدهنده، گزینه مناسب بودجه و کاربرد خود را پیدا کنید.
| معیار | |
|---|---|
| ارائهدهنده | |
| ورودی / ۱M توکن | |
| خروجی / ۱M توکن | |
| کانتکست | |
| سرعت | |
| سطح کیفیت | |
| هزینه نمونه | |
| برچسبها | |
| نمودار هزینه |
پارامترهای توکن را ثابت نگه دارید تا مقایسه منصفانه بماند. سپس مدلهای نامزد را اضافه یا عوض کنید. ستون کانتکست برای RAG و سند بلند مهم است؛ ستون قیمت برای بودجه روزانه و ماهانه.
مدلی که در بنچمارک کیفیت بالایی دارد ممکن است برای حجم بالای درخواست روزانه گران تمام شود. برعکس، مدل سبک برای پیشپردازش یا طبقهبندی میتواند بخش بزرگی از ترافیک را ارزان پوشش دهد و فقط موارد سخت را به مدل پرچمدار بفرستد.
نوار پایین هر ستون نشان میدهد کدام گزینه در سناریوی فعلی ارزانتر است، نه لزوماً بهترین کیفیت. اگر بین دو مدل نزدیک مردد هستید، همان پرامپت واقعی محصول را در هر دو تست کنید و هزینه ماهانه را با این جدول کنار هم بگذارید.
برای تیمهایی که محیط staging و production جدا دارند، دو ستون با همان توکنها مقایسه کنید. پس از انتخاب نهایی، برآورد را در محاسبهگر هزینه API با ترافیک واقعی هفته دوباره چک کنید.
وقتی بین چند مدل پرچمدار مردد هستید، یا میخواهید ببینید مدل ارزانتر چقدر در هزینه نمونه شما صرفهجویی میکند.
پارامترهای ورودی/خروجی را یکسان نگه دارید تا مقایسه منصفانه باشد.
