زندهمحاسبهگرهای چشم
برآورد هزینه ایندکس پایگاه دانش و جستجوی معنایی
Embedding متن را به بردار عددی تبدیل میکند تا جستجوی معنایی ممکن شود. هزینه ایندکس اولیه معمولاً یکبار پرداخت میشود، اما هزینه جستجوهای روزانه در بلندمدت میتواند بخش بزرگتری از بودجه باشد.
با وارد کردن تعداد اسناد، اندازه تقریبی هر سند و تعداد جستجوی روزانه، میتوانید هزینه ایندکس، جستجوی روز و ماه و حجم تقریبی ذخیرهسازی را قبل از راهاندازی RAG ببینید — هم به دلار و هم با معادل تقریبی تومان.
اگر نمونه سند واقعی دارید، حالت نمونه متن دقیقتر از میانگین کاراکتر است. ابعاد بردار روی حجم vector database اثر دارد؛ برای شروع، مدلهای کوچکتر و ارزانتر معمولاً کافیاند و دقت را بعداً با ارزیابی retrieval روی داده خودتان بالا ببرید.
با رشد پایگاه دانش، هزینه بازایندکس دورهای را هم حساب کنید، بهخصوص اگر اسناد روزانه بهروز میشوند. برای دامنه حقوقی یا پزشکی فارسی، ارزانترین مدل همیشه بهترین recall را ندارد؛ ده تا بیست پرسش واقعی معیار بهتری است.
هزینه ماهانه query را با ترافیک واقعی محصول همتراز کنید، نه با عدد خوشبینانه. معادل تومان برای بودجهبندی تیم است؛ هزینه میزبانی و vector DB را جدا از خود Embedding در نظر بگیرید.
پس از برآورد، معماری RAG را با ظرفیت کانتکست مدل پاسخدهنده هماهنگ کنید تا تعداد chunk بازیابیشده با پنجره مدل جور دربیاید و هزینه و کیفیت با هم متعادل بمانند.
Embedding هر سند را به بردار عددی تبدیل میکند. ایندکس اولیه یکبار هزینه دارد؛ هر جستجوی بعدی فقط query را embed میکند.
ابعاد بردار روی حجم ذخیرهسازی vector DB تأثیر دارد.
