ٹولز اور انٹیگریشنزگائیڈ
AnythingLLM کو CheapTokens سے جوڑیں: Generic OpenAI سیٹ اپ
AnythingLLM کے Generic OpenAI پرووائیڈر کو CheapTokens کی طرف اشارہ کریں: Base URL، key، مکمل model id، نیز context window اور Max Tokens جو درج کرنے ہیں۔
اس صفحہ پر
آپ AnythingLLM کو اس کے Generic OpenAI پرووائیڈر کے ذریعے CheapTokens سے جوڑ سکتے ہیں: Base URL کو https:/ پر سیٹ کریں، اپنی API key پیسٹ کریں، مکمل model id درج کریں، اور پھر ماڈل کا اصل context window اور Max Tokens ٹائپ کریں۔ آخری دو وہ ہیں جنہیں لوگ چھوڑ دیتے ہیں، اور یہی طے کرتے ہیں کہ لمبی دستاویز فٹ ہوتی ہے یا نہیں اور جوابات کٹتے ہیں یا نہیں۔
AnythingLLM کی اپنی دستاویزات (Generic OpenAI صفحہ، 7 نومبر 2026 کو چیک کیا گیا، v1.19.0 بینر کے ساتھ) اس پرووائیڈر کو کسی بھی OpenAI-compatible LLM پرووائیڈر کے استعمال کا طریقہ بتاتی ہیں۔ وہ یہ بھی خبردار کرتی ہیں کہ یہ ڈویلپرز کے لیے ہے: غلط سیٹنگز اسے عجیب برتاؤ کروا سکتی ہیں، اور model id بالکل وہی ہونا چاہیے جو endpoint پیش کرتا ہے۔ تو آئیے بالکل درست رہیں۔
پرووائیڈر کی سیٹنگز بھریں#
AnythingLLM کی LLM سیٹنگز کھولیں اور پرووائیڈر کے طور پر Generic OpenAI منتخب کریں۔ پھر پانچ فیلڈز پر کام کریں۔ لیبلز ورژن کے درمیان تھوڑے مختلف ہو سکتے ہیں، اس لیے معنی کے مطابق چلیں۔
قدم بہ قدم
پانچ فیلڈز، ترتیب سے
Base URL
API root درج کریں، مکمل endpoint نہیں: https:/۔ دستاویزات کی اپنی مثال ایک root ہے جو /v1 پر ختم ہوتا ہے، اور AnythingLLM خود / شامل کرتا ہے۔ اگر آپ مکمل path پیسٹ کریں گے تو درخواستیں غلط پتے پر جائیں گی۔
API key
اپنی CheapTokens key پیسٹ کریں۔ اگر ابھی نہیں ہے تو پہلے ڈیش بورڈ میں بنائیں۔ اسے پاس ورڈ کی طرح سمجھیں: اسکرین شاٹ یا مشترکہ workspace نوٹ میں نہ رکھیں۔
Chat model name
مکمل id استعمال کریں، مثلاً deepseek- یا zai-۔ قیمت کے جدولوں میں نظر آنے والے مختصر نام API قبول نہیں کرتا۔ یقین نہیں کہ آپ کے پاس کون سا id ہے؟ GET /v1/models سے ماڈلز کی فہرست دیکھیں۔
Model context window
وہ بجٹ جو AnythingLLM آپ کے سوال، حاصل شدہ دستاویز کے chunks اور چیٹ ہسٹری سے prompt بناتے وقت استعمال کرتا ہے۔ ماڈل کی اصل window درج کریں: DeepSeek-V4-Flash کے لیے 380000، GLM-5.3-Flash کے لیے 390000۔
Max Tokens
ایک جواب کی لمبائی کی حد۔ AnythingLLM کا ڈیفالٹ 1024 ہے۔ DeepSeek-V4-Flash کے لیے 32768 یا GLM-5.3-Flash کے لیے 8192 درج کریں۔
محفوظ کریں، ایک workspace کھولیں، اور سوال پوچھیں۔ Embeddings (وہ حصہ جو آپ کی دستاویزات کو قابلِ تلاش chunks میں بدلتا ہے) AnythingLLM میں الگ سیٹنگ ہے، اس لیے اوپر والا پرووائیڈر صرف یہ بدلتا ہے کہ جوابات کون سا ماڈل لکھتا ہے۔
دو حدیں کیوں اہم ہیں#
فرض کریں آپ workspace میں 60 صفحات کا معاہدہ ڈالتے ہیں اور ختم ہونے کی شقوں کا خلاصہ مانگتے ہیں۔ ڈیفالٹس کے ساتھ دو چیزیں غلط ہوتی ہیں۔ آپ نے جو context window ٹائپ کی وہ ماڈل کی اصل سے کہیں چھوٹی ہو سکتی ہے، اس لیے AnythingLLM جو بھیجتا ہے اسے تراش دیتا ہے۔ اور Max Tokens 1024 پر ہے، اس لیے لمبا خلاصہ جملے کے بیچ رک جاتا ہے۔
حل یہ ہے کہ AnythingLLM کو ماڈل کے بارے میں سچ بتائیں:
ٹیبل کو دائیں طرف اسکرول کریں →
| Model (id) | Context window | Output per answer |
|---|---|---|
DeepSeek-V4-Flash (deepseek-) |
380K | up to 32,768 tokens |
GLM-5.3-Flash (zai-) |
390K | up to 8,192 tokens |
اپنانے کے قابل عادت: Max Tokens ایک حد ہے، ہدف نہیں۔ مختصر سوال کا جواب پھر بھی مختصر ہوتا ہے؛ آپ صرف ان tokens کی ادائیگی کرتے ہیں جو ماڈل واقعی لکھتا ہے۔ اگر آپ جاننا چاہتے ہیں کہ حد پوری ہونے پر کیا ہوتا ہے، تو AI جواب جملے کے بیچ کیوں رک جاتا ہے finish_reason اور max_tokens پر روشنی ڈالتا ہے، اور context window کیا ہے ان پٹ کی طرف کا احاطہ کرتا ہے۔
AnythingLLM کی دستاویزات یہ بھی کہتی ہیں کہ Max Tokens کو 0 پر سیٹ کرنے سے آؤٹ پٹ کی حد درخواست سے باہر رہ جاتی ہے۔ واضح عدد پر غور کرنا آسان ہوتا ہے، اس لیے میں ایک ٹائپ کروں گا۔
AnythingLLM سے باہر کنکشن چیک کریں#
اگر چیٹ ونڈو میں خرابی دکھے تو یہ جاننا مددگار ہوتا ہے کہ مسئلہ key اور model id کا ہے یا AnythingLLM کے اندر کسی چیز کا۔ ایک درخواست سیدھی API کو بھیجیں:
curl https://api.cheaptokens.dev/v1/chat/completions \
-H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash-0731", "messages": [{"role": "user", "content": "Say hi in five words."}], "max_tokens": 50}'API OpenAI Chat Completions کے ساتھ compatible ہے، اس لیے کام کرنے والے جواب میں متن choices[0]. میں، ایک finish_reason، اور ایک usage بلاک ہوتا ہے جس میں اس درخواست کے token counts ہوتے ہیں۔ اگر آپ کو یہ مل جائیں تو key، Base URL اور model id ٹھیک ہیں، اور AnythingLLM میں جو کچھ دکھ رہا ہے وہ اوپر کی سیٹنگز سے آتا ہے۔ endpoint کے بارے میں مزید CheapTokens دستاویزات میں ہے۔
اپنی دستاویزات سے ایک سوال کی قیمت#
دستاویز چیٹ ان پٹ پر بھاری ہے: ہر سوال ساتھ حاصل شدہ chunks لاتا ہے۔ فرض کریں آپ تقریباً 600 tokens کے چھ chunks حاصل کرتے ہیں، سوال اور تھوڑی ہسٹری شامل کرتے ہیں، اور تقریباً 4,000 ان پٹ tokens پر پہنچتے ہیں، جواب 400 tokens کا ہے۔ DeepSeek-V4-Flash پر ایسے ایک سوال کی قیمت $0.0001 ہے۔ یہاں 200 سوالوں کے لیے مختلف ماڈلز پر وہی کام، ساتھ OpenRouter کا کالم:
| ماڈل | ان پٹ $/1M | آؤٹ پٹ $/1M | فی درخواست | 200 درخواستیں | OpenRouter، 200 درخواستیں |
|---|---|---|---|---|---|
| GLM-5.3-Flash | $0.02 | $0.04 | $0.000096 | $0.0192 | $0.0334 |
| DeepSeek-V4-Flash | $0.015 | $0.10 | $0.0001 | $0.02 | $0.0672 |
| MiniMax-M2.7 | $0.05 | $0.15 | $0.00026 | $0.052 | $0.624 |
فی درخواست 4,000 ان پٹ اور 400 آؤٹ پٹ ٹوکنز۔ فی 1M ٹوکنز کی قیمتیں موجودہ ہیں اور ہمارے ٹیرف کے ساتھ تبدیل ہوتی ہیں؛ OpenRouter کالم اسی ورک لوڈ کے لیے حوالہ جاتی قیمتیں دکھاتا ہے۔
مجموعی طور پر، ان پٹ اور آؤٹ پٹ دونوں ملا کر، اس کام پر DeepSeek-V4-Flash OpenRouter سے سستا نکلتا ہے۔ اپنے اعداد کے لیے سلائیڈرز کھینچیں: فی سوال tokens اور فی دن سوالات ہی کافی ہیں۔
لاگت کیلکولیٹر
اپنی دستاویزات سے ایک دن کے سوالات
فی درخواست ان پٹ ٹوکنز: 4,000 · فی درخواست آؤٹ پٹ ٹوکنز: 400 · فی دن درخواستیں: 50
| ماڈل | فی دن | فی ماہ |
|---|---|---|
| GLM-5.3-Flash$0.02$0.04 | $0.0048 | $0.144 |
| DeepSeek-V4-Flash$0.015$0.10 | $0.005 | $0.15 |
| MiniMax-M2.7$0.05$0.15 | $0.013 | $0.39 |
آپ جو chunks بھیجتے ہیں ان کی تعداد سب سے بڑا لیور ہے۔ RAG سوال کی قیمت دکھاتا ہے کہ بل اس کے ساتھ کیسے بدلتا ہے، اور موجودہ ریٹس pricing page پر ہیں۔
اگر کام نہ کرے#
زیادہ تر ناکامیاں چار چیزوں میں سے ایک ہوتی ہیں۔ علامت کو وجہ سے ملائیں:
جوڑے ملائیں
ہر علامت کو اس کی وجہ سے ملائیں
بائیں طرف کسی آئٹم پر ٹیپ کریں، پھر اس کا جوڑا
- پرووائیڈر درخواست مسترد کرتا ہے اور max_tokens پر شکایت کرتا ہےGENERIC_OPEN_AI_MODEL_MAX_TOKEN_KEY کو max_completion_tokens پر سیٹ کریں اور AnythingLLM دوبارہ شروع کریں
- 401 UnauthorizedAPI key غائب ہے، غلط ٹائپ ہوئی ہے یا اسپیس کے ساتھ پیسٹ ہوئی ہے
- 404 یا "model not found"model id مختصر نام ہے، ماڈل فہرست سے مکمل id نہیں
- جوابات جملے کے بیچ رک جاتے ہیںMax Tokens اب بھی ڈیفالٹ 1024 ہے
GENERIC_ آپشن AnythingLLM کی دستاویزات سے آتا ہے: یہ بدلتا ہے کہ درخواست میں حد کون سا فیلڈ نام اٹھاتا ہے۔ 401 اور 404 کی تفصیل کے لیے، API 401 یا 404: غلط key، base URL یا model id دیکھیں۔
کوئی اور چیٹ کلائنٹ استعمال کر رہے ہیں؟ مراحل Open WebUI، LibreChat اور Cherry Studio کے قریب ہی ہیں: ایک OpenAI-compatible base URL، ایک key، ایک مکمل model id۔
