เชื่อมต่อ AnythingLLM เข้ากับ CheapTokens: การตั้งค่า Generic OpenAI

ชี้ผู้ให้บริการ Generic OpenAI ของ AnythingLLM ไปที่ CheapTokens: Base URL, key, model id แบบเต็ม พร้อม context window และ Max Tokens ที่ต้องป้อน

โดย CheapTokens Teamเผยแพร่เมื่อ 9 พ.ย. 2569ใช้เวลาอ่าน 5 นาที

AnythingLLM เชื่อมต่อกับ CheapTokens ผ่านผู้ให้บริการ Generic OpenAI

ในหน้านี้

กรอกการตั้งค่าผู้ให้บริการ
ทำไมสองขีดจำกัดจึงสำคัญ
ตรวจสอบการเชื่อมต่อนอก AnythingLLM
คำถามถึงเอกสารของคุณมีค่าใช้จ่ายเท่าไร
ถ้ามันไม่ทำงาน

คุณสามารถเชื่อมต่อ AnythingLLM เข้ากับ CheapTokens ได้ผ่านผู้ให้บริการ Generic OpenAI: ตั้งค่า Base URL เป็น https://api.cheaptokens.dev/v1 วาง API key ของคุณ ป้อน model id แบบเต็ม แล้วพิมพ์ context window จริงของโมเดลและ Max Tokens สองอย่างหลังนี้คือสิ่งที่คนมักข้าม และมันเป็นตัวตัดสินว่าเอกสารยาวจะพอดีหรือไม่ และคำตอบจะถูกตัดกลางคันหรือเปล่า

เอกสารของ AnythingLLM เอง (หน้า Generic OpenAI ตรวจสอบเมื่อ 7 พฤศจิกายน 2026 พร้อมแบนเนอร์ v1.19.0) อธิบายว่าผู้ให้บริการนี้เป็นวิธีใช้ผู้ให้บริการ LLM ที่เข้ากันได้กับ OpenAI รายใดก็ได้ พวกเขายังเตือนด้วยว่ามันเน้นสำหรับนักพัฒนา: การตั้งค่าที่ผิดอาจทำให้ทำงานแปลก ๆ และ model id ต้องตรงกับสิ่งที่ endpoint ให้บริการเป๊ะ ๆ ดังนั้นมาทำให้แม่นกันเถอะ

กรอกการตั้งค่าผู้ให้บริการ#

เปิดการตั้งค่า LLM ของ AnythingLLM แล้วเลือก Generic OpenAI เป็นผู้ให้บริการ จากนั้นไล่ผ่านห้าช่อง ป้ายกำกับอาจต่างกันเล็กน้อยระหว่างเวอร์ชัน ดังนั้นให้ยึดตามความหมาย

ทีละขั้นตอน

ห้าช่องตามลำดับ

Base URL

ป้อน API root ไม่ใช่ endpoint แบบเต็ม: https://api.cheaptokens.dev/v1 ตัวอย่างในเอกสารเองเป็น root ที่ลงท้ายด้วย /v1 และ AnythingLLM จะเติม /chat/completions เอง ถ้าคุณวาง path แบบเต็ม คำขอจะไปผิดที่

API key

วาง key ของ CheapTokens ถ้ายังไม่มี ให้สร้างในแดชบอร์ดก่อน ปฏิบัติกับมันเหมือนรหัสผ่าน: อย่าใส่ในภาพหน้าจอหรือโน้ตในเวิร์กสเปซที่แชร์กัน

Chat model name

ใช้ id แบบเต็ม เช่น deepseek-ai/DeepSeek-V4-Flash-0731 หรือ zai-org/GLM-5.3-Flash ชื่อสั้นที่คุณเห็นในตารางราคาจะไม่ถูกยอมรับโดย API ไม่แน่ใจว่าคุณมี id ไหน? แสดงรายการโมเดลด้วย GET /v1/models

Model context window

งบประมาณที่ AnythingLLM ใช้เมื่อสร้างพรอมต์จากคำถามของคุณ ชิ้นส่วนเอกสารที่ดึงมา และประวัติแชท ป้อนหน้าต่างจริงของโมเดล: 380000 สำหรับ DeepSeek-V4-Flash, 390000 สำหรับ GLM-5.3-Flash

Max Tokens

เพดานความยาวของคำตอบหนึ่งครั้ง ค่าเริ่มต้นของ AnythingLLM คือ 1024 ป้อน 32768 สำหรับ DeepSeek-V4-Flash หรือ 8192 สำหรับ GLM-5.3-Flash

Base URL ใน AnythingLLM: path ของ endpoint แบบเต็มผิด ส่วน API root ถูกต้อง — วาง API root ที่ลงท้ายด้วย /v1; AnythingLLM จะเติม /chat/completions เอง

บันทึก เปิดเวิร์กสเปซ แล้วถามคำถาม Embeddings (ส่วนที่เปลี่ยนเอกสารของคุณเป็นชิ้นส่วนที่ค้นหาได้) เป็นการตั้งค่าแยกต่างหากใน AnythingLLM ดังนั้นผู้ให้บริการข้างต้นเปลี่ยนเพียงว่าโมเดลใดเขียนคำตอบ

ทำไมสองขีดจำกัดจึงสำคัญ#

ลองนึกภาพว่าคุณวางสัญญา 60 หน้าไว้ในเวิร์กสเปซแล้วขอสรุปข้อกำหนดการเลิกสัญญา ด้วยค่าเริ่มต้น มีสองอย่างที่ผิดพลาด context window ที่คุณพิมพ์อาจเล็กกว่าของจริงของโมเดลมาก ดังนั้น AnythingLLM จะตัดสิ่งที่ส่งไป และ Max Tokens อยู่ที่ 1024 ดังนั้นสรุปยาว ๆ จะหยุดกลางประโยค

วิธีแก้คือบอกความจริงเกี่ยวกับโมเดลให้ AnythingLLM:

โมเดล (id)	Context window	เอาต์พุตต่อคำตอบ
DeepSeek-V4-Flash (`deepseek-ai/DeepSeek-V4-Flash-0731`)	380K	สูงสุด 32,768 tokens
GLM-5.3-Flash (`zai-org/GLM-5.3-Flash`)	390K	สูงสุด 8,192 tokens

นิสัยที่ควรรักษาไว้: Max Tokens เป็นเพดาน ไม่ใช่เป้าหมาย คำถามสั้นยังได้คำตอบสั้น คุณจ่ายเฉพาะ tokens ที่โมเดลเขียนจริง ๆ ถ้าคุณอยากเข้าใจว่าเกิดอะไรขึ้นเมื่อถึงขีดจำกัด ทำไมคำตอบ AI หยุดกลางประโยค อธิบาย finish_reason และ max_tokens และ context window คืออะไร ครอบคลุมฝั่งอินพุต

เอกสารของ AnythingLLM ยังบอกด้วยว่าการตั้ง Max Tokens เป็น 0 จะละขีดจำกัดเอาต์พุตออกจากคำขอ ตัวเลขที่ชัดเจนเข้าใจง่ายกว่า ดังนั้นฉันจะพิมพ์ตัวเลขลงไป

ตรวจสอบการเชื่อมต่อนอก AnythingLLM#

ถ้าหน้าต่างแชทแสดงข้อผิดพลาด การรู้ว่าปัญหาอยู่ที่ key และ model id หรือบางอย่างใน AnythingLLM จะช่วยได้ ส่งคำขอหนึ่งครั้งตรงไปยัง API:

bash

curl https://api.cheaptokens.dev/v1/chat/completions \
  -H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-ai/DeepSeek-V4-Flash-0731", "messages": [{"role": "user", "content": "Say hi in five words."}], "max_tokens": 50}'

API เข้ากันได้กับ OpenAI Chat Completions ดังนั้นคำตอบที่ใช้งานได้จะมีข้อความใน choices[0].message.content, finish_reason และบล็อก usage พร้อมจำนวน tokens สำหรับคำขอนั้น ถ้าคุณได้สิ่งเหล่านั้น แสดงว่า key, Base URL และ model id ถูกต้อง และสิ่งที่คุณเห็นใน AnythingLLM มาจากการตั้งค่าข้างต้น ข้อมูลเพิ่มเติมเกี่ยวกับ endpoint อยู่ใน เอกสาร CheapTokens

คำถามถึงเอกสารของคุณมีค่าใช้จ่ายเท่าไร#

แชทเอกสารเน้นอินพุต: ทุกคำถามพาชิ้นส่วนที่ดึงมาด้วย สมมติคุณดึงหกชิ้น ชิ้นละประมาณ 600 tokens บวกคำถามและประวัติเล็กน้อย รวมเป็นอินพุตประมาณ 4,000 tokens พร้อมคำตอบ 400 tokens บน DeepSeek-V4-Flash คำถามหนึ่งครั้งแบบนี้มีค่าใช้จ่าย $0.0001 นี่คือภาระงานเดียวกันข้ามโมเดลสำหรับ 200 คำถาม พร้อมคอลัมน์ OpenRouter อยู่ข้าง ๆ:

โมเดล	Input $/1M	Output $/1M	ต่อคำขอ	200 คำขอ	OpenRouter, 200 คำขอ
GLM-5.3-Flash	$0.02	$0.04	$0.000096	$0.0192	$0.0334
DeepSeek-V4-Flash	$0.015	$0.10	$0.0001	$0.02	$0.0672
MiniMax-M2.7	$0.05	$0.15	$0.00026	$0.052	$0.624

4,000 โทเค็นอินพุตและ 400 โทเค็นเอาต์พุตต่อคำขอ ราคาต่อ 1M โทเค็นเป็นราคาปัจจุบันและเปลี่ยนแปลงไปพร้อมกับอัตราค่าบริการของเรา คอลัมน์ OpenRouter แสดงราคาอ้างอิงสำหรับปริมาณงานเดียวกัน

โดยรวม เมื่อนับอินพุตและเอาต์พุตรวมกัน DeepSeek-V4-Flash ออกมาถูกกว่า OpenRouter ในภาระงานนี้ สำหรับตัวเลขของคุณเอง ลากสไลเดอร์: tokens ต่อคำถามและคำถามต่อวันคือทั้งหมดที่ต้องใช้

เครื่องคำนวณค่าใช้จ่าย

หนึ่งวันของคำถามถึงเอกสารของคุณ

โทเค็นอินพุตต่อคำขอ: 4,000 · โทเค็นเอาต์พุตต่อคำขอ: 400 · คำขอต่อวัน: 50

โมเดล	ต่อวัน	ต่อเดือน
GLM-5.3-Flash	$0.0048	$0.144
DeepSeek-V4-Flash	$0.005	$0.15
MiniMax-M2.7	$0.013	$0.39

จำนวนชิ้นส่วนที่คุณส่งคือคันโยกที่ใหญ่ที่สุด คำถาม RAG มีค่าใช้จ่ายเท่าไร แสดงให้เห็นว่าบิลเปลี่ยนไปอย่างไรตามจำนวนนั้น และอัตราปัจจุบันอยู่ในหน้าราคา

ถ้ามันไม่ทำงาน#

ความล้มเหลวส่วนใหญ่เป็นหนึ่งในสี่อย่าง จับคู่อาการกับสาเหตุ:

จับคู่

จับคู่อาการแต่ละอย่างกับสาเหตุ

ผู้ให้บริการปฏิเสธคำขอและบ่นเกี่ยวกับ max_tokensตั้ง GENERIC_OPEN_AI_MODEL_MAX_TOKEN_KEY เป็น max_completion_tokens แล้วรีสตาร์ท AnythingLLM
401 UnauthorizedAPI key หาย พิมพ์ผิด หรือวางพร้อมช่องว่าง
404 หรือ "model not found"model id เป็นชื่อสั้น ไม่ใช่ id แบบเต็มจากรายการโมเดล
คำตอบหยุดกลางประโยคMax Tokens ยังเป็นค่าเริ่มต้น 1024

ตัวเลือก GENERIC_OPEN_AI_MODEL_MAX_TOKEN_KEY มาจากเอกสารของ AnythingLLM: มันเปลี่ยนว่าชื่อฟิลด์ใดพาขีดจำกัดในคำขอ สำหรับ 401 และ 404 โดยละเอียด ดู API 401 หรือ 404: key, base URL หรือ model id ผิด

ใช้ไคลเอนต์แชทอื่นอยู่หรือเปล่า? ขั้นตอนใกล้เคียงกับ Open WebUI, LibreChat และ Cherry Studio: base URL ที่เข้ากันได้กับ OpenAI หนึ่งอัน, key หนึ่งอัน, model id แบบเต็มหนึ่งอัน

แท็ก: