Herramientas e integracionesGuía
Conecta AnythingLLM a CheapTokens: configuración de Generic OpenAI
Apunta el proveedor Generic OpenAI de AnythingLLM a CheapTokens: Base URL, clave, id completo del modelo, además de la ventana de contexto y Max Tokens que introducir.
En esta página
Puedes conectar AnythingLLM a CheapTokens con su proveedor Generic OpenAI: establece la Base URL en https:/, pega tu clave de API, introduce el id completo del modelo y luego escribe la ventana de contexto real del modelo y Max Tokens. Los dos últimos son los que la gente omite, y deciden si un documento largo cabe y si las respuestas se cortan.
La documentación propia de AnythingLLM (página Generic OpenAI, consultada el 7 de noviembre de 2026, con un aviso de v1.19.0) describe este proveedor como la forma de usar cualquier proveedor de LLM compatible con OpenAI. También advierte de que está orientado a desarrolladores: una configuración incorrecta puede hacer que se comporte de forma extraña, y el id del modelo debe ser exactamente el que sirve el endpoint. Así que seamos exactos.
Rellena la configuración del proveedor#
Abre la configuración de LLM de AnythingLLM y elige Generic OpenAI como proveedor. Luego recorre los cinco campos. Las etiquetas pueden variar un poco entre versiones, así que guíate por el significado.
Paso a paso
Cinco campos, en orden
Base URL
Introduce la raíz de la API, no el endpoint completo: https:/. El propio ejemplo de la documentación es una raíz que termina en /v1, y AnythingLLM añade / por su cuenta. Si pegas la ruta completa, las peticiones van a la dirección equivocada.
API key
Pega tu clave de CheapTokens. Si aún no tienes una, créala primero en el panel. Trátala como una contraseña: no la pongas en una captura de pantalla ni en una nota compartida del espacio de trabajo.
Chat model name
Usa el id completo, por ejemplo deepseek- o zai-. La API no acepta los nombres cortos que ves en las tablas de precios. ¿No sabes qué id tienes? Lista los modelos con GET /v1/models.
Model context window
El presupuesto que usa AnythingLLM cuando construye un prompt a partir de tu pregunta, los fragmentos de documento recuperados y el historial de chat. Introduce la ventana real del modelo: 380000 para DeepSeek-V4-Flash, 390000 para GLM-5.3-Flash.
Max Tokens
El límite máximo de la longitud de una respuesta. El valor predeterminado de AnythingLLM es 1024. Introduce 32768 para DeepSeek-V4-Flash u 8192 para GLM-5.3-Flash.
Guarda, abre un espacio de trabajo y haz una pregunta. Los embeddings (la parte que convierte tus documentos en fragmentos buscables) son una configuración aparte en AnythingLLM, así que el proveedor anterior solo cambia qué modelo escribe las respuestas.
Por qué importan los dos límites#
Imagina que sueltas un contrato de 60 páginas en un espacio de trabajo y pides un resumen de las cláusulas de rescisión. Con los valores predeterminados, fallan dos cosas. La ventana de contexto que escribiste puede ser mucho menor que la real del modelo, así que AnythingLLM recorta lo que envía. Y Max Tokens está en 1024, así que un resumen largo se detiene a mitad de frase.
La solución es decirle a AnythingLLM la verdad sobre el modelo:
Desplaza la tabla hacia la derecha →
| Modelo (id) | Ventana de contexto | Salida por respuesta |
|---|---|---|
DeepSeek-V4-Flash (deepseek-) |
380K | hasta 32.768 tokens |
GLM-5.3-Flash (zai-) |
390K | hasta 8.192 tokens |
Un hábito que vale la pena mantener: Max Tokens es un techo, no un objetivo. Una pregunta corta sigue recibiendo una respuesta corta; solo pagas por los tokens que el modelo escribe realmente. Si quieres entender qué pasa cuando se alcanza un límite, por qué una respuesta de IA se detiene a mitad de frase repasa finish_reason y max_tokens, y qué es una ventana de contexto cubre el lado de la entrada.
La documentación de AnythingLLM también dice que poner Max Tokens a 0 deja el límite de salida fuera de la petición. Un número explícito es más fácil de razonar, así que yo escribiría uno.
Comprueba la conexión fuera de AnythingLLM#
Si la ventana de chat muestra un error, ayuda saber si el problema es la clave y el id del modelo o algo dentro de AnythingLLM. Envía una petición directamente a la API:
curl https://api.cheaptokens.dev/v1/chat/completions \
-H "Authorization: Bearer $CHEAPTOKENS_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "deepseek-ai/DeepSeek-V4-Flash-0731", "messages": [{"role": "user", "content": "Say hi in five words."}], "max_tokens": 50}'La API es compatible con OpenAI Chat Completions, así que una respuesta que funciona tiene el texto en choices[0]., un finish_reason y un bloque usage con los recuentos de tokens de esa petición. Si obtienes eso, la clave, la Base URL y el id del modelo están bien, y lo que veas en AnythingLLM viene de la configuración anterior. Más sobre el endpoint en la documentación de CheapTokens.
Cuánto cuesta una pregunta a tus documentos#
El chat con documentos tiene mucha entrada: cada pregunta lleva los fragmentos recuperados. Supongamos que recuperas seis fragmentos de unos 600 tokens cada uno, añades la pregunta y un poco de historial, y llegas a cerca de 4.000 tokens de entrada, con una respuesta de 400 tokens. En DeepSeek-V4-Flash, una pregunta así cuesta $0.0001. Aquí está la misma carga de trabajo en varios modelos para 200 preguntas, con la columna de OpenRouter al lado:
| Modelo | Entrada $/1M | Salida $/1M | Por solicitud | 200 solicitudes | OpenRouter, 200 solicitudes |
|---|---|---|---|---|---|
| GLM-5.3-Flash | $0.02 | $0.04 | $0.000096 | $0.0192 | $0.0334 |
| DeepSeek-V4-Flash | $0.015 | $0.10 | $0.0001 | $0.02 | $0.0672 |
| MiniMax-M2.7 | $0.05 | $0.15 | $0.00026 | $0.052 | $0.624 |
4000 tokens de entrada y 400 tokens de salida por solicitud. Los precios por 1M de tokens son actuales y cambian junto con nuestras tarifas; la columna de OpenRouter muestra precios de referencia para la misma carga de trabajo.
En total, contando entrada y salida juntas, DeepSeek-V4-Flash sale más barato que OpenRouter en esta carga de trabajo. Para tus propias cifras, arrastra los controles deslizantes: tokens por pregunta y preguntas por día es todo lo que necesita.
Calculadora de costos
Un día de preguntas a tus documentos
Tokens de entrada por solicitud: 4000 · Tokens de salida por solicitud: 400 · Solicitudes por día: 50
| Modelo | Por día | Por mes |
|---|---|---|
| GLM-5.3-Flash$0.02$0.04 | $0.0048 | $0.144 |
| DeepSeek-V4-Flash$0.015$0.10 | $0.005 | $0.15 |
| MiniMax-M2.7$0.05$0.15 | $0.013 | $0.39 |
El número de fragmentos que envías es la palanca más importante. Cuánto cuesta una pregunta RAG muestra cómo se mueve la factura con ello, y las tarifas actuales están en la página de precios.
Si no funciona#
La mayoría de los fallos son una de cuatro cosas. Relaciona el síntoma con la causa:
Emparejar los pares
Relaciona cada síntoma con su causa
Toca un elemento de la izquierda, luego su par
- El proveedor rechaza la petición y se queja de max_tokensCambia GENERIC_OPEN_AI_MODEL_MAX_TOKEN_KEY a max_completion_tokens y reinicia AnythingLLM
- 401 UnauthorizedFalta la clave de API, está mal escrita o se pegó con un espacio
- 404 o "model not found"El id del modelo es el nombre corto, no el id completo de la lista de modelos
- Las respuestas se detienen a mitad de fraseMax Tokens sigue en el valor predeterminado 1024
La opción GENERIC_ viene de la documentación de AnythingLLM: cambia qué nombre de campo lleva el límite en la petición. Para 401 y 404 en detalle, consulta API 401 o 404: clave, base URL o id de modelo incorrectos.
¿Usas otro cliente de chat? Los pasos son similares a Open WebUI, LibreChat y Cherry Studio: una base URL compatible con OpenAI, una clave, un id de modelo completo.
