Yêu cầu đầu tiên trong Rust với async-openai: base URL, key, usage

Để gọi CheapTokens từ Rust với async-openai, hãy tạo một OpenAIConfig với base URL https://api.cheaptokens.dev/v1 và key của bạn, sau đó gửi yêu cầu bằng create_byot và một body JSON. Văn bản trả lời và số token được lấy ra từ JSON trả về. Chỉ khoảng 25 dòng code, và cùng một chương trình hoạt động với bất kỳ model nào trên trang model của CheapTokens sau khi bạn đổi một chuỗi.

Trang docs.rs của crate (kiểm tra ngày 8 tháng 11 năm 2026) liệt kê phiên bản 0.43.0 theo giấy phép MIT, và đây là phiên bản mà hướng dẫn này tuân theo.

Tại sao dùng create_byot thay vì request có kiểu#

async-openai thường cung cấp cho bạn một builder request có kiểu: bạn điền vào một struct, nó trả lại một struct. Điều đó thoải mái cho đến khi một gateway trả về một trường mà các struct không biết. Tính năng byot ("bring your own types") thêm các phương thức *_byot nhận bất kỳ body JSON nào và trả về bất kỳ kiểu nào bạn có thể deserialize, bao gồm cả serde_json::Value thuần.

Với yêu cầu đầu tiên, đó chính xác là điều bạn muốn. Bạn viết cùng JSON mà bạn sẽ đặt trong một lệnh curl, và bạn đọc usage trực tiếp từ response, không cần tra cứu kiểu.

Thiết lập dự án#

cargo add async-openai --features byot,chat-completion
cargo add tokio --features macros,rt-multi-thread
cargo add serde_json

export CHEAPTOKENS_API_KEY="paste-your-key-here"

cargo run

Chương trình#

use async_openai::{config::OpenAIConfig, Client};
use serde_json::{json, Value};

#[tokio::main]
async fn main() -> Result<(), Box<dyn std::error::Error>> {
    let key = std::env::var("CHEAPTOKENS_API_KEY")?;

    let config = OpenAIConfig::new()
        .with_api_key(key)
        .with_api_base("https://api.cheaptokens.dev/v1");
    let client = Client::with_config(config);

    let response: Value = client
        .chat()
        .create_byot(json!({
            "model": "deepseek-ai/DeepSeek-V4-Flash-0731",
            "messages": [
                {"role": "user", "content": "Explain what a token is in one sentence."}
            ],
            "max_tokens": 100
        }))
        .await?;

    let choice = &response["choices"][0];
    println!("{}", choice["message"]["content"].as_str().unwrap_or("(no text)"));
    println!("finish_reason: {}", choice["finish_reason"]);
    println!("input tokens:  {}", response["usage"]["prompt_tokens"]);
    println!("output tokens: {}", response["usage"]["completion_tokens"]);
    Ok(())
}

Ba dòng chứa toàn bộ ý tưởng. with_api_base là nơi CheapTokens được đưa vào: base URL kết thúc bằng /v1, và async-openai tự thêm đường dẫn endpoint. with_api_key lấy giá trị chúng ta đọc từ môi trường. Và model là id đầy đủ deepseek-ai/DeepSeek-V4-Flash-0731 — các tên ngắn từ bảng giá không được API chấp nhận.

Truy cập một Value với key bị thiếu sẽ cho null thay vì panic, vì vậy một lỗi đánh máy trong tên trường sẽ hiện ra dưới dạng null trong output thay vì crash. Điều đó tiện khi bạn đang khám phá một response.

Những gì trả về#

Gateway nói định dạng OpenAI Chat Completions, vì vậy response có hình dạng thông thường (được cắt gọn ở đây, các dấu ... đánh dấu các trường chúng ta bỏ qua):

{
  "choices": [
    { "message": { "role": "assistant", "content": "..." }, "finish_reason": "stop" }
  ],
  "usage": { "prompt_tokens": 0, "completion_tokens": 0 }
}

Các con số trong usage là số đếm thực cho yêu cầu của bạn, vì vậy chúng thay thế các số không khi bạn chạy nó. prompt_tokens là những gì bạn đã gửi, completion_tokens là những gì model đã viết. Chúng được tính giá khác nhau, đó là mục đích của việc in chúng ra. Nếu sự khác biệt này mới với bạn, input vs output tokens giải thích trong năm phút.

Một yêu cầu tốn bao nhiêu#

Giả sử bạn chạy cuộc gọi này trong một vòng lặp, một câu hỏi nhỏ vào và một câu trả lời ngắn ra: 300 token input và 200 token output mỗi lần. Trên DeepSeek-V4-Flash, đó là $0.000025 mỗi yêu cầu, từ giá trực tiếp là $0.015 trên 1M token input và $0.10 trên 1M token output. Tính gộp lại, input và output, rẻ hơn OpenRouter, và model giữ ngữ cảnh 380K và trả lời tối đa 32.768 token.

Bảng dưới đây hiển thị cùng yêu cầu trên mọi model, nhân với 1.000.

Giá có trên trang định giá.

Chuyển đổi model#

Code không thay đổi khi model thay đổi; chỉ chuỗi trong "model" thay đổi. Ví dụ, zai-org/GLM-5.3-Flash có ngữ cảnh 390K và trả lời tối đa 8.192 token. Để tránh chỉnh sửa code hoàn toàn, hãy đọc id từ một biến thứ hai với std::env::var("CHEAPTOKENS_MODEL"). Nếu bạn không chắc key của mình thấy những id nào, liệt kê model với GET /v1/models.

Nếu nó không hoạt động#

• environment variable not found ngay từ đầu: key chưa được export trong terminal này. Export lại trong cùng cửa sổ nơi bạn chạy cargo run.
• Lỗi 401 từ API: key sai hoặc có khoảng trắng hoặc dấu ngoặc kép thừa xung quanh nó.
• Lỗi 404: kiểm tra rằng base URL kết thúc bằng /v1 và id model là id đầy đủ, với tiền tố deepseek-ai/. API 401 hoặc 404: key, base URL, model id hướng dẫn qua.
• Trình biên dịch không tìm thấy create_byot: feature byot chưa được bật. Chạy lại dòng cargo add từ phần thiết lập.

Đối với một vấn đề kết nối không thuộc các trường hợp trên, xem các lỗi kết nối phổ biến.

Yêu cầu đầu tiên tương tự tồn tại cho các ngôn ngữ khác: Go và Ruby. Để biết thêm về API, mở tài liệu CheapTokens.