Unang request sa Go gamit ang openai-go: base URL, key, usage

Mayroon ka nang Go code na nakikipag-usap sa isang OpenAI-style API, o malapit mo nang magsulat ng ilan. Para ipadala ito sa CheapTokens, babaguhin mo ang dalawang option sa client at isang string, ang model id. Pareho pa rin ang SDK: ang opisyal na openai-go package, v3.

Nasa ibaba ang buong programa, pagkatapos ay kung ano ang ginagawa ng bawat linya, paano basahin ang sagot at ang mga token count, at paano pigilan ang isang stuck na request na mag-hang sa iyong service. Ang mga bersyon ay sinuri laban sa openai-go README noong 3 Nobyembre 2026: ang pinakabagong tag sa pahinang iyon ay v3.91.1, at nangangailangan ito ng Go 1.26 o mas bago.

Ano ang kailangan mo bago magsimula#

• Go 1.26 o mas bago. Sa Go 1.25 i-pin ang v3.74.0; sa Go 1.22–1.24 i-pin ang v3.44.0 (sinasabi ng README na ang mas lumang linya ay walang garantisadong pag-aayos).
• Isang CheapTokens API key. Itago ito sa isang environment variable, hindi sa source file.
• Ang API address: https://api.cheaptokens.dev/v1. Nagsasalita ito ng OpenAI Chat Completions format, kaya gumagana ang openai-go nang walang wrapper. Ang docs ay may parehong address at ang key page.
• Isang model id. Gagamitin namin ang deepseek-ai/DeepSeek-V4-Flash-0731: 380K context at hanggang 32,768 tokens sa isang sagot. Gamitin ang buong id; ang maikling pangalan mula sa price tables ay hindi tinatanggap ng API.

go mod init example.com/first-request
go get -u 'github.com/openai/openai-go/[email protected]'

export CHEAPTOKENS_API_KEY="paste-your-key-here"

Ang buong programa#

package main

import (
	"context"
	"fmt"
	"log"
	"os"
	"time"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://api.cheaptokens.dev/v1"),
		option.WithAPIKey(os.Getenv("CHEAPTOKENS_API_KEY")),
		option.WithMaxRetries(2),
		option.WithRequestTimeout(30*time.Second),
	)

	ctx, cancel := context.WithTimeout(context.Background(), 2*time.Minute)
	defer cancel()

	resp, err := client.Chat.Completions.New(ctx, openai.ChatCompletionNewParams{
		Model: "deepseek-ai/DeepSeek-V4-Flash-0731",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.UserMessage("Explain in two sentences what a token is."),
		},
	})
	if err != nil {
		log.Fatal(err)
	}
	if len(resp.Choices) == 0 {
		log.Fatal("no choices in the response")
	}

	fmt.Println(resp.Choices[0].Message.Content)
	fmt.Println("finish_reason:", resp.Choices[0].FinishReason)
	fmt.Println("input tokens:", resp.Usage.PromptTokens)
	fmt.Println("output tokens:", resp.Usage.CompletionTokens)
	fmt.Println("total tokens:", resp.Usage.TotalTokens)
}

Ang mga mahalagang bahagi:

• Ang option.WithBaseURL(...) ay ang tanging linya na naglilipat sa SDK mula OpenAI patungong CheapTokens. Gamitin ang address nang eksakto tulad ng nasa docs.
• Ang option.WithAPIKey(os.Getenv(...)) ay nagpapasa ng key nang tahasan. Kung wala ito, binabasa ng client ang OPENAI_API_KEY, na kapaki-pakinabang kapag nag-port ka ng umiiral na code: itakda ang variable na iyon sa isang CheapTokens key at hindi na kailangang baguhin ang key sa code. Ganoon din sa OPENAI_BASE_URL, ngunit ang tahasang WithBaseURL ay nangingibabaw dito, kaya walang sorpresa kung pareho ang umiiral.
• Ang Model ay isang plain string sa SDK (ang ChatModel ay alias ng string), kaya gumagana ang anumang model id, hindi lamang ang mga constant na ipinapakita ng README.
• Ang openai.UserMessage(...) ay isang user turn. Ang halimbawa sa README ay gumagamit ng DeveloperMessage at isang GPT constant; dito sapat na ang isang user message at isang string id.

Basahin ang sagot, finish_reason at usage#

Tatlo silang lahat ay nagmumula sa mga field na agad na pinaparse ng SDK para sa iyo:

• Ang resp.Choices[0].Message.Content ay ang teksto (isang string).
• Ang resp.Choices[0].FinishReason ay isa ring string. Ang stop ay nangangahulugang natapos ng modelo nang kusa; ang length ay nangangahulugang naabot ng sagot ang token limit at naputol. Kung makita mo ang length, basahin ang bakit napuputol ang isang sagot sa gitna ng pangungusap.
• Ang resp.Usage ay naglalaman ng PromptTokens (ang ipinadala mo), CompletionTokens (ang isinulat ng modelo) at TotalTokens, lahat int64.

Magiging ganito ang output: ang sagot, pagkatapos ay finish_reason: na may value, pagkatapos ay tatlong token count. Nag-iiba ang mga numero sa bawat run, kaya i-log ang mga ito. Sila ang binabayaran mo, at ang output tokens ang mas mahal na bahagi.

Retries at timeouts: tatlong magkaibang limitasyon#

Dito karaniwang nasasaktan ang mga Go service: bilang default, ang SDK ay walang timeout, kaya ang isang stalled na koneksyon ay maaaring maghintay nang walang hanggan. Tatlong setting ang nag-aayos nito, at gumagana sila sa magkaibang antas:

• option.WithMaxRetries(2): inuulit ng SDK ang mga connection error, 408, 409, 429 at 5xx na may maikling exponential na paghihintay. Dalawang retry na ang default; ang 0 ay nagpapatay ng retries. Maaari mong itakda ito sa client, o sa isang tawag lamang.
• option.WithRequestTimeout(30*time.Second): ang limitasyon para sa isang pagtatangka.
• Ang context deadline: ang limitasyon para sa buong tawag, kasama ang retries at paghihintay.

Kaya sa 2 retries, maaaring may hanggang 3 pagtatangka: 3 × 30 = 90 segundo ng paghihintay sa pinakamasama, kasama ang maiikling paghinto sa pagitan ng mga pagtatangka. Sinasaklaw ito ng dalawang minutong context. Kung gusto mo ng mahigpit na panuntunang sagot-sa-loob-ng-20-segundo para sa isang web handler, paikliin ang context, hindi lamang ang per-attempt timeout.

Para sa mas mahabang background sa pagpili ng mga numerong ito, ang Python na bersyon ng parehong payo ay nasa OpenAI Python SDK timeout and retries. Naaangkop din ang lohika sa Go.

Magkano ang isang libo ng mga tawag na ito#

Sabihin nating nagpapatakbo ka ng maliit na service na gumagawa ng 1,000 request bawat araw, bawat isa ay may mga 800 input tokens at 300 output tokens. Sa deepseek-ai/DeepSeek-V4-Flash-0731, ang araw na iyon ay nagkakahalaga ng $0.042 (1,000 × 800 input tokens, 1,000 × 300 output tokens). Ipinapakita ng table ang parehong load sa aming mga modelo; kung bibilangin sa kabuuan, kasama ang input at output, mas mura ito kaysa OpenRouter.

Ipasok ang sarili mong mga numero. Ang unang run mo ay magpi-print ng tunay na PromptTokens at CompletionTokens, kaya hindi mo kailangang hulaan ang average:

Ang mga presyo sa pricing page at models page ay live at gumagamit ng isang fixed na presyo bawat modelo, na walang peak hours.

Kung hindi ito gumana#

• Binabanggit ng error ang 401: ang key ay walang laman o mali. Ang os.Getenv ay nagbabalik ng empty string para sa isang unset na variable, kaya suriin ang echo $CHEAPTOKENS_API_KEY sa parehong terminal kung saan mo pinapatakbo ang go run ..
• Binabanggit ng error ang 404 o isang hindi kilalang modelo: ang id. Kopyahin ito nang buo, kasama ang deepseek-ai/ prefix. Maaari mong ilista ang mga id sa the models list call.
• go: module requires Go 1.26: mas luma ang iyong toolchain. I-pin ang isang mas lumang SDK tag tulad ng ipinapakita sa itaas.
• Nag-hang ang tawag at pagkatapos ay nabigo: iyon ang timeout na gumagawa ng trabaho nito. Suriin muna ang network path, pagkatapos ay taasan ang WithRequestTimeout kung talagang kailangan ng modelo ng mas maraming oras para sa isang mahabang sagot.

Kung bago sa iyo ang ideya ng base URL, ipinapaliwanag ng what base_url is and how to switch ito nang walang code.