Erste Anfrage in Go mit openai-go: Base-URL, Key, Usage

Du hast bereits Go-Code, der mit einer OpenAI-kompatiblen API spricht, oder du stehst kurz davor, welchen zu schreiben. Um ihn an CheapTokens zu senden, änderst du zwei Optionen am Client und einen String, die Model-ID. Das SDK bleibt dasselbe: das offizielle openai-go-Paket, v3.

Unten steht das ganze Programm, dann was jede Zeile tut, wie du die Antwort und die Token-Zählungen liest und wie du verhinderst, dass eine hängende Anfrage deinen Service blockiert. Versionen geprüft gegen die openai-go-README vom 3. November 2026: das neueste Tag auf dieser Seite ist v3.91.1, und es benötigt Go 1.26 oder neuer.

Was du vor dem Start brauchst#

• Go 1.26 oder neuer. Auf Go 1.25 pinne v3.74.0; auf Go 1.22–1.24 pinne v3.44.0 (laut README bekommt die ältere Linie keine garantierten Fixes).
• Einen CheapTokens-API-Key. Bewahre ihn in einer Umgebungsvariable auf, nicht in der Quelldatei.
• Die API-Adresse: https://api.cheaptokens.dev/v1. Sie spricht das OpenAI-Chat-Completions-Format, also funktioniert openai-go ohne Wrapper. Die Docs enthalten dieselbe Adresse und die Key-Seite.
• Eine Model-ID. Wir verwenden deepseek-ai/DeepSeek-V4-Flash-0731: 380K Kontext und bis zu 32.768 Tokens in einer Antwort. Verwende die vollständige ID; der Kurzname aus Preistabellen wird von der API nicht akzeptiert.

go mod init example.com/first-request
go get -u 'github.com/openai/openai-go/[email protected]'

export CHEAPTOKENS_API_KEY="paste-your-key-here"

Das ganze Programm#

package main

import (
	"context"
	"fmt"
	"log"
	"os"
	"time"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://api.cheaptokens.dev/v1"),
		option.WithAPIKey(os.Getenv("CHEAPTOKENS_API_KEY")),
		option.WithMaxRetries(2),
		option.WithRequestTimeout(30*time.Second),
	)

	ctx, cancel := context.WithTimeout(context.Background(), 2*time.Minute)
	defer cancel()

	resp, err := client.Chat.Completions.New(ctx, openai.ChatCompletionNewParams{
		Model: "deepseek-ai/DeepSeek-V4-Flash-0731",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.UserMessage("Explain in two sentences what a token is."),
		},
	})
	if err != nil {
		log.Fatal(err)
	}
	if len(resp.Choices) == 0 {
		log.Fatal("no choices in the response")
	}

	fmt.Println(resp.Choices[0].Message.Content)
	fmt.Println("finish_reason:", resp.Choices[0].FinishReason)
	fmt.Println("input tokens:", resp.Usage.PromptTokens)
	fmt.Println("output tokens:", resp.Usage.CompletionTokens)
	fmt.Println("total tokens:", resp.Usage.TotalTokens)
}

Die entscheidenden Stellen:

• option.WithBaseURL(...) ist die einzige Zeile, die das SDK von OpenAI auf CheapTokens umstellt. Verwende die Adresse genau wie in den Docs.
• option.WithAPIKey(os.Getenv(...)) übergibt den Key explizit. Ohne sie liest der Client OPENAI_API_KEY, was praktisch ist, wenn du bestehenden Code portierst: setze diese Variable auf einen CheapTokens-Key, und der Code braucht keine Key-Änderung. Dasselbe gilt für OPENAI_BASE_URL, aber ein explizites WithBaseURL überschreibt es, sodass es keine Überraschung gibt, wenn beides existiert.
• Model ist im SDK ein einfacher String (ChatModel ist ein Alias von string), also funktioniert jede Model-ID, nicht nur die Konstanten, die die README zeigt.
• openai.UserMessage(...) ist ein User-Turn. Das README-Beispiel verwendet DeveloperMessage und eine GPT-Konstante; hier reichen eine User-Nachricht und eine String-ID.

Die Antwort, finish_reason und usage lesen#

Alle drei kommen aus Feldern, die das SDK bereits für dich parst:

• resp.Choices[0].Message.Content ist der Text (ein string).
• resp.Choices[0].FinishReason ist ebenfalls ein string. stop bedeutet, dass das Modell von selbst fertig wurde; length bedeutet, dass die Antwort das Token-Limit erreicht hat und abgeschnitten wurde. Wenn du length siehst, lies warum eine Antwort mitten im Satz endet.
• resp.Usage enthält PromptTokens (was du gesendet hast), CompletionTokens (was das Modell geschrieben hat) und TotalTokens, alle int64.

Die Ausgabe sieht so aus: die Antwort, dann finish_reason: mit einem Wert, dann drei Token-Zählungen. Die Zahlen unterscheiden sich bei jedem Lauf, also logge sie. Sie sind das, wofür du bezahlst, und Output-Tokens sind die teurere Seite.

Retries und Timeouts: drei verschiedene Limits#

Hier werden Go-Services üblicherweise getroffen: standardmäßig hat das SDK überhaupt keinen Timeout, sodass eine hängende Verbindung ewig warten kann. Drei Einstellungen beheben das, und sie wirken auf unterschiedlichen Ebenen:

• option.WithMaxRetries(2): Das SDK wiederholt Verbindungsfehler, 408, 409, 429 und 5xx mit kurzer exponentieller Wartezeit. Zwei Retries sind bereits der Standard; 0 schaltet Retries ab. Du kannst es am Client oder für einen einzelnen Aufruf setzen.
• option.WithRequestTimeout(30*time.Second): das Limit für einen Versuch.
• Die context-Deadline: das Limit für den gesamten Aufruf, Retries und Wartezeiten eingeschlossen.

Mit 2 Retries gibt es also bis zu 3 Versuche: 3 × 30 = 90 Sekunden Wartezeit im schlimmsten Fall, plus die kurzen Pausen zwischen den Versuchen. Ein Kontext von zwei Minuten deckt das ab. Wenn du für einen Web-Handler eine harte Regel „Antwort innerhalb von 20 Sekunden“ willst, verkürze den Kontext, nicht nur den Timeout pro Versuch.

Für mehr Hintergrund zur Wahl dieser Zahlen findest du die Python-Version desselben Rats in OpenAI Python SDK timeout and retries. Die Logik überträgt sich auf Go.

Was tausend dieser Aufrufe kosten#

Angenommen, du betreibst einen kleinen Service mit 1.000 Anfragen pro Tag, jede mit etwa 800 Input-Tokens und 300 Output-Tokens. Auf deepseek-ai/DeepSeek-V4-Flash-0731 kostet dieser Tag $0.042 (1.000 × 800 Input-Tokens, 1.000 × 300 Output-Tokens). Die Tabelle zeigt dieselbe Last über unsere Modelle; insgesamt gezählt, Input und Output zusammen, ist es günstiger als OpenRouter.

Setze deine eigenen Zahlen ein. Dein erster Lauf gibt die echten PromptTokens und CompletionTokens aus, sodass du den Durchschnitt nicht raten musst:

Preise auf der Preisseite und der Modellseite sind live und verwenden einen festen Preis pro Modell, ohne Stoßzeiten.

Wenn es nicht funktioniert#

• Der Fehler nennt 401: Der Key ist leer oder falsch. os.Getenv gibt für eine nicht gesetzte Variable einen leeren String zurück, also prüfe echo $CHEAPTOKENS_API_KEY in demselben Terminal, in dem du go run . ausführst.
• Der Fehler nennt 404 oder ein unbekanntes Modell: die ID. Kopiere sie vollständig, mit dem Präfix deepseek-ai/. Du kannst IDs im Models-List-Aufruf auflisten.
• go: module requires Go 1.26: Deine Toolchain ist älter. Pinne ein älteres SDK-Tag wie oben gezeigt.
• Der Aufruf hängt und schlägt dann fehl: Das ist der Timeout, der seine Arbeit tut. Prüfe zuerst den Netzwerkpfad und erhöhe dann WithRequestTimeout, wenn das Modell für eine lange Antwort wirklich mehr Zeit braucht.

Wenn dir die Idee der Base-URL neu ist, erklärt was base_url ist und wie man wechselt es ohne Code.