Первый запрос на Go через openai-go: base URL, ключ, usage

Допустим, у вас уже есть Go-код для OpenAI-совместимого API, или вы только собираетесь его писать. Чтобы отправить его в CheapTokens, нужно поменять две опции клиента и одну строку, id модели. SDK остаётся тем же: официальный пакет openai-go, v3.

Ниже целая программа, потом разбор строк, чтение ответа и счётчиков токенов и защита от зависшего запроса. Версии сверены с README openai-go 3 ноября 2026 года: последний тег на странице — v3.91.1, нужен Go 1.26 или новее.

Что понадобится#

• Go 1.26 или новее. На Go 1.25 закрепите v3.74.0, на Go 1.22–1.24 — v3.44.0 (README: у старой ветки нет гарантированных исправлений).
• Ключ CheapTokens. Храните его в переменной окружения, а не в исходнике.
• Адрес API: https://api.cheaptokens.dev/v1. Он понимает формат OpenAI Chat Completions, поэтому openai-go работает без обёрток. Тот же адрес и страница с ключом — в документации.
• Id модели. Берём deepseek-ai/DeepSeek-V4-Flash-0731: контекст 380K и до 32 768 токенов в одном ответе. Нужен полный id; короткое имя из таблиц цен API не принимает.

go mod init example.com/first-request
go get -u 'github.com/openai/openai-go/[email protected]'

export CHEAPTOKENS_API_KEY="paste-your-key-here"

Вся программа#

package main

import (
	"context"
	"fmt"
	"log"
	"os"
	"time"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://api.cheaptokens.dev/v1"),
		option.WithAPIKey(os.Getenv("CHEAPTOKENS_API_KEY")),
		option.WithMaxRetries(2),
		option.WithRequestTimeout(30*time.Second),
	)

	ctx, cancel := context.WithTimeout(context.Background(), 2*time.Minute)
	defer cancel()

	resp, err := client.Chat.Completions.New(ctx, openai.ChatCompletionNewParams{
		Model: "deepseek-ai/DeepSeek-V4-Flash-0731",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.UserMessage("Explain in two sentences what a token is."),
		},
	})
	if err != nil {
		log.Fatal(err)
	}
	if len(resp.Choices) == 0 {
		log.Fatal("no choices in the response")
	}

	fmt.Println(resp.Choices[0].Message.Content)
	fmt.Println("finish_reason:", resp.Choices[0].FinishReason)
	fmt.Println("input tokens:", resp.Usage.PromptTokens)
	fmt.Println("output tokens:", resp.Usage.CompletionTokens)
	fmt.Println("total tokens:", resp.Usage.TotalTokens)
}

Что здесь важно:

• option.WithBaseURL(...) — единственная строка, которая переводит SDK с OpenAI на CheapTokens. Адрес берите ровно как в документации.
• option.WithAPIKey(os.Getenv(...)) передаёт ключ явно. Без неё клиент читает OPENAI_API_KEY — удобно при переносе готового кода: положите в эту переменную ключ CheapTokens, и код менять не нужно. С OPENAI_BASE_URL так же, но явный WithBaseURL его переопределяет, так что при обеих настройках сюрпризов нет.
• Model в SDK — обычная строка (ChatModel — алиас string), поэтому подходит любой id модели, а не только константы из README.
• openai.UserMessage(...) — одна реплика пользователя. В примере README стоят DeveloperMessage и константа GPT; нам хватает пользовательского сообщения и строки с id.

Ответ, finish_reason и usage#

Всё это SDK уже разобрал в поля:

• resp.Choices[0].Message.Content — текст (string).
• resp.Choices[0].FinishReason — тоже string. stop — модель закончила сама, length — ответ упёрся в лимит токенов и обрезан. Если видите length, прочитайте почему ответ обрывается на полуслове.
• resp.Usage — PromptTokens (что вы отправили), CompletionTokens (что написала модель) и TotalTokens, все int64.

На экране будет так: сначала ответ, затем finish_reason: со значением и три счётчика токенов. Числа каждый раз разные, так что логируйте их: именно за них вы платите, причём выходные токены стоят дороже.

Повторы и таймауты: три разных лимита#

Именно здесь Go-сервисы обычно обжигаются: по умолчанию у SDK вообще нет таймаута, и зависшее соединение может ждать вечно. Исправляют это три настройки, и работают они на разных уровнях:

• option.WithMaxRetries(2): SDK повторяет запрос при ошибках соединения, 408, 409, 429 и 5xx с короткой экспоненциальной паузой. Два повтора — это и так значение по умолчанию; 0 отключает повторы. Задаётся на клиенте или на отдельном вызове.
• option.WithRequestTimeout(30*time.Second): лимит одной попытки.
• Дедлайн context: лимит всего вызова вместе с повторами и паузами.

При двух повторах попыток может быть до трёх: 3 × 30 = 90 секунд ожидания в худшем случае плюс короткие паузы между попытками. Контекста на две минуты хватает. Если для веб-обработчика нужно жёсткое «ответить за 20 секунд», сокращайте контекст, а не только таймаут попытки.

О том, как подобрать числа, подробнее — в статье про таймауты и повторы в Python SDK: логика переносится на Go.

Сколько стоит тысяча таких вызовов#

Допустим, небольшой сервис делает 1 000 запросов в день, в каждом около 800 токенов входа и 300 токенов выхода. На deepseek-ai/DeepSeek-V4-Flash-0731 такой день стоит $0.042 (1 000 × 800 токенов входа, 1 000 × 300 токенов выхода). Таблица показывает ту же нагрузку по нашим моделям; в сумме, с учётом входа и выхода, это дешевле OpenRouter.

Подставьте свои числа. Первый запуск напечатает настоящие PromptTokens и CompletionTokens, так что среднее гадать не придётся:

Цены на странице цен и на странице моделей живые: у каждой модели одна цена, без пиковых часов.

Если не работает#

• В ошибке 401: ключ пустой или неверный. os.Getenv для незаданной переменной возвращает пустую строку, поэтому выполните echo $CHEAPTOKENS_API_KEY в том же терминале, где запускаете go run ..
• В ошибке 404 или «неизвестная модель»: id. Скопируйте его целиком, с префиксом deepseek-ai/. Список id можно получить запросом списка моделей.
• go: module requires Go 1.26: тулчейн старше. Закрепите более старый тег SDK, как написано в начале.
• Вызов висит, потом падает: это таймаут делает свою работу. Сначала проверьте сеть, затем увеличьте WithRequestTimeout, если модели правда нужно больше времени на длинный ответ.

Если идея base URL для вас нова, что такое base_url и как его сменить объяснено без кода.