Jak wybrać model AI: kontekst, wyjście, szybkość, cena

Lista modeli z czterdziestoma nazwami, zadanie opisane jednym zdaniem i brak oczywistego związku między nimi. Oto krótka odpowiedź: sprawdź cztery liczby, w tej kolejności. Okno kontekstu i maksymalne wyjście decydują, czy model w ogóle poradzi sobie z twoim zadaniem. Szybkość i cena decydują, jak przyjemnie i jak drogo to będzie. Kontekst, limit wyjścia i cena są podane na stronie modeli oraz w tabeli cen; szybkość sprawdzasz sam w około minutę, a skrypt znajdziesz poniżej.

Cztery liczby prostymi słowami#

Wyobraź sobie model jako kolegę przy biurku. Okno kontekstu to rozmiar biurka: wszystko, co musi leżeć przed nim naraz. Maksymalne wyjście to, jak długo potrafi mówić jednym ciągiem. Szybkość to, jak szybko zaczyna odpowiadać. Cena to jego stawka godzinowa. Cztery pojęcia, które spotkasz w każdej dokumentacji API:

Aby to skonkretyzować, oto dwie pierwsze liczby dla trzech modeli z katalogu CheapTokens, z dokumentacji modeli CheapTokens (27 października 2026): GLM-5.3-Flash ma kontekst 390K i odpowiada do 8 192 tokenów; DeepSeek-V4-Flash (wydanie 0731) ma 380K i odpowiada do 32 768 tokenów; MiniMax-M2.7 ma 180K i odpowiada do 8 192 tokenów.

Kontekst: czy wszystko, co wysyłasz, się zmieści?#

Załóżmy, że twój asystent do kodowania otwiera 12 plików po około 3 000 tokenów każdy, a potem dodaje twoje pytanie i własne notatki. 12 × 3 000 = 36 000 tokenów. Nawet najmniejsze okno powyżej, 180K, mieści to z dużym zapasem. Pojedynczy ogromny plik albo zrzut całego repozytorium to moment, w którym okno zaczyna mieć znaczenie.

Czaty i agenci są trudniejsi, bo API wysyła ponownie całą historię przy każdym wywołaniu. Weź agenta, który wykonuje 20 kroków, a każdy krok dodaje około 2 000 tokenów wyjścia narzędzia i odpowiedzi (założenie dla tego przykładu). Krok 1 wysyła 2 000 tokenów, krok 2 wysyła 4 000, krok 20 wysyła 40 000. Przez cały przebieg wysyła 2 000 × 210 = 420 000 tokenów, gdzie 210 to 1 + 2 + … + 20.

Kryją się tu dwa różne pytania. Okno kontekstu interesuje tylko największe pojedyncze żądanie: 40 000 tokenów w kroku 20, co każdy model w katalogu mieści bez trudu. Rachunek interesuje suma, 420 000 tokenów. Trzymaj oba w głowie, a nie wybierzesz modelu z niewłaściwego powodu.

Długość wyjścia: limit, który ucina odpowiedzi#

Limit wyjścia to pułap jednej odpowiedzi i łatwo o nim zapomnieć, dopóki odpowiedź nie urwie się w połowie zdania. Praktyczna zasada dla angielskiego: jeden token to około trzech czwartych słowa. Prosisz o raport na 6000 słów: 6000 / 0,75 = 8000 tokenów. To ledwo mieści się pod 8 192. Poproś o 7 000 słów, a tekst skończy się w środku akapitu.

Przy pułapie 32 768 tokenów ta sama arytmetyka daje 24576 słów w jednej odpowiedzi (32768 × 0,75 = 24576), więc generowany kod, długie raporty i szkice całych rozdziałów mieszczą się w jednej wypowiedzi. Gdy odpowiedź rzeczywiście zostanie ucięta, API ci to powie: finish_reason wraca jako length (dlaczego tak się dzieje i jak to naprawić).

Szybkość: jedyna liczba, którą mierzysz sam#

Szybkość to tak naprawdę dwie liczby: ile czasu mija do pojawienia się pierwszego tekstu i jak szybko napływa reszta. Obie zmieniają się wraz z obciążeniem, długością promptu i porą dnia, więc wartość skopiowana z tabeli to słaby przewodnik. Zmierz ją na własnym promptcie. To zajmuje minutę i zużywa kilka tokenów (klucz pochodzi ze zmiennej środowiskowej; jak go utworzyć, patrz dokumentacja):

import os, time
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

start = time.perf_counter()
first = None
stream = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    messages=[{"role": "user", "content": "Explain what a token is in 3 sentences."}],
    stream=True,
)
for chunk in stream:
    if first is None and chunk.choices and chunk.choices[0].delta.content:
        first = time.perf_counter() - start
total = time.perf_counter() - start
print(f"first text after {first:.1f}s, finished after {total:.1f}s")

Dostajesz jedną linię: first text after <N>s, finished after <M>s. Podmień identyfikator modelu na zai-org/GLM-5.3-Flash lub MiniMaxAI/MiniMax-M2.7, uruchom każdy kilka razy i masz porównanie szybkości dla swojego promptu. Czy to ma znaczenie? W czacie na żywo tak: ludzie zauważają pauzę przed pierwszym słowem. W nocnej partii podsumowań nikt nie patrzy, a szybkość spada na sam dół listy.

Cena: dodaj wejście i wyjście razem#

Ceny podaje się za milion tokenów, ale płacisz za żądanie, a żądanie ma zarówno stronę wejściową, jak i wyjściową. Porównuj więc modele na obciążeniu, a nie na dwóch kolumnach. Załóżmy, że twój bot wsparcia obsługuje 1 000 zgłoszeń dziennie, każde około 300 tokenów na wejściu i 150 na wyjściu (założenie; zastąp je własnym). Tabela jest aktywna i przelicza się na podstawie aktualnych cen:

Czytaj sumę, nie kolumny. W sumie, licząc wejście i wyjście razem, każdy z trzech wypada taniej niż cena referencyjna OpenRouter w kolumnie OpenRouter tej tabeli.

I tu agenci dają się we znaki. 20-krokowy przebieg z sekcji o kontekście wysyła 420 000 tokenów na wejściu i zapisuje może 4 000 na wyjściu (200 na krok, znów założenie). Na DeepSeek-V4-Flash jeden taki przebieg kosztuje $0.0067. Pięć przebiegów dziennie? Przesuń suwaki i obserwuj trzy modele:

Ceny modeli pozostają takie same o każdej porze dnia, więc obliczenia zrobione teraz obowiązują też dla nocnej partii. A jeśli chcesz przypomnieć sobie, dlaczego tokeny wyjściowe zwykle kosztują więcej niż wejściowe, zobacz tokeny wejściowe i wyjściowe.

Wybierz model według zadania#

Zacznij od zadania, znajdź liczbę, która gryzie najmocniej, i sprawdź pozostałe trzy. Kliknij przez własny przypadek:

Żaden pojedynczy model nie wygrywa w każdym wierszu, dlatego warto przepuścić te same dziesięć prawdziwych promptów przez dwóch kandydatów, zanim się zdecydujesz. Porównanie GLM vs DeepSeek vs MiniMax wchodzi głębiej w te trzy modele, a strona z cenami zawsze pokazuje aktualne liczby.