Krótka odpowiedź: wyceniaj na własnych tokenach
Nie ma jednego zwycięzcy w porównaniu cen API Qwen i DeepSeek, ponieważ odpowiedź zależy od poziomu modelu, długości promptów, ilości generowanego tekstu i tego, czy dostawca oferuje zniżki na powtarzające się prefiksy. Obaj dostawcy publikują ceny na swoich stronach, które się zmieniają. Sprawdź ich bieżące ceny przed decyzją i wykonaj poniższe obliczenia na podstawie liczb, które zobaczysz tego dnia.
Metoda pozostaje niezmienna. Policz swoje tokeny, podziel je na wejście i wyjście, pomnóż przez stawkę za milion tokenów każdego dostawcy i dodaj margines na ponowne próby. Da Ci to miesięczną kwotę do porównania z dowolną liczbą dostawców, włącznie z tym na tej stronie.
Qwen i DeepSeek to też rodziny modeli, a nie pojedyncze produkty. Każda ma wiele modeli od małych i tanich po duże i drogie, a kilka firm je hostuje. „API Qwen” może oznaczać własną chmurę twórcy lub stronę trzecią hostującą te same otwarte wagi. Zawsze precyzyjnie określ ID modelu i hosta, którego wyceniasz.
Wzór
Przez jeden miesiąc koszt obciążenia wynosi:
cost = (input_tokens / 1,000,000) * input_price
+ (output_tokens / 1,000,000) * output_price
Oto przykład obliczeń używając stawek tej strony: $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Załóżmy, że Twój produkt przetwarza 10 mln tokenów wejściowych i 2 mln tokenów wyjściowych w miesiącu.
- Wejście: 10 x $0,15 = $1,50
- Wyjście: 2 x $0,50 = $1,00
- Razem: $2,50
Skaluj to samo obciążenie dziesięciokrotnie, do 100 mln tokenów wejściowych i 20 mln wyjściowych, a suma wyniesie $15 plus $10, czyli $25. Wpisz ceny wejścia i wyjścia innego dostawcy w te same dwa wiersze, a uzyskasz uczciwe porównanie. Zrób to dwukrotnie dla każdego dostawcy: raz dla modelu, którego użyłbyś w produkcji, i raz dla tańszej warstwy, do której mógłbyś kierować łatwy ruch.
Co napędza rzeczywisty rachunek
Główne stawki za token mówią tylko część prawdy. Te pięć czynników zwykle zmienia całkowity koszt bardziej niż mała różnica w cenie.
Stosunek wejścia do wyjścia
Tokeny wyjściowe są często droższe niż wejściowe, więc sprawdź każdego dostawcę. Sumaryzator dużo czyta i mało pisze, więc dominuje cena wejścia. Generator historii lub pisarz kodu robi odwrotnie. Zmierz własny stosunek z dnia logów przed porównaniem.
Buforowanie i zniżki
Niektórzy dostawcy oferują niższą stawkę za powtarzające się prefiksy promptów, a inni tańsze tryby poza szczytem lub wsadowe. Jeśli Twoja aplikacja wysyła długi prompt systemowy przy każdym zapytaniu, zniżka za buforowanie może być ważniejsza niż stawka bazowa. Przeczytaj bieżące warunki każdego dostawcy, aby wiedzieć, co i kiedy się stosuje.
Długość kontekstu
Aplikacje czatowe wysyłają historię przy każdej turze, więc strona wejścia rośnie wraz z długością rozmowy. Historia 30 000 tokenów przy każdej turze kosztuje dziesięciokrotnie więcej niż historia 3000 tokenów. Ograniczanie lub sumaryzowanie historii to często najtańsza optymalizacja, niezależnie od dostawcy.
Poziom modelu
Każda rodzina ma modele małe, średnie i duże, a czasem oddzielne warianty rozumowania generujące długie ukryte łańcuchy myślenia. Wyniki rozumowania są rozliczane jako wyjście. Tania stawka za token modelu, który generuje cztery razy więcej tokenów, nie jest tania.
Awarie i ponowne próby
Sprawdź, czy nieudane lub odrzucone zapytania są rozliczane. Na tej stronie nieudane lub odrzucone zapytania nie są rozliczane. Sprawdź, jak radzą sobie inni, ponieważ odrzucenie kosztujące pieniądze to ukryty podatek dla wrażliwych obciążeń.
Poza ceną: cenzura, limity i dopasowanie
Niska stawka jest mało warta, jeśli model odrzuca Twoje prompty lub ogranicza Twoje limity. Modele Qwen i DeepSeek są oferowane przez ich twórców w ramach usług hostowanych pod warunkami i politykami treści dostawców, a oba można hostować samodzielnie z otwartych wag. Jeśli Twój przypadek użycia obejmuje dojrzałą fikcję, szczere dyskusje na temat wrażliwych tematów lub testy bezpieczeństwa, przeczytaj politykę użytkowania dostawcy i przetestuj zestaw własnych promptów przed zobowiązaniem.
Limity zapytań są równie ważne. Sprawdź liczbę zapytań na minutę oraz limity równoległych zapytań dla konkretnego poziomu, który planujesz użyć, i sprawdź, co dzieje się po przekroczeniu limitu. W przypadku produktu strumieniowego to właśnie współbieżność bywa najczęściej ograniczona.
Obsługa danych to trzecie sprawdzenie. Przeczytaj, co każdy dostawca mówi o przechowywaniu promptów i używaniu ich do trenowania. Na tej stronie prompty nie są używane do trenowania.
Gdzie pasuje to API
Ta strona hostuje inny rodzaj opcji. To jeden model o otwartych wagach, uruchamiany przez niezależnego dostawcę i dostrojony do odpowiadania bez odrzuceń treści dla legalnego użytku przez dorosłych. Nie jest to oficjalne API Qwen, DeepSeek ani żadnego innego dostawcy i nie jest routerem między dostawcami.
| Pozycja | To API |
|---|---|
| Cena wejścia | $0,15 za 1M tokenów |
| Cena wyjścia | $0,50 za 1M tokenów |
| Okno kontekstu | 100 000 tokenów |
| Pełne limity klucza | 8 równoległych, 300 zapytań na minutę |
| Rozliczenia | Przedpłacony kredyt, bez subskrypcji, nie wygasa |
| Odrzucone lub nieudane zapytania | Nie rozliczane |
To tylko tekst, bez obrazów, audio, wideo, embeddingów ani fine-tuningu. Jeśli potrzebujesz większych lub wyspecjalizowanych modeli, które oferuje własna platforma dostawcy, to platforma będzie lepszym wyborem. Jeśli priorytetem jest stała, przewidywalna cena i brak odmów dla legalnej treści dla dorosłych, ten jest wart przetestowania.
Koszty przełączenia są niskie
Ponieważ API jest zgodne z formatem OpenAI, jego wypróbowanie oznacza zmianę bazowego URL, klucza i ID modelu. Jeśli Twój kod już komunikuje się z Qwen lub DeepSeek przez klienta w stylu OpenAI, test obok siebie to kilka linii.
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize this contract clause in plain English."}],
temperature=0.3,
)
print(resp.choices[0].message.content)
print(resp.usage)
Uruchom te same 50 promptów przez każdego kandydata, zapisz wyjścia i przeczytaj je. Zapisz liczbę tokenów użytych na zapytanie z pola usage, a następnie podstaw średnie do powyższego wzoru. Kroki migracji znajdziesz w przewodniku szybkiego startu dla tego API, a w przypadku pułapek, których należy unikać w każdej integracji z Qwen, stronę typowe błędy API Qwen omawia najczęstsze z nich.
Opóźnienie i niezawodność to część ceny
Prędkość i uptime nie pojawiają się na liście cen, a jednak wpływają na koszt Twojego obciążenia. Wolny model blokuje Twój worker, socket lub cierpliwość użytkownika na dłużej. Niestabilny dodaje powtórzenia, a powtórzenia zwiększają zużycie tokenów i czas inżynieryjny. Nie mam tu liczb benchmarkowych do udostępnienia dla żadnego dostawcy, a powinieneś być ostrożny wobec każdego, kto je podaje bez pokazania, jak je zmierzył.
Zmierz to sam. Wyślij te same 50 promptów do każdego kandydata w godzinach, gdy Twoi użytkownicy są aktywni, zapisz czas do pierwszego tokena i całkowity czas oraz policz błędy. Dzień tych danych mówi więcej niż strona marketingu. Jeśli Twój produkt strumieniuje do użytkowników, czas do pierwszego tokena to liczba, którą czują, więc śledź go osobno od czasu całkowitego.
Lista kontrolna decyzji
- Zapisz miesięczną liczbę tokenów wejściowych i wyjściowych z rzeczywistych logów.
- Wybierz dokładny poziom modelu u każdego dostawcy i skopiuj dzisiejsze ceny za milion tokenów.
- Oblicz miesięczną sumę za pomocą wzoru, a następnie dodaj 10% na ponowne próby.
- Sprawdź politykę treści, limity zapytań i sposób przetwarzania danych pod kątem Twojego przypadku użycia.
- Przetestuj 50 rzeczywistych promptów na każdym z nich i porównaj jakość, czytając wyniki.
- Wybierz opcję pod względem całkowitego kosztu za użyteczną odpowiedź, a nie stawki głównej.
Jeśli dodasz to API do testów, strona ceny zawiera kwoty do doładowania i bonusy (+5% od $50, +10% od $100, +15% od $200), a strona klucz API to miejsce, w którym możesz odebrać darmowy kredyt próbny w wysokości $0,50. Doładowania są realizowane wyłącznie za pomocą kryptowalut (USDT w sieci TRC20, USDC w sieci Base) w zakresie od $20 do $500.
