Czy istnieje darmowy poziom Qwen API?
Szczera odpowiedź na temat darmowego poziomu Qwen API brzmi: to zależy od tego, kto hostuje model i od daty, w którą pytasz. Qwen to rodzina modeli o otwartych wagach. Jego twórca uruchamia usługę hostowaną, inne platformy chmurowe hostują te same wagi, a możesz pobrać wagi i uruchomić je samodzielnie. Każda z nich ma inne ceny, a dowolne darmowe limity to decyzja hosta. Takie limity są często ograniczone pod względem wielkości, czasu lub dotyczą określonych modeli i regionów i ulegają zmianom.
Nie podam liczby dla darmowego limitu innej firmy, bo zdąży się zmienić, zanim to przeczytasz. Otwórz stronę z cenami lub konsolę hosta i szukaj haseł „free quota”, „trial” lub „new user”. Sprawdź trzy rzeczy: ile tokenów otrzymasz, jak długo są ważne i do których ID modeli się odnoszą.
Ta strona nie jest oficjalną usługą Qwen. Jest to niezależny dostawca uruchamiający jeden model o otwartych wagach, dostrojony do odpowiadania bez odmów treści dla legalnego użytku przez dorosłych. Posiada własny mały kredyt próbny, opisany poniżej.
Sposoby na darmowe przetestowanie modelu Qwen
Jeśli Twoim celem jest wypróbowanie modeli Qwen bez płacenia, masz kilka opcji. Żadna nie jest gwarantowana i każda ma swoje wady.
- Usługa hostowana przez twórcę. Sprawdź, czy nowe konta otrzymują początkowy limit. Oczekuj ograniczeń dotyczących tokenów, czasu i czasem regionów.
- Inni dostawcy hostingu. Niektóre platformy oferują początkowy kredyt lub darmowy plan dla mniejszych modeli. Warunki się różnią, a darmowe plany często mają ścisłe limity zapytań.
- Uruchomienie wag na własnym sprzęcie. Modele o otwartych wagach można uruchomić na własnym sprzęcie bez kosztu za token. Koszt przenosi się na GPU, energię i Twój czas, a większe modele wymagają sporej pamięci.
- Mały test tutaj. Kredyt w wysokości $0,50 to nie jest darmowy plan Qwen, ale pozwala przetestować endpoint kompatybilny z OpenAI z modelem bez cenzury, zanim wydasz cokolwiek.
Darmowy poziom jest dobry do smoke testu. Jest słabą podstawą dla produktu, ponieważ w dniu jego zmniejszenia lub zakończenia Twoje koszty się zmieniają. Zaplanuj rzeczywiste wydatki w oparciu o ceny za token, które możesz obliczyć z góry.
Jak działa próba na tej stronie
Nowi użytkownicy mogą odebrać kredyt próbny $0,50 jednym kliknięciem na stronie klucza API po rejestracji. Rejestracja odbywa się przez Google lub e-mail i hasło. Kredyt jest jeden na osobę, ważny przez 7 dni i nie wymaga karty. Klucze próbne pozwalają na 2 równoległe zapytania i 60 zapytań na minutę.
Oto sekwencja:
- Zarejestruj się i otwórz stronę klucza API.
- Kliknij, aby odebrać kredyt próbny.
- Skopiuj swój klucz i wyślij zapytanie do
https://api.uncensoredqwen.com/v1z identyfikatorem modeluuncensored. - Przeczytaj nagłówek odpowiedzi
X-Balance-USD, aby obserwować spadek kredytu.
Jeśli kredyt się wyczerpie lub miną 7 dni, zapytania przestają działać, dopóki nie doładujesz konta. Nie ma automatycznego obciążenia, ponieważ w przypadku próby nie ma zapisanej metody płatności.
Co kupuje $0,50
Ceny to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Przeanalizujmy trzy wielkości zapytań. Każde obliczenie to tokeny podzielone przez 1 000 000 i pomnożone przez stawkę.
| Zapytanie | Koszt wejścia | Koszt wyjścia | Razem | Zapytania za $0,50 |
|---|---|---|---|---|
| 500 wejściowych, 300 wyjściowych | $0,000075 | $0,00015 | $0,000225 | około 2200 |
| 2000 wejściowych, 500 wyjściowych | $0,0003 | $0,00025 | $0,00055 | około 900 |
| 20 000 wejściowych, 1 000 wyjściowych | $0,003 | $0,0005 | $0,0035 | około 140 |
Drugi wiersz to normalna tura czatu z historią, a około 900 takich mieści się w próbie. Trzeci wiersz to zadanie długiego dokumentu, np. streszczenie 15 000 słów: około 140 z nich. Nawet zapytanie, które wypełnia całe okno kontekstu 100 000 tokenów danymi wejściowymi i zwraca 1000 tokenów, kosztuje $0,015 plus $0,0005, czyli $0,0155, więc możesz uruchomić około 32 takie zapytania.
Pierwszym limitem, który zauważysz, jest limit zapytań, a nie pieniądze. Przy 2 równoległych zapytaniach i 60 na minutę pętla wysyłająca zapytania równolegle zobaczy HTTP 429 z kodem błędu concurrency lub rate_limited. Zwolnij pętlę lub dodaj ponowienie, które czeka na wartość Retry-After.
Skrypt testowy dla próby
Ten skrypt wysyła krótką listę promptów jeden po drugim i wypisuje liczbę tokenów oraz koszt każdego z nich, korzystając z liczników użycia z odpowiedzi. Zastąp prompty swoimi prawdziwymi.
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key="YOUR_KEY",
)
IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000
prompts = [
"Rewrite this sentence in a formal tone: we need the report asap.",
"Give three plot twists for a heist story.",
"Explain what a context window is in two sentences.",
]
total = 0.0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
u = r.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
total += cost
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
print("total", round(total, 6))
Uruchom go kilka razy ze swoimi rzeczywistymi promptami, a poznasz swój średni koszt zapytania. Pomnóż przez oczekiwany wolumen, a otrzymasz szacunkowy koszt miesięczny, który nie zależy od żadnego darmowego poziomu.
Pułapki budowania na dowolnym darmowym poziomie
Darmowe limity są zaprojektowane tak, abyś mógł zacząć, a nie aby utrzymać produkt. Kilka nawyków uchroni Cię przed niespodziankami.
Nie wiąż swojego budżetu z limitem
Jeśli darmowy limit pokrywa Twój obecny ruch, łatwo pominąć planowanie kosztów. Gdy limit się zmniejszy, skończy się lub Twój ruch go przekroczy, rachunek przychodzi od razu w całości. Od początku wykonuj obliczenia za token, korzystając z płatnej stawki, a dowolny kredyt traktuj jako bonus.
Śledź limity zapytań, a nie tylko tokeny
Konta darmowe i próbne często otrzymują niższe limity. Na tej stronie klucz próbny pozwala na 2 równoległe zapytania i 60 na minutę, podczas gdy pełny klucz pozwala na 8 i 300. Test, który przechodzi na mało obciążonym kluczu próbnym, może zachowywać się inaczej pod rzeczywistym ruchem, więc powtórz testy obciążeniowe, gdy przejdziesz na klucz płatny.
Utrzymuj przenośność kodu
Pisz klienta zgodnie z formatem OpenAI i przechowuj Base URL, klucz oraz ID modelu w konfiguracji. Dzięki temu przejście między darmowym poziomem, planem płatnym a innym hostem to zmiana konfiguracji, a nie przepisanie kodu. Z tego samego powodu API tutaj korzysta z tego formatu.
Sprawdź, co model odpowie
Bezpłatny dostęp do modelu z rygorystycznymi zasadami dotyczącymi treści nie pomoże, jeśli Twój przypadek użycia wymaga szczerych odpowiedzi na legalne tematy dla dorosłych. Przetestuj najtrudniejsze, rzeczywiste prompty. Jeśli zostaną odrzucone, darmowe tokeny nie mają dla Ciebie wartości.
Po zakończeniu okresu próbnego: jak wygląda płatność
Nie ma subskrypcji. Doładowujesz dowolną kwotę w pełnych jednostkach od $20 do $500, kryptowalutami (USDT w sieci TRC20 lub USDC na Base). Bonusy dodają 5% od $50, 10% od $100 i 15% od $200, więc $50 to $52,50, $100 to $110, a $200 to $230. Kredyt nie wygasa, a nieudane lub odrzucone zapytania nie są rozliczane.
Korzystając z drugiego wiersza powyżej, $20 kredytu wystarcza na około 36 000 zapytań o 2 000 tokenach wejściowych i 500 tokenach wyjściowych ($20 podzielone przez $0,00055). Pełne klucze pozwalają na 8 równoległych zapytań i 300 zapytań na minutę. Szczegóły znajdziesz na stronie z cenami.
Usługa obsługuje tylko tekst, a okno kontekstu wynosi 100 000 tokenów. Prompty nie są wykorzystywane do trenowania modeli, a jedna zasada jest stała: brak treści seksualnych z udziałem nieletnich. Jeśli przenosisz integrację z Qwen, przewodnik szybkiego startu pokazuje, co należy zmienić, a strona z typowymi błędami API Qwen wymienia błędy, na które trafiają użytkownicy najczęściej.
