Dlaczego SDK OpenAI pokrywa Twoje potrzeby
Gdy użytkownicy szukają qwen api sdk, zwykle chcą biblioteki klienckiej obsługującej uwierzytelnianie, powtórzenia, strumieniowanie i typowane odpowiedzi. SDK OpenAI robią to wszystko, a ta usługa implementuje ten sam interfejs HTTP: POST /v1/chat/completions, POST /v1/responses i GET /v1/models. Każdy klient pozwalający na nadpisanie base URL może się z nim komunikować.
Jasne wyjaśnienie na start. To nie jest oficjalne API Alibaba ani żadnego innego dostawcy modeli i nie jest to router przesyłający Twoje zapytania dalej. To jeden model o otwartych wagach, uruchamiany przez niezależnego dostawcę i dostrojony do odpowiadania bez odmów treści dla prawnego użytku osób dorosłych. Jednym przekazywanym identyfikatorem modelu jest uncensored.
Ułatwia to migrację. Jeśli Twój projekt już wywołuje model czatu przez SDK OpenAI, zmień trzy wartości: endpoint, klucz API i nazwę modelu. Nic innego w Twoim kodzie nie musi się zmienić.
Zainstaluj i wykonaj pierwsze wywołanie
Zainstaluj oficjalny pakiet dla Pythona lub Node. Nie ma potrzeby dodawania czegokolwiek specyficznego dla usługi.
pip install openai
# Node: npm install openai
Utwórz klucz na stronie klucza API, a następnie wyeksportuj go, aby nie trafił do Twojego kodu źródłowego.
export API_KEY="paste-your-key-here"
Teraz najmniejszy przydatny skrypt Python. Klient odczytuje klucz ze zmiennych środowiskowych i wysyła zapytania do usługi, a nie do OpenAI.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
Jeśli wolisz czysty HTTP, to samo zapytanie w curl wygląda tak:
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'Strumieniowanie odpowiedzi z SDK
Ustaw stream=True i iteruj po fragmentach. Usługa wysyła zdarzenia SSE i raportuje użycie tokenów na końcu strumienia, więc możesz logować koszty bez dodatkowego wywołania.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Pamiętaj o jednej rzeczy: strumieniowane zapytanie zajmuje slot współbieżności do końca strumienia. Jeśli konsument jest wolny lub zapomnisz zamknąć strumień, trafisz na limit współbieżności szybciej, niż się spodziewasz.
Ten sam wzorzec w Node:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}Wywoływanie narzędzi i tryb JSON
Parametry SDK, których już używasz do narzędzi, przechodzą bez zmian: tools, tool_choice, strumieniowane tool_calls oraz wyniki zwracane jako wiadomości z role: "tool". Minimalny cykl zapytania wygląda tak:
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Dla danych strukturalnych przekaż response_format={"type": "json_object"} i również napisz "odpowiedz w JSON" w prompcie. Tryb JSON prosi model o wyjście JSON, ale Twój kod powinien nadal je parsować i walidować nazwy pól oraz typy przed użyciem.
Parametry próbkowania takie jak temperature, top_p, stop, seed i kary są przekazywane dalej, więc istniejące strojenie przenosi się.
Obsługa błędów 429 i odczyt nagłówków
SDK zgłasza wyjątek limitu zapytań przy HTTP 429, a treść odpowiedzi informuje, który limit przekroczono. Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę. Klucz próbny pozwala na 2 równoległe zapytania i 60 na minutę.
| Kod błędu | Znaczenie | Co zrobić |
|---|---|---|
rate_limited | Zbyt wiele zapytań na minutę | Rozłóż wywołania lub dodaj limitator po stronie klienta |
concurrency | Zbyt wiele zapytań naraz | Ogranicz pulę workerów do 8 (2 dla klucza próbnego) |
429 z Retry-After: 5 | Tymczasowe przeciążenie | Poczekaj 5 sekund i ponów |
Każda odpowiedź zawiera X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests i X-RateLimit-Limit-Concurrency. Aby je odczytać z Python SDK, użyj wrappera raw-response:
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
Nieudane lub odrzucone zapytania nie są rozliczane, więc ponowne zapytanie po otrzymaniu kodu 429 nie kosztuje Cię podwójnie. Istniejący artykuł na temat typowych błędów w API Qwen omawia więcej błędów konfiguracji, z którymi spotykają się użytkownicy.
Ile kosztuje wywołanie
Cennik to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych, płatne z przedpłaconego kredytu. Weź zapytanie z 2000 tokenami prompt i 500 tokenami completion:
- Wejście: 2000 x $0,15 / 1 000 000 = $0,0003
- Wyjście: 500 x $0,50 / 1 000 000 = $0,00025
- Razem: $0,00055
Kredyt próbny w wysokości $0,50 wystarcza na około 900 zapytań o takim rozmiarze ($0,50 / $0,00055 to około 909). Kredyt próbny aktywujesz jednym kliknięciem na stronie klucza po rejestracji, nie wymaga podania karty i trwa 7 dni; artykuł o warunkach darmowego użytku wyjaśnia, jak to działa. Płatne doładowania zaczynają się od kwoty $20, a strona z cenami zawiera listę pakietów bonusowych i akceptowanych metod płatności.
Okno kontekstu to 100,000 tokenów dla prompt i completion łącznie, a max_tokens jest opcjonalne. Ustawienie go to dobra praktyka, gdy chcesz przewidywalny górny limit kosztów.
Migracja istniejącego projektu
Większość czytelników przychodzi z kodem, który już wywołuje model czatu. Krótka lista kontrolna utrzyma przełączenie bezproblemowym:
- Zmień
base_url(lubbaseURLw Node) nahttps://api.uncensoredqwen.com/v1. Zachowaj sufiks/v1i nie dodawaj/chat/completionssamodzielnie, ponieważ SDK dołącza ścieżkę. - Zamień klucz na ten z Twojego konta. Uwierzytelnianie to standardowy nagłówek
Authorization: Bearer, który SDK buduje za Ciebie. - Zamień nazwę modelu na
uncensored. Zapytania z nieznaną nazwą modelu zakończą się niepowodzeniem, więc wyszukaj w kodzie nazw zakodowanych na sztywno. - Usuń pola zapytania dotyczące funkcji, których usługa nie oferuje, takich jak wejścia obrazowe lub wywołania embeddingów.
- Uruchom wywołanie
GET /v1/modelsjako test dymny. Jeśli wyświetli model, Twój URL i klucz są poprawne.
Frameworki opakowujące klienta OpenAI zazwyczaj udostępniają te same dwa ustawienia pod nazwami takimi jak openai_api_base lub OPENAI_BASE_URL. Jeśli Twoje narzędzie oferuje zmienną środowiskową dla base URL, możesz przełączyć całą aplikację bez dotykania jej kodu źródłowego. Przetestuj najpierw kluczem próbnym, ponieważ jego niższe limity 2 równoległych żądań i 60 na minutę szybko pokażą, czy Twoja aplikacja otwiera więcej połączeń równoległych, niż planowałeś.
Obsługa kontekstu również zasługuje na drugie spojrzenie. Okno tutaj to 100 000 tokenów dzielonych przez prompt i completion. Jeśli Twoje stare ustawienie przycinające historię do innego rozmiaru, możesz to rozluźnić lub zaostrzyć, aby pasowało, ale zwracaj uwagę na koszt ponownego wysyłania długiej historii przy każdej turze.
Praktyczne wskazówki do kodu produkcyjnego
- Trzymaj klucz z repozytorium. Odczytuj go ze zmiennej środowiskowej lub magazynu sekretów, jak w powyższych przykładach.
- Ustaw limit czasu. SDK akceptuje argument
timeoutw kliencie. Długie generacje ze strumieniowaniem potrzebują hojnego limitu czasu odczytu. - Ogranicz swoich workerów. Pulę wątków lub semafor dostosowany do limitu współbieżności zapobiega większości błędów 429 zanim się pojawią.
- Rejestruj identyfikator zapytania. Jeśli skontaktujesz się z pomocą techniczną, wartość z
X-Request-Idzidentyfikuje wywołanie. - Śledź saldo. Odczytuj
X-Balance-USDz odpowiedzi lub wywołajGET /v1/balance, aby zadanie wsadowe zatrzymało się przed wyczerpaniem kredytu.
Model obsługuje tylko tekst. Nie generuje obrazów, dźwięku ani wideo, nie udostępnia embeddingów ani fine-tuningu, więc nie planuj użycia metod SDK do tych celów. Pełne szczegóły parametrów znajdziesz w dokumentacji. Prompty nie są wykorzystywane do trenowania.
