Waarom de OpenAI SDK alles dekt wat je nodig hebt
Wanneer mensen zoeken naar een qwen api sdk, willen ze meestal een clientbibliotheek die authenticatie, herhaalde pogingen, streaming en gestructureerde antwoorden afhandelt. De OpenAI SDK's doen dit allemaal al, en deze service implementeert dezelfde HTTP-interface: POST /v1/chat/completions, POST /v1/responses en GET /v1/models. Elke client waarmee je de base URL kunt overschrijven, kan ermee communiceren.
Een verduidelijking voordat je begint. Dit is niet de officiële API van Alibaba of van een andere modelleverancier, en het is geen router die je verzoek doorstuurt naar een andere locatie. Het is één open-weight model, uitgevoerd door een onafhankelijke provider en afgestemd op antwoorden zonder inhoudelijke weigeringen voor wettelijk volwassen gebruik. De enige model ID die je doorgeeft is uncensored.
Dat maakt migratie eenvoudig. Als je project al een gehost chatmodel aanroept via de OpenAI SDK, verander je drie waarden: de base URL, de API-sleutel en de modelnaam. Niets anders in je code hoeft te veranderen.
Installeer en maak de eerste aanroep
Installeer het officiële pakket voor Python of Node. Er is niets service-specifiek toe te voegen.
pip install openai
# Node: npm install openai
Maak een sleutel aan op de API key-pagina, en exporteer deze vervolgens zodat deze nooit in je broncode terechtkomt.
export API_KEY="paste-your-key-here"
Nu het kleinste bruikbare Python-script. De client leest de sleutel uit de omgeving en stuurt verzoeken naar de service in plaats van naar OpenAI.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
Als je de voorkeur geeft aan ruwe HTTP, ziet hetzelfde verzoek er in curl zo uit:
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'Streaming antwoorden met de SDK
Stel stream=True in en itereer over de chunks. De service stuurt server-sent events en rapporteert tokenverbruik aan het einde van de stream, zodat je kosten kunt loggen zonder een tweede verzoek.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Houd één ding in gedachten: een gestreamd verzoek houdt zijn concurrency slot vast tot de stream eindigt. Als een consument traag is of je vergeet de stream te sluiten, raak je de concurrency limit eerder dan je denkt.
Hetzelfde patroon in Node:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}Tool calling en JSON-modus
De SDK-parameters die je al voor tools gebruikt, worden rechtstreeks doorgegeven: tools, tool_choice, gestreamde tool_calls, en resultaten die als berichten worden teruggestuurd met role: "tool". Een minimale round trip ziet er zo uit:
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Voor gestructureerde output geef je response_format={"type": "json_object"} door en zeg je ook "antwoord in JSON" in de prompt. JSON-modus vraagt het model om JSON-output, maar je code moet deze nog steeds parseren en veldnamen en typen valideren voordat je ze gebruikt.
Sampling-instellingen zoals temperature, top_p, stop, seed en de penalties worden doorgegeven, dus bestaande tuning wordt overgenomen.
Omgaan met 429-fouten en headers lezen
De SDK gooit een rate-limit-uitzondering bij HTTP 429, en de response body vertelt je welke limiet je hebt geraakt. Een volledige sleutel staat 8 gelijktijdige verzoeken en 300 verzoeken per minuut toe. Een trialsleutel staat 2 gelijktijdige verzoeken en 60 per minuut toe.
| Error code | Betekenis | Wat te doen |
|---|---|---|
rate_limited | Te veel verzoeken per minuut | Verspreid aanroepen of voeg een client-side limiter toe |
concurrency | Te veel verzoeken tegelijk | Beperk je worker pool tot 8 (2 op een trialsleutel) |
429 met Retry-After: 5 | Tijdelijke overbelasting | Wacht 5 seconden en probeer opnieuw |
Elk antwoord bevat X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests en X-RateLimit-Limit-Concurrency. Om ze met de Python SDK te lezen, gebruik je de raw-response wrapper:
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
Mislukte of geweigerde verzoeken worden niet in rekening gebracht, dus een retry na een 429 kost je niet twee keer. Het bestaande artikel over veelgemaakte Qwen API-fouten behandelt meer van de setupfouten die mensen tegenkomen.
Wat een aanroep kost
Prijzen zijn $0,15 per 1M input tokens en $0,50 per 1M output tokens, betaald uit prepaid credit. Neem een verzoek met 2.000 prompt tokens en 500 completion tokens:
- Input: 2.000 x $0,15 / 1.000.000 = $0,0003
- Output: 500 x $0,50 / 1.000.000 = $0,00025
- Totaal: $0,00055
Het $0,50 trial credit dekt ongeveer 900 verzoeken van die grootte ($0,50 / $0,00055 is ongeveer 909). De trial is één klik op de key page na de aanmelding, vereist geen kaart en duurt 7 dagen; het free tier artikel legt uit hoe het werkt. Betaalde top-ups beginnen bij $20, en de prijzenpagina vermeldt de bonus tiers en geaccepteerde betaalmethoden.
Context is 100.000 tokens voor prompt plus completion samen, en max_tokens is optioneel. Het instellen ervan is nog steeds een goede gewoonte als je een voorspelbare bovengrens voor kosten wilt.
Een bestaand project migreren
De meeste lezers komen met code die al een chatmodel aanroept. Een korte checklist houdt de switch vlot:
- Verander
base_url(ofbaseURLin Node) naarhttps://api.uncensoredqwen.com/v1. Houd de/v1-suffix aan en voeg/chat/completionsniet zelf toe, omdat de SDK het pad toevoegt. - Vervang de sleutel door die van je account. Authenticatie is een standaard
Authorization: Bearer-header, die de SDK voor je bouwt. - Vervang de modelnaam door
uncensored. Verzoeken met een onbekende modelnaam falen, dus zoek in je codebase naar hard-coded namen. - Verwijder eventuele request velden voor functies die de service niet aanbiedt, zoals image inputs of embeddings calls.
- Voer een aanroep naar
GET /v1/modelsuit als een smoke test. Als het model wordt vermeld, zijn je URL en sleutel correct.
Frameworks die de OpenAI-client omhullen, bieden meestal dezelfde twee instellingen aan onder namen zoals openai_api_base of OPENAI_BASE_URL. Als je tool een omgevingsvariabele voor de base URL aanbiedt, kun je een hele applicatie omschakelen zonder de bron aan te raken. Test eerst met een trialsleutel, omdat de lagere limieten van 2 gelijktijdige verzoeken en 60 per minuut snel laten zien of je app meer parallelle verbindingen opent dan gepland.
Contextafhandeling verdient ook een tweede blik. Het venster hier is 100.000 tokens gedeeld door prompt en completion. Als je oude setup de geschiedenis trimde naar een andere grootte, kun je dat trimmen verlichten of verscherpen om ermee overeen te komen, maar houd de kosten van het opnieuw verzenden van een lange geschiedenis bij elke beurt in de gaten.
Praktische tips voor productiecode
- Houd de sleutel buiten de repo. Lees deze uit een omgevingsvariabele of een secret store, zoals in de bovenstaande voorbeelden.
- Stel een timeout in. De SDK accepteert een
timeout-argument op de client. Lange generaties met streaming hebben een royale read timeout nodig. - Beperk je workers. Een thread pool of semaphore die is afgestemd op je concurrency limit voorkomt de meeste 429-fouten voordat ze gebeuren.
- Log de request-ID. Als je contact opneemt met de support, identificeert de waarde van
X-Request-Idhet verzoek. - Houd het saldo bij. Lees
X-Balance-USDuit antwoorden, of roepGET /v1/balanceaan, zodat een batch job stopt voordat het tegoed op raakt.
Het model is alleen voor tekst. Er is geen afbeelding-, audio- of video-generatie, geen embeddings en geen fine-tuning, dus plan niet op basis van die SDK-methoden. Volledige parameterdetails staan in de documentatie. Prompts worden niet gebruikt voor training.
