Pourquoi le SDK OpenAI couvre vos besoins
Lorsque les gens recherchent un SDK API qwen, ils veulent généralement une bibliothèque cliente qui gère l'authentification, les nouvelles tentatives, le streaming et les réponses typées. Les SDK OpenAI font déjà tout cela, et ce service implémente la même interface HTTP : POST /v1/chat/completions, POST /v1/responses et GET /v1/models. Tout client qui vous permet de remplacer l'URL de base peut lui envoyer des requêtes.
Une clarification avant de commencer. Ce n'est pas l'API officielle d'Alibaba ou d'un autre fournisseur de modèles, et ce n'est pas un routeur qui transfère vos requêtes ailleurs. Il s'agit d'un modèle à poids ouverts, exécuté par un fournisseur indépendant et ajusté pour répondre sans refus de contenu pour une utilisation légale par des adultes. L'unique ID de modèle que vous passez est uncensored.
Cela rend la migration simple. Si votre projet appelle déjà un modèle de chat hébergé via le SDK OpenAI, vous modifiez trois valeurs : l'URL de base, la clé API et le nom du modèle. Rien d'autre dans votre code ne doit bouger.
Installer et effectuer le premier appel
Installez le package officiel pour Python ou Node. Il n'y a rien de spécifique au service à ajouter.
pip install openai
# Node: npm install openai
Créez une clé sur la page Clé API, puis exportez-la pour qu'elle ne se retrouve jamais dans votre code source.
export API_KEY="paste-your-key-here"
Maintenant, le script Python utile minimal. Le client lit la clé depuis la variable d'environnement et envoie des requêtes au service au lieu d'OpenAI.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
Si vous préférez HTTP brut, la même requête en curl ressemble à ceci :
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'Streaming des réponses avec le SDK
Définissez stream=True et itérez sur les chunks. Le service envoie des événements envoyés par le serveur et rapporte l'utilisation des tokens à la fin du flux, afin que vous puissiez enregistrer le coût sans un second appel.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Gardez à l'esprit une chose : une requête en streaming occupe son slot de concurrence jusqu'à la fin du flux. Si un consommateur est lent ou si vous oubliez de fermer le flux, vous atteindrez la limite de concurrence plus tôt que prévu.
Le même pattern en Node :
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}Appel d'outils et mode JSON
Les paramètres SDK que vous utilisez déjà pour les outils passent directement : tools, tool_choice, tool_calls en streaming, et les résultats renvoyés en tant que messages avec role: "tool". Un aller-retour minimal ressemble à ceci :
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Pour la sortie structurée, passez response_format={"type": "json_object"} et dites aussi "répondez en JSON" dans le prompt. Le mode JSON demande au modèle une sortie JSON, mais votre code doit toujours l'analyser et valider les noms de champs et les types avant de les utiliser.
Les paramètres d'échantillonnage tels que temperature, top_p, stop, seed et les pénalités sont passés, donc le réglage existant est conservé.
Gérer les erreurs 429 et lire les en-têtes
Le SDK lève une exception de limite de débit sur HTTP 429, et le corps de la réponse vous indique quelle limite vous avez atteinte. Une clé complète permet 8 requêtes simultanées et 300 requêtes par minute. Une clé d'essai permet 2 requêtes simultanées et 60 par minute.
| Code d'erreur | Signification | Que faire |
|---|---|---|
rate_limited | Trop de requêtes par minute | Étalez les appels ou ajoutez un limiteur côté client |
concurrency | Trop de requêtes à la fois | Limitez votre pool de workers à 8 (2 sur une clé d'essai) |
429 avec Retry-After: 5 | Surcharge temporaire | Attendez 5 secondes et réessayez |
Chaque réponse transporte X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests et X-RateLimit-Limit-Concurrency. Pour les lire avec le SDK Python, utilisez le wrapper de réponse brute :
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
Les requêtes échouées ou refusées ne sont pas facturées, donc un réessai après un 429 ne vous coûte pas deux fois. L'article existant sur les erreurs courantes de l'API Qwen couvre davantage les erreurs de configuration que les gens rencontrent.
Le coût d'un appel
La tarification est de 0,15 $ par 1M de tokens d'entrée et 0,50 $ par 1M de tokens de sortie, payés depuis le crédit prépayé. Prenez une requête avec 2 000 tokens de prompt et 500 tokens de complétion :
- Entrée : 2 000 x 0,15 $ / 1 000 000 = 0,0003 $
- Sortie : 500 x 0,50 $ / 1 000 000 = 0,00025 $
- Total : 0,00055 $
Le crédit d'essai de 0,50 $ couvre environ 900 requêtes de cette taille (0,50 $ / 0,00055 $ fait environ 909). Le crédit d'essai s'active en un clic sur la page de la clé après la connexion, ne nécessite pas de carte et dure 7 jours ; l'article sur l'offre gratuite explique comment cela fonctionne. Les recharges payantes commencent à 20 $, et la page tarifs liste les paliers de bonus et les méthodes de paiement acceptées.
Le contexte est de 100 000 tokens pour le prompt et la complétion ensemble, et max_tokens est optionnel. Le définir reste une bonne habitude lorsque vous voulez une limite supérieure prévisible sur le coût.
Migrer un projet existant
La plupart des lecteurs arrivent avec du code qui appelle déjà un modèle de chat. Une courte liste de contrôle garde le changement sans incident :
- Modifiez
base_url(oubaseURLen Node) vershttps://api.uncensoredqwen.com/v1. Conservez le suffixe/v1et n'ajoutez pas/chat/completionsvous-même, car le SDK ajoute le chemin. - Remplacez la clé par celle de votre compte. L'authentification est un en-tête standard
Authorization: Bearer, que le SDK construit pour vous. - Remplacez le nom du modèle par
uncensored. Les requêtes avec un nom de modèle inconnu échoueront, donc recherchez dans votre base de code les noms codés en dur. - Supprimez tout champ de requête pour les fonctionnalités que le service n'offre pas, comme les entrées d'image ou les appels d'embeddings.
- Exécutez un appel à
GET /v1/modelscomme test de fumée. S'il liste le modèle, votre URL et votre clé sont corrects.
Les frameworks qui enveloppent le client OpenAI exposent généralement les mêmes deux paramètres sous des noms comme openai_api_base ou OPENAI_BASE_URL. Si votre outil propose une variable d'environnement pour l'URL de base, vous pouvez basculer toute une application sans toucher à son code source. Testez d'abord avec une clé d'essai, car ses limites inférieures de 2 requêtes simultanées et 60 par minute montreront rapidement si votre application ouvre plus de connexions parallèles que prévu.
La gestion du contexte mérite un deuxième regard. La fenêtre ici est de 100 000 tokens partagés par prompt et complétion. Si votre ancien setup coupait l'historique à une taille différente, vous pouvez assouplir ou resserrer ce découpage pour correspondre, mais gardez un œil sur le coût de renvoi d'un long historique à chaque tour.
Conseils pratiques pour le code de production
- Gardez la clé hors du repo. Lisez-la depuis une variable d'environnement ou un magasin de secrets, comme dans les exemples ci-dessus.
- Définissez un timeout. Le SDK accepte un argument
timeoutsur le client. Les longues générations avec streaming ont besoin d'un timeout de lecture généreux. - Limitez vos travailleurs. Un pool de threads ou un sémaphore dimensionné selon votre limite de concurrence évite la plupart des erreurs 429 avant qu'elles ne se produisent.
- Enregistrez l'ID de requête. Si vous contactez le support, la valeur de
X-Request-Ididentifie l'appel. - Surveillez le solde. Lisez
X-Balance-USDdepuis les réponses, ou appelezGET /v1/balance, afin qu'un job par batch s'arrête avant que le crédit ne soit épuisé.
Le modèle est uniquement textuel. Il n'y a pas de génération d'images, d'audio ou de vidéo, pas d'embeddings et pas de fine-tuning, donc ne prévoyez pas d'utiliser ces méthodes SDK. Les détails complets des paramètres figurent dans la documentation. Les prompts ne sont pas utilisés pour l'entraînement.
