OpenAI SDKがカバーする必要な機能
qwen api sdkを検索する際、ユーザーは通常、認証、再試行、ストリーミング、型付きレスポンスを処理するクライアントライブラリを求めています。OpenAI SDKはすでにそれらのすべてを実装しており、このサービスは同じHTTPインターフェースを実装しています:POST /v1/chat/completions、POST /v1/responses、GET /v1/models。Base URLをオーバーライドできるクライアントであれば、すべて接続可能です。
開始前に1点確認してください。これはAlibabaまたはその他のモデルベンダーの公式APIではなく、リクエストを外部に転送するルーターでもありません。これは独立したプロバイダーが運用し、法的な成人向け利用においてコンテンツ拒否なしで応答するように調整されたオープンウェイトモデルです。渡すモデルIDはuncensoredのみです。
これにより移行は簡単になります。プロジェクトがすでにOpenAI SDKを通じてホストされたチャットモデルを呼び出している場合、Base URL、APIキー、モデル名の3つの値を変更するだけです。コードの他の部分は移動する必要はありません。
インストールと最初の呼び出し
PythonまたはNodeの公式パッケージをインストールします。サービス固有の追加設定は不要です。
pip install openai
# Node: npm install openai
API キーページでキーを作成し、ソースコードに決して含まれないようにエクスポートしてください。
export API_KEY="paste-your-key-here"
次に、最小限の有用なPythonスクリプトを示します。クライアントは環境からキーを読み取り、OpenAIではなくサービスにリクエストを送信します。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
生のHTTPを好む場合は、curlでの同じリクエストは以下のようになります。
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'SDKでのストリーミングレスポンス
stream=Trueを設定し、チャンクを順次処理します。サービスはサーバー送信イベントを送信し、ストリームの最後にトークン使用量を報告するため、2回目の呼び出しなしでコストをログに記録できます。
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
1点留意してください:ストリーミングリクエストはストリームが終了するまで同時実行数のスロットを保持します。コンシューマーが遅い場合、またはストリームを閉じるのを忘れた場合、予想よりも早く同時実行数制限に達します。
Nodeでの同じパターン:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}ツール呼び出しとJSONモード
ツール用にすでに使用しているSDKパラメータはそのまま渡されます:tools、tool_choice、ストリーミングされるtool_calls、およびrole: "tool"でメッセージとして返される結果です。最小限の呼び出し例は次のようになります。
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
構造化出力には、response_format={"type": "json_object"}を渡し、プロンプトに「JSONで返信してください」と記載します。JSONモードはモデルにJSON出力を要求しますが、コードはそれを使用する前にフィールド名と型を検証する必要があります。
temperature、top_p、stop、seedなどのサンプリング設定とペナルティはそのまま渡されるため、既存のチューニングが引き継がれます。
429エラーの処理とヘッダーの読み取り
SDKはHTTP 429でレート制限の例外を発生させ、レスポンスボディにどの制限に達したかを示します。フルキーは8つの同時リクエストと1分あたり300件のリクエストを許可します。トライアルキーは2つの同時リクエストと1分あたり60件のリクエストを許可します。
| エラーコード | 意味 | 取るべき行動 |
|---|---|---|
rate_limited | 1分あたりのリクエスト数が多すぎる | 呼び出しを分散するか、クライアント側のリミッターを追加 |
concurrency | 一度にリクエストが多すぎる | ワーカープールを8(トライアルキーの場合は2)に制限 |
429 と Retry-After: 5 | 一時的な過負荷 | 5秒待機して再試行 |
すべてのレスポンスにはX-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrencyが含まれます。Python SDKでこれらを読み取るには、raw-responseラッパーを使用します。
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
失敗または拒否されたリクエストは課金されないため、429後の再試行で二重にコストはかかりません。よくあるQwen APIの間違いの記事には、人がよく陥るセットアップエラーのより多くの情報が記載されています。
呼び出しのコスト
価格は入力トークン100万トークンあたり$0.15、出力トークン100万トークンあたり$0.50で、前払いクレジットから支払われます。2,000プロンプトトークンと500コンプリーショントークンのリクエストを例に取ります。
- 入力:2,000 x $0.15 / 1,000,000 = $0.0003
- 出力:500 x $0.50 / 1,000,000 = $0.00025
- 合計:$0.00055
$0.50のトライアルクレジットは、そのサイズの約900件のリクエストをカバーします($0.50 / $0.00055は約909件)。トライアルはサインアップ後にキーページでワンクリックで利用でき、カードは不要で7日間有効です。無料プランの記事で仕組みを説明しています。有料のチャージは$20から開始され、価格ページにボーナスティアと対応する支払い方法が記載されています。
コンテキストはプロンプトとコンプリーションを合わせて100,000トークンで、max_tokensはオプションです。コストの上限を予測可能にしたい場合は設定を習慣にすることをお勧めします。
既存プロジェクトの移行
多くの読者はすでにチャットモデルを呼び出すコードを持って到着します。短いチェックリストで切り替えをスムーズに行いましょう。
base_url(またはNodeのbaseURL)をhttps://api.uncensoredqwen.com/v1に変更します。/v1接尾辞を維持し、SDKがパスを付加するため、/chat/completionsを自分で追加しないでください。- キーをアカウントのものに置き換えます。認証は標準の
Authorization: Bearerヘッダーであり、SDKが構築します。 - モデル名を
uncensoredに置き換えます。不明なモデル名でのリクエストは失敗するため、コードベース内のハードコードされた名前で検索してください。 - サービスが提供していない機能(画像入力や埋め込み呼び出しなど)のリクエストフィールドを削除します。
- スモークテストとして
GET /v1/modelsを呼び出します。モデルがリストされていれば、URLとキーが正しいことを意味します。
OpenAIクライアントをラップするフレームワークは通常、openai_api_baseやOPENAI_BASE_URLのような名前で同じ2つの設定を公開しています。ベースURL用の環境変数をツールが提供している場合、ソースコードに触れることなくアプリケーション全体を切り替えることができます。2つの同時リクエストと1分あたり60件の制限があるトライアルキーでまずテストしてください。これにより、アプリが計画した以上の並列接続を開いているかどうかをすぐに確認できます。
コンテキスト処理にもう一度注目してください。ここでのウィンドウはプロンプトとコンプリーションで共有される100,000トークンです。古いセットアップが履歴を異なるサイズにトリミングしていた場合、そのトリミングを緩和または強化して一致させられますが、すべてのターンで長い履歴を再送信するコストに注意してください。
本番環境コードの実用的なヒント
- キーをリポジトリから外に保つ。 上記の例のように、環境変数またはシークレットストアから読み取ります。
- タイムアウトを設定する。 SDKはクライアントに
timeout引数を受け入れます。ストリーミングによる長時間の生成には、寛大な読み取りタイムアウトが必要です。 - ワーカーを制限する。 同時実行数制限に合わせてサイズ設定されたスレッドプールまたはセマフォは、429エラーのほとんどを回避します。
- リクエストIDをログに記録する。 サポートに連絡する際、
X-Request-Idの値が呼び出しを識別します。 - 残高を監視する。 レスポンスから
X-Balance-USDを読み取るか、GET /v1/balanceを呼び出し、クレジットが尽きる前にバッチジョブを停止できるようにします。
モデルはテキストのみです。画像、音声、ビデオの生成、埋め込み、ファインチューニングはないため、それらのSDKメソッドを考慮に入れないでください。完全なパラメータの詳細はドキュメントにあります。プロンプトはトレーニングには使用されません。
