為什麼 OpenAI SDK 涵蓋了你所需的功能
當人們搜尋 qwen api sdk 時,通常希望有一個能處理身份驗證、重試、串流輸出和類型化回應的客戶端函式庫。OpenAI SDK 已經具備所有這些功能,且此服務實作了相同的 HTTP 介面:POST /v1/chat/completions、POST /v1/responses 和 GET /v1/models。任何允許你覆蓋 Base URL 的客戶端都可以與之通訊。
開始前請先釐清一點。這不是阿里巴巴或其他任何模型供應商的官方 API,也不是將您的請求轉發至他處的轉發器。這是一個開放權重模型,由獨立供應商運行,並針對合法成人用途進行微調,使其在回答時不會拒絕內容。您傳入的唯一模型 ID 是 uncensored。
這使得遷移變得簡單。如果你的專案已經透過 OpenAI SDK 呼叫託管的聊天模型,你只需更改三個值:Base URL、API 金鑰和模型名稱。程式碼中的其他部分無需變更。
安裝並進行首次呼叫
安裝 Python 或 Node 的官方套件。無需新增任何服務專屬的內容。
pip install openai
# Node: npm install openai
在 API 金鑰頁面建立金鑰,然後匯出它,確保它不會出現在你的原始碼中。
export API_KEY="paste-your-key-here"
現在是最小化的有用 Python 腳本。客戶端從環境讀取金鑰,並將請求發送到此服務,而非 OpenAI。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
如果你偏好原始 HTTP,curl 中的相同請求如下所示:
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'使用 SDK 進行串流輸出回覆
設定 stream=True 並遍歷區塊。服務會發送 SSE,並在串流結束時報告 token 用量,讓您可以記錄成本而無需進行第二次呼叫。
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
請記住一點:串流請求會佔用其並行槽位,直到串流結束。如果消費者處理緩慢或你忘記關閉串流,你會比預期更早達到並行限制。
Node 中的相同模式:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}函式呼叫與 JSON 模式
您用於工具的 SDK 參數會直接傳遞:tools、tool_choice、串流模式下的 tool_calls,以及以 role: "tool" 回傳的結果訊息。一個最小化的往返過程如下所示:
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
對於結構化輸出,傳遞 response_format={"type": "json_object"},並在提示詞中加上「以 JSON 格式回覆」。JSON 模式會要求模型輸出 JSON,但你的程式碼仍應解析它,並在投入使用前驗證欄位名稱和類型。
temperature、top_p、stop、seed 等採樣設定以及懲罰機制都會直接傳遞,因此現有的微調設定會自動套用。
處理 429 錯誤並讀取標頭
當 HTTP 狀態碼為 429 時,SDK 會引發速率限制例外,回應主體會告訴你觸及了哪個限制。完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。
| 錯誤程式碼 | 含義 | 該怎麼辦 |
|---|---|---|
rate_limited | 每分鐘請求過多 | 分散提出請求或新增用戶端限制器 |
concurrency | 同時請求過多 | 將工作池限制在 8(試用金鑰為 2) |
429 且 Retry-After: 5 | 暫時過載 | 等待 5 秒後重試 |
每個回應都帶有 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency。若要使用 Python SDK 讀取這些值,請使用原始回應包裝器:
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
失敗或被拒絕的請求不會收費,因此 429 錯誤後的重試不會讓你支付兩次費用。現有的 常見 Qwen API 錯誤文章涵蓋了人們遇到的更多設定錯誤。
每次呼叫的成本
定價為每 100 萬個輸入 token $0.15,每 100 萬個輸出 token $0.50,從預付額度中扣除。假設一個請求包含 2,000 個提示詞 token 和 500 個完成 token:
- 輸入:2,000 x $0.15 / 1,000,000 = $0.0003
- 輸出:500 x $0.50 / 1,000,000 = $0.00025
- 總計:$0.00055
$0.50 的試用額度涵蓋了約 900 次該大小的請求($0.50 / $0.00055 約為 909)。試用額度只需在登入後的金鑰頁面點擊一次即可獲得,不需要信用卡,有效期為 7 天;免費方案文章 說明了其運作方式。付費儲值最低為 $20,定價頁面 列出了獎勵等級和接受的付款方式。
上下文視窗為 100,000 個 token,包含提示詞和完成 token 的總和,max_tokens 是可選的。當你想要對成本設定可預測的上限時,設定它仍是一個好習慣。
將現有專案遷移
大多數讀者都是帶著已經呼叫聊天模型的程式碼而來。一份簡短的檢查清單可讓切換過程順利無誤:
- 將
base_url(或 Node.js 中的baseURL)更改為https://api.uncensoredqwen.com/v1。保留/v1後綴,不要自行新增/chat/completions,因為 SDK 會自動附加該路徑。 - 將金鑰替換為你帳戶中的金鑰。驗證是標準的
Authorization: Bearer標頭,SDK 會為你自動建構。 - 將模型名稱替換為
uncensored。若模型名稱未知,請求將會失敗,因此請在程式碼庫中搜尋硬編碼的名稱。 - 移除服務未提供功能的請求欄位,例如圖片輸入或嵌入呼叫。
- 執行一次
GET /v1/models呼叫作為冒煙測試。如果它列出了該模型,表示你的 URL 和金鑰設定正確。
封裝 OpenAI 用戶端的框架通常會以 openai_api_base 或 OPENAI_BASE_URL 等名稱暴露相同的兩個設定。如果你的工具提供用於設定 Base URL 的環境變數,你可以在不更動原始碼的情況下切換整個應用程式。先使用試用金鑰進行測試,因為其較低的限制(2 個並行請求和每分鐘 60 個請求)會很快顯示你的應用程式是否開啟了超過預期的並行連線。
上下文處理也值得再次檢視。此處的上下文視窗為 100,000 個 token,由提示詞和完成 token 共用。如果你的舊設定將歷史記錄截斷為不同的大小,你可以放寬或收緊該截斷以進行匹配,但請留意在每個回合重新發送長歷史記錄的成本。
生產環境程式碼的實用建議
- 將金鑰保留在程式庫之外。 從環境變數或密鑰儲存庫讀取它,如上例所示。
- 設定逾時時間。 SDK 允許在客戶端設定
timeout參數。長時間的串流生成需要較大的讀取逾時時間。 - 限制你的工作執行緒。 根據你的並行限制調整大小的執行緒池或訊號量可避免大多數 429 錯誤在發生前就出現。
- 記錄請求 ID。 如果你聯繫支援團隊,
X-Request-Id的值可用來識別該次呼叫。 - 監控餘額。 從回應中讀取
X-Balance-USD,或呼叫GET /v1/balance,以便批次作業在額度耗盡前停止。
該模型僅支援文字。沒有影像、音訊或影片生成、沒有嵌入向量也沒有微調,因此不要針對這些 SDK 方法進行規劃。完整的參數詳情位於 文件中。提示詞不會用於訓練。
