繁中 ▾
取得 API 金鑰

uncensoredqwen.com指南

Qwen API SDK:改用 OpenAI Python SDK

此 API 不需要專屬的 qwen api sdk。它採用 OpenAI 的線路格式,因此只要更改 Base URL 和金鑰,即可使用官方的 OpenAI SDK。本頁將展示安裝、首次呼叫、串流輸出、工具呼叫和錯誤處理。

更新於

等距適配器連接標準 SDK 插座與小型伺服器,展示 OpenAI SDK 的重複使用

為什麼 OpenAI SDK 涵蓋了你所需的功能

當人們搜尋 qwen api sdk 時,通常希望有一個能處理身份驗證、重試、串流輸出和類型化回應的客戶端函式庫。OpenAI SDK 已經具備所有這些功能,且此服務實作了相同的 HTTP 介面:POST /v1/chat/completions、POST /v1/responses 和 GET /v1/models。任何允許你覆蓋 Base URL 的客戶端都可以與之通訊。

開始前請先釐清一點。這不是阿里巴巴或其他任何模型供應商的官方 API,也不是將您的請求轉發至他處的轉發器。這是一個開放權重模型,由獨立供應商運行,並針對合法成人用途進行微調,使其在回答時不會拒絕內容。您傳入的唯一模型 ID 是 uncensored。

這使得遷移變得簡單。如果你的專案已經透過 OpenAI SDK 呼叫託管的聊天模型,你只需更改三個值:Base URL、API 金鑰和模型名稱。程式碼中的其他部分無需變更。

安裝並進行首次呼叫

安裝 Python 或 Node 的官方套件。無需新增任何服務專屬的內容。

pip install openai
# Node: npm install openai

在 API 金鑰頁面建立金鑰,然後匯出它,確保它不會出現在你的原始碼中。

export API_KEY="paste-your-key-here"

現在是最小化的有用 Python 腳本。客戶端從環境讀取金鑰,並將請求發送到此服務,而非 OpenAI。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredqwen.com/v1",
    api_key=os.environ["API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise technical assistant."},
        {"role": "user", "content": "Explain what a context window is in two sentences."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)

如果你偏好原始 HTTP,curl 中的相同請求如下所示:

curl https://api.uncensoredqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

使用 SDK 進行串流輸出回覆

設定 stream=True 並遍歷區塊。服務會發送 SSE,並在串流結束時報告 token 用量,讓您可以記錄成本而無需進行第二次呼叫。

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

請記住一點:串流請求會佔用其並行槽位,直到串流結束。如果消費者處理緩慢或你忘記關閉串流,你會比預期更早達到並行限制。

Node 中的相同模式:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredqwen.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three uses of JSON mode." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

函式呼叫與 JSON 模式

您用於工具的 SDK 參數會直接傳遞:tools、tool_choice、串流模式下的 tool_calls,以及以 role: "tool" 回傳的結果訊息。一個最小化的往返過程如下所示:

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

messages.append(first.choices[0].message)
messages.append({
    "role": "tool",
    "tool_call_id": call.id,
    "content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)

對於結構化輸出,傳遞 response_format={"type": "json_object"},並在提示詞中加上「以 JSON 格式回覆」。JSON 模式會要求模型輸出 JSON,但你的程式碼仍應解析它,並在投入使用前驗證欄位名稱和類型。

temperature、top_p、stop、seed 等採樣設定以及懲罰機制都會直接傳遞,因此現有的微調設定會自動套用。

處理 429 錯誤並讀取標頭

當 HTTP 狀態碼為 429 時,SDK 會引發速率限制例外,回應主體會告訴你觸及了哪個限制。完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。

錯誤程式碼含義該怎麼辦
rate_limited每分鐘請求過多分散提出請求或新增用戶端限制器
concurrency同時請求過多將工作池限制在 8(試用金鑰為 2)
429 且 Retry-After: 5暫時過載等待 5 秒後重試

每個回應都帶有 X-Request-Id、X-Balance-USD、X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency。若要使用 Python SDK 讀取這些值,請使用原始回應包裝器:

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "ping"}],
    max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()

失敗或被拒絕的請求不會收費,因此 429 錯誤後的重試不會讓你支付兩次費用。現有的 常見 Qwen API 錯誤文章涵蓋了人們遇到的更多設定錯誤。

每次呼叫的成本

定價為每 100 萬個輸入 token $0.15,每 100 萬個輸出 token $0.50,從預付額度中扣除。假設一個請求包含 2,000 個提示詞 token 和 500 個完成 token:

  • 輸入:2,000 x $0.15 / 1,000,000 = $0.0003
  • 輸出:500 x $0.50 / 1,000,000 = $0.00025
  • 總計:$0.00055

$0.50 的試用額度涵蓋了約 900 次該大小的請求($0.50 / $0.00055 約為 909)。試用額度只需在登入後的金鑰頁面點擊一次即可獲得,不需要信用卡,有效期為 7 天;免費方案文章 說明了其運作方式。付費儲值最低為 $20,定價頁面 列出了獎勵等級和接受的付款方式。

上下文視窗為 100,000 個 token,包含提示詞和完成 token 的總和,max_tokens 是可選的。當你想要對成本設定可預測的上限時,設定它仍是一個好習慣。

將現有專案遷移

大多數讀者都是帶著已經呼叫聊天模型的程式碼而來。一份簡短的檢查清單可讓切換過程順利無誤:

  1. 將 base_url(或 Node.js 中的 baseURL)更改為 https://api.uncensoredqwen.com/v1。保留 /v1 後綴,不要自行新增 /chat/completions,因為 SDK 會自動附加該路徑。
  2. 將金鑰替換為你帳戶中的金鑰。驗證是標準的 Authorization: Bearer 標頭,SDK 會為你自動建構。
  3. 將模型名稱替換為 uncensored。若模型名稱未知,請求將會失敗,因此請在程式碼庫中搜尋硬編碼的名稱。
  4. 移除服務未提供功能的請求欄位,例如圖片輸入或嵌入呼叫。
  5. 執行一次 GET /v1/models 呼叫作為冒煙測試。如果它列出了該模型,表示你的 URL 和金鑰設定正確。

封裝 OpenAI 用戶端的框架通常會以 openai_api_base 或 OPENAI_BASE_URL 等名稱暴露相同的兩個設定。如果你的工具提供用於設定 Base URL 的環境變數,你可以在不更動原始碼的情況下切換整個應用程式。先使用試用金鑰進行測試,因為其較低的限制(2 個並行請求和每分鐘 60 個請求)會很快顯示你的應用程式是否開啟了超過預期的並行連線。

上下文處理也值得再次檢視。此處的上下文視窗為 100,000 個 token,由提示詞和完成 token 共用。如果你的舊設定將歷史記錄截斷為不同的大小,你可以放寬或收緊該截斷以進行匹配,但請留意在每個回合重新發送長歷史記錄的成本。

生產環境程式碼的實用建議

  • 將金鑰保留在程式庫之外。 從環境變數或密鑰儲存庫讀取它,如上例所示。
  • 設定逾時時間。 SDK 允許在客戶端設定 timeout 參數。長時間的串流生成需要較大的讀取逾時時間。
  • 限制你的工作執行緒。 根據你的並行限制調整大小的執行緒池或訊號量可避免大多數 429 錯誤在發生前就出現。
  • 記錄請求 ID。 如果你聯繫支援團隊,X-Request-Id 的值可用來識別該次呼叫。
  • 監控餘額。 從回應中讀取 X-Balance-USD,或呼叫 GET /v1/balance,以便批次作業在額度耗盡前停止。

該模型僅支援文字。沒有影像、音訊或影片生成、沒有嵌入向量也沒有微調,因此不要針對這些 SDK 方法進行規劃。完整的參數詳情位於 文件中。提示詞不會用於訓練。

問答

此服務有官方的 Qwen API SDK 嗎?

不需要單獨的 SDK。使用官方的 OpenAI Python 或 Node 套件,並將 base_url 設定為 https://api.uncensoredqwen.com/v1,模型設為 uncensored。

哪些 SDK 語言可用?

任何與 OpenAI 相容的用戶端均可使用,包括官方的 Python 和 Node 套件、純 curl,以及允許你覆蓋 Base URL 的社群程式庫。

我如何從程式碼檢查餘額?

在任何回應上讀取 X-Balance-USD 標頭,或呼叫 GET /v1/balance。OpenAI 風格的 credit_grants 端點也可用。

SDK 支援串流輸出和工具嗎?

是的。設定 stream 為 true 以獲取伺服器發送的事件,並在結尾包含用量資訊,並像使用 OpenAI 一樣使用 tools 和 tool_choice。

只差一張表單,即可取得金鑰

建立帳戶、複製金鑰、更改基礎 URL。這就是完整的設定過程。

取得 API 金鑰