VI ▾
Lấy khóa API

uncensoredqwen.comHướng dẫn

SDK API Qwen: Thay bằng SDK Python OpenAI

Không cần SDK API qwen riêng biệt cho API này. API này sử dụng định dạng dây OpenAI, nên các SDK chính thức của OpenAI hoạt động sau khi bạn thay đổi base URL và key. Trang này hướng dẫn cài đặt, lệnh gọi đầu tiên, streaming, tools và xử lý lỗi.

Cập nhật

Bộ chuyển đổi đẳng hướng kết nối socket SDK tiêu chuẩn với máy chủ nhỏ, cho thấy việc tái sử dụng SDK OpenAI

Tại sao SDK OpenAI đáp ứng nhu cầu của bạn

Khi tìm kiếm qwen api sdk, bạn thường muốn một thư viện client xử lý xác thực, thử lại, streaming và phản hồi có kiểu. SDK OpenAI đã làm tất cả những việc đó, và dịch vụ này triển khai cùng giao diện HTTP: POST /v1/chat/completions, POST /v1/responses và GET /v1/models. Bất kỳ client nào cho phép bạn ghi đè base URL đều có thể giao tiếp với nó.

Một lời giải thích trước khi bạn bắt đầu. Đây không phải là API chính thức của Alibaba hay bất kỳ nhà cung cấp mô hình nào khác, và nó không phải là bộ định tuyến chuyển hướng yêu cầu của bạn đến nơi khác. Đây là một mô hình open-weight, do một nhà cung cấp độc lập chạy và được tinh chỉnh để trả lời mà không từ chối nội dung cho người dùng trưởng thành hợp pháp. Model ID duy nhất bạn truyền là uncensored.

Điều này giúp việc di chuyển trở nên đơn giản. Nếu dự án của bạn đã gọi một mô hình chat được lưu trữ thông qua SDK OpenAI, bạn thay đổi ba giá trị: base URL, khóa API và tên mô hình. Không có gì khác trong mã của bạn cần phải thay đổi.

Cài đặt và thực hiện cuộc gọi đầu tiên

Cài đặt gói chính thức cho Python hoặc Node. Không có gì đặc biệt của dịch vụ cần thêm.

pip install openai
# Node: npm install openai

Tạo một key trên trang khóa API, sau đó xuất nó để nó không bao giờ xuất hiện trong mã nguồn của bạn.

export API_KEY="paste-your-key-here"

Bây giờ là script Python hữu ích nhỏ nhất. Client đọc khóa từ môi trường và gửi yêu cầu đến dịch vụ thay vì đến OpenAI.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredqwen.com/v1",
    api_key=os.environ["API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise technical assistant."},
        {"role": "user", "content": "Explain what a context window is in two sentences."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)

Nếu bạn thích HTTP thô, cùng một yêu cầu trong curl sẽ như sau:

curl https://api.uncensoredqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

Truyền phát phản hồi với SDK

Đặt stream=True và lặp qua các chunk. Dịch vụ gửi sự kiện gửi từ máy chủ và báo cáo việc sử dụng token vào cuối luồng, vì vậy bạn có thể ghi lại chi phí mà không cần gọi thứ hai.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

Hãy nhớ một điều: một yêu cầu streaming giữ slot độ đồng thời của nó cho đến khi luồng kết thúc. Nếu người tiêu dùng chậm hoặc bạn quên đóng luồng, bạn sẽ đạt giới hạn độ đồng thời nhanh hơn bạn mong đợi.

Cùng mẫu đó trong Node:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredqwen.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three uses of JSON mode." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Gọi công cụ và chế độ JSON

Các tham số SDK bạn đã dùng cho tools được chuyển tiếp trực tiếp: tools, tool_choice, tool_calls dạng streaming, và kết quả được gửi lại dưới dạng messages với role: "tool". Một vòng lặp tối thiểu trông như thế này:

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

messages.append(first.choices[0].message)
messages.append({
    "role": "tool",
    "tool_call_id": call.id,
    "content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)

Để đầu ra có cấu trúc, hãy truyền response_format={"type": "json_object"} và cũng nói "trả lời bằng JSON" trong prompt. Chế độ JSON yêu cầu mô hình xuất JSON, nhưng mã của bạn vẫn nên phân tích cú pháp và xác thực tên trường và kiểu trước khi sử dụng chúng.

Các cài đặt lấy mẫu như temperature, top_p, stop, seed và các hình phạt được chuyển tiếp, vì vậy việc tinh chỉnh hiện có được kế thừa.

Xử lý lỗi 429 và đọc các header

SDK ném ngoại lệ giới hạn tốc độ trên HTTP 429, và thân phản hồi cho bạn biết giới hạn nào bạn đã chạm tới. Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 mỗi phút.

Mã lỗiÝ nghĩaNhững việc cần làm
rate_limitedQuá nhiều yêu cầu mỗi phútPhân bổ các lệnh gọi hoặc thêm bộ giới hạn phía máy khách
concurrencyQuá nhiều yêu cầu cùng một lúcGiới hạn nhóm worker của bạn ở mức 8 (2 trên khóa dùng thử)
429 với Retry-After: 5Quá tải tạm thờiChờ 5 giây và thử lại

Mỗi phản hồi đều mang X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests và X-RateLimit-Limit-Concurrency. Để đọc chúng với SDK Python, hãy dùng wrapper raw-response:

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "ping"}],
    max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()

Các yêu cầu bị lỗi hoặc bị từ chối không bị tính phí, vì vậy việc thử lại sau lỗi 429 không làm bạn tốn gấp đôi. Bài viết hiện có về những lỗi API Qwen phổ biến bao gồm nhiều lỗi thiết lập hơn mà mọi người thường gặp.

Chi phí một cuộc gọi

Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra, trả từ tín dụng trả trước. Hãy lấy một yêu cầu với 2.000 token prompt và 500 token hoàn thành:

  • Đầu vào: 2.000 x $0,15 / 1.000.000 = $0,0003
  • Đầu ra: 500 x $0,50 / 1.000.000 = $0,00025
  • Tổng cộng: $0,00055

Tín dụng dùng thử $0,50 bao gồm khoảng 900 yêu cầu có kích thước đó ($0,50 / $0,00055 là khoảng 909). Dùng thử chỉ cần một cú nhấp chuột trên trang key sau khi đăng ký, không cần thẻ và kéo dài 7 ngày; bài về gói miễn phí giải thích cách hoạt động. Nạp tiền trả trước bắt đầu từ $20, và trang giá cả liệt kê các cấp phần thưởng và phương thức thanh toán được chấp nhận.

Ngữ cảnh là 100.000 token cho prompt và completion cộng lại, và max_tokens là tùy chọn. Đặt nó vẫn là một thói quen tốt khi bạn muốn một giới hạn trên có thể dự đoán được cho chi phí.

Di chuyển dự án hiện có sang

Hầu hết người đọc đến với mã đã gọi một mô hình chat. Một danh sách kiểm tra ngắn giúp việc chuyển đổi diễn ra suôn sẻ:

  1. Thay đổi base_url (hoặc baseURL trong Node) thành https://api.uncensoredqwen.com/v1. Giữ hậu tố /v1 và không thêm /chat/completions tự động, vì SDK sẽ nối đường dẫn.
  2. Thay thế key bằng key từ tài khoản của bạn. Xác thực là header Authorization: Bearer tiêu chuẩn, mà SDK xây dựng cho bạn.
  3. Thay thế tên mô hình bằng uncensored. Các yêu cầu với tên mô hình không xác định sẽ thất bại, vì vậy hãy tìm kiếm mã nguồn của bạn cho các tên được mã hóa cứng.
  4. Xóa bất kỳ trường yêu cầu nào cho các tính năng mà dịch vụ không cung cấp, chẳng hạn như đầu vào hình ảnh hoặc lệnh gọi embedding.
  5. Chạy lệnh gọi đến GET /v1/models như một bài kiểm tra khói. Nếu nó liệt kê mô hình, URL và key của bạn là chính xác.

Các framework bao bọc client OpenAI thường hiển thị cùng hai cài đặt dưới các tên như openai_api_base hoặc OPENAI_BASE_URL. Nếu công cụ của bạn cung cấp biến môi trường cho base URL, bạn có thể chuyển đổi toàn bộ ứng dụng mà không cần chạm vào mã nguồn. Hãy kiểm tra với khóa dùng thử trước, vì các giới hạn thấp hơn của nó là 2 yêu cầu đồng thời và 60 mỗi phút sẽ nhanh chóng cho thấy liệu ứng dụng của bạn có mở nhiều kết nối song song hơn bạn dự kiến hay không.

Xử lý ngữ cảnh cũng cần được xem xét kỹ lưỡng. Cửa sổ ngữ cảnh ở đây là 100.000 token dùng chung cho prompt và completion. Nếu thiết lập cũ của bạn đã cắt ngắn lịch sử sang một kích thước khác, bạn có thể nới lỏng hoặc siết chặt việc cắt ngắn đó để phù hợp, nhưng hãy theo dõi chi phí gửi lại lịch sử dài trên mỗi lượt.

Mẹo thực tế cho mã production

  • Giữ key khỏi kho lưu trữ. Đọc nó từ biến môi trường hoặc kho bí mật, như trong các ví dụ trên.
  • Đặt thời gian chờ. SDK chấp nhận đối số timeout trên client. Các quá trình tạo dài với truyền phát cần thời gian chờ đọc đủ lớn.
  • Giới hạn worker của bạn. Một nhóm luồng hoặc semaphore có kích thước giới hạn độ đồng thời của bạn sẽ tránh hầu hết các lỗi 429 trước khi chúng xảy ra.
  • Ghi lại id yêu cầu. Nếu bạn liên hệ hỗ trợ, giá trị từ X-Request-Id nhận diện cuộc gọi.
  • Theo dõi số dư. Đọc X-Balance-USD từ phản hồi, hoặc gọi GET /v1/balance, để một công việc hàng loạt dừng lại trước khi hết tín dụng.

Mô hình chỉ có văn bản. Không có tạo hình ảnh, âm thanh hoặc video, không có embedding và không có tinh chỉnh, vì vậy đừng lập kế hoạch xung quanh các phương pháp SDK đó. Chi tiết tham số đầy đủ có trong tài liệu. Prompt không được sử dụng để huấn luyện.

Hỏi đáp

Có SDK API Qwen chính thức cho dịch vụ này không?

Không cần SDK riêng. Hãy dùng gói Python hoặc Node chính thức của OpenAI và đặt base_url thành https://api.uncensoredqwen.com/v1 với mô hình uncensored.

Ngôn ngữ SDK nào hoạt động?

Bất kỳ client tương thích OpenAI nào đều hoạt động, bao gồm gói Python và Node chính thức, curl cơ bản và các thư viện cộng đồng cho phép bạn ghi đè base URL.

Làm thế nào để kiểm tra số dư của tôi từ mã?

Đọc tiêu đề X-Balance-USD trên bất kỳ phản hồi nào, hoặc gọi GET /v1/balance. Endpoint credit_grants theo kiểu OpenAI cũng có sẵn.

SDK có hỗ trợ truyền phát (streaming) và công cụ không?

Có. Đặt stream thành true để nhận sự kiện gửi bởi máy chủ (SSE) với thông tin sử dụng ở cuối, và sử dụng tools cùng tool_choice như bạn vẫn làm với OpenAI.

Khóa của bạn chỉ cách một bước điền biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API