Mengapa SDK OpenAI mencakup kebutuhan Anda
Ketika orang mencari qwen api sdk, mereka biasanya menginginkan pustaka klien yang menangani autentikasi, retry, streaming, dan respons bertipe. SDK OpenAI sudah melakukan semua itu, dan layanan ini mengimplementasikan antarmuka HTTP yang sama: POST /v1/chat/completions, POST /v1/responses dan GET /v1/models. Klien apa pun yang memungkinkan Anda mengubah base URL dapat berkomunikasi dengannya.
Satu klarifikasi sebelum Anda memulai. Ini bukan API resmi dari Alibaba atau vendor model lain, dan ini bukan router yang meneruskan permintaan Anda ke tempat lain. Ini adalah satu model bobot terbuka, dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Satu-satunya model ID yang Anda berikan adalah uncensored.
Hal ini membuat migrasi menjadi sederhana. Jika proyek Anda sudah memanggil model chat yang di-host melalui SDK OpenAI, Anda hanya perlu mengubah tiga nilai: base URL, kunci API, dan nama model. Tidak ada kode lain yang perlu diubah.
Instal dan buat panggilan pertama
Instal paket resmi untuk Python atau Node. Tidak ada yang perlu ditambahkan khusus untuk layanan ini.
pip install openai
# Node: npm install openai
Buat kunci di halaman kunci API, lalu ekspor agar tidak masuk ke kode sumber Anda.
export API_KEY="paste-your-key-here"
Sekarang skrip Python terkecil yang berguna. Klien membaca kunci dari lingkungan dan mengirim permintaan ke layanan ini, bukan ke OpenAI.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
Jika Anda lebih suka HTTP mentah, permintaan yang sama dalam curl terlihat seperti ini:
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'Balasan streaming dengan SDK
Atur stream=True dan iterasi melalui potongan data. Layanan mengirim server-sent events dan melaporkan penggunaan token di akhir aliran, sehingga Anda dapat mencatat biaya tanpa panggilan kedua.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Ingat satu hal: permintaan streaming memegang slot konkurensinya hingga aliran berakhir. Jika konsumen lambat atau Anda lupa menutup aliran, Anda akan mencapai batas konkurensi lebih cepat dari yang Anda harapkan.
Pola yang sama di Node:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}Pemanggilan alat dan mode JSON
Parameter SDK yang sudah Anda gunakan untuk alat diteruskan langsung: tools, tool_choice, aliran tool_calls, dan hasil dikirim kembali sebagai pesan dengan role: "tool". Perjalanan bolak-balik minimal terlihat seperti ini:
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Untuk output terstruktur, lewati response_format={"type": "json_object"} dan juga katakan "balas dalam JSON" di prompt. Mode JSON meminta model untuk output JSON, tetapi kode Anda tetap harus mem-parsingnya dan memvalidasi nama serta tipe field sebelum menggunakannya.
Pengaturan sampling seperti temperature, top_p, stop, seed dan penalti diteruskan, sehingga penyetelan yang ada tetap berlaku.
Tangani error 429 dan baca header
SDK melempar pengecualian batas laju pada HTTP 429, dan body respons memberi tahu Anda batas mana yang Anda capai. Kunci penuh memungkinkan 8 permintaan konkurensi dan 300 permintaan per menit. Kunci uji coba memungkinkan 2 permintaan konkurensi dan 60 per menit.
| Kode kesalahan | Arti | Apa yang harus dilakukan |
|---|---|---|
rate_limited | Terlalu banyak permintaan per menit | Sebarkan panggilan atau tambahkan limiter sisi klien |
concurrency | Terlalu banyak permintaan sekaligus | Batasi pool worker Anda di 8 (2 pada kunci uji coba) |
429 dengan Retry-After: 5 | Beban berlebih sementara | Tunggu 5 detik dan coba lagi |
Setiap respons membawa X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests dan X-RateLimit-Limit-Concurrency. Untuk membacanya dengan SDK Python, gunakan pembungkus respons mentah:
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
Permintaan yang gagal atau ditolak tidak dikenakan biaya, sehingga coba lagi setelah 429 tidak membuat Anda membayar dua kali. Artikel yang ada tentang kesalahan umum API Qwen mencakup lebih banyak kesalahan pengaturan yang sering dihadapi orang.
Biaya panggilan
Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output, dibayar dari saldo prabayar. Ambil permintaan dengan 2.000 token prompt dan 500 token completion:
- Input: 2.000 x $0,15 / 1.000.000 = $0,0003
- Output: 500 x $0,50 / 1.000.000 = $0,00025
- Total: $0,00055
Kredit uji coba $0,50 mencakup sekitar 900 permintaan sebesar itu ($0,50 / $0,00055 adalah sekitar 909). Uji coba adalah satu klik di halaman kunci setelah pendaftaran, tidak memerlukan kartu dan berlangsung selama 7 hari; artikel tier gratis menjelaskan cara kerjanya. Top-up berbayar dimulai dari $20, dan halaman harga mencantumkan tier bonus dan metode pembayaran yang diterima.
Konteks adalah 100.000 token untuk prompt dan completion bersama-sama, dan max_tokens bersifat opsional. Mengaturnya adalah kebiasaan yang baik ketika Anda ingin batas atas biaya yang dapat diprediksi.
Memindahkan proyek yang ada
Sebagian besar pembaca datang dengan kode yang sudah memanggil model chat. Daftar periksa singkat menjaga agar pengalihan berjalan lancar:
- Ubah
base_url(ataubaseURLdi Node) menjadihttps://api.uncensoredqwen.com/v1. Pertahankan akhiran/v1dan jangan tambahkan/chat/completionssendiri, karena SDK menambahkan jalur tersebut. - Ganti kunci dengan yang dari akun Anda. Autentikasi adalah header
Authorization: Bearerstandar, yang dibangun oleh SDK untuk Anda. - Ganti nama model dengan
uncensored. Permintaan dengan nama model yang tidak diketahui akan gagal, jadi cari nama yang dikodekan secara keras di basis kode Anda. - Hapus bidang permintaan untuk fitur yang tidak ditawarkan layanan ini, seperti input gambar atau panggilan embedding.
- Jalankan panggilan ke
GET /v1/modelssebagai uji asap. Jika itu mencantumkan model, URL dan kunci Anda benar.
Framework yang membungkus klien OpenAI biasanya mengekspos dua pengaturan yang sama di bawah nama seperti openai_api_base atau OPENAI_BASE_URL. Jika alat Anda menawarkan variabel lingkungan untuk URL dasar, Anda dapat menggeser seluruh aplikasi tanpa menyentuh sumbernya. Uji dengan kunci uji coba terlebih dahulu, karena batas 2 permintaan konkuren dan 60 per menit akan dengan cepat menunjukkan apakah aplikasi Anda membuka lebih banyak koneksi paralel daripada yang Anda rencanakan.
Penanganan konteks juga perlu ditinjau ulang. Jendela di sini adalah 100.000 token yang dibagikan oleh prompt dan completion. Jika pengaturan lama Anda memangkas riwayat ke ukuran yang berbeda, Anda dapat mengendurkan atau mengencangkan pemangkasan itu agar sesuai, tetapi perhatikan biaya mengirim ulang riwayat panjang di setiap giliran.
Tips praktis untuk kode produksi
- Jauhkan kunci dari repositori. Bacalah dari variabel lingkungan atau tempat penyimpanan rahasia, seperti pada contoh di atas.
- Atur timeout. SDK menerima argumen
timeoutpada klien. Generasi panjang dengan streaming memerlukan timeout baca yang longgar. - Batasi worker Anda. Pool thread atau semaphore yang ukurannya sesuai dengan batas konkurensi Anda menghindari sebagian besar error 429 sebelum terjadi.
- Log ID permintaan. Jika Anda menghubungi dukungan, nilai dari
X-Request-Idmengidentifikasi panggilan tersebut. - Pantau saldo. Baca
X-Balance-USDdari respons, atau panggilGET /v1/balance, agar pekerjaan batch berhenti sebelum kredit habis.
Model ini hanya teks. Tidak ada generasi gambar, audio, atau video, tidak ada embedding, dan tidak ada penyetelan halus, jadi jangan merencanakan penggunaan metode SDK tersebut. Detail parameter lengkap terdapat di dokumentasi. Prompt tidak digunakan untuk pelatihan.
