HI ▾
API कुंजी पाएँ

uncensoredqwen.comगाइड

Qwen API SDK: OpenAI Python SDK का उपयोग करें

इस API के लिए एक समर्पित qwen api sdk की आवश्यकता नहीं है। यह OpenAI वायर फॉर्मेट बोलता है, इसलिए base URL और कुंजी बदलने के बाद आधिकारिक OpenAI SDK काम करते हैं। इस पृष्ठ पर इंस्टॉल, पहली कॉल, स्ट्रीमिंग, टूल्स और त्रुटि हैंडलिंग दिखाई गई है।

अपडेट किया गया

एक मानक SDK सॉकेट को एक छोटे सर्वर से जोड़ने वाला आइसोमेट्रिक एडाप्टर, OpenAI SDK पुन: उपयोग दिखाता है

OpenAI SDK क्यों वह सब कुछ कवर करता है जो आपको चाहिए

जब लोग qwen api sdk खोजते हैं, तो वे आमतौर पर एक क्लाइंट लाइब्रेरी चाहते हैं जो प्रमाणीकरण, पुनः प्रयास, स्ट्रीमिंग और टाइप किए गए प्रतिक्रियाओं को संभाले। OpenAI SDKs पहले से ही यह सब करते हैं, और यह सेवा समान HTTP इंटरफ़ेस लागू करती है: POST /v1/chat/completions, POST /v1/responses और GET /v1/models। कोई भी क्लाइंट जो बेस URL को ओवरराइड करने की अनुमति देता है, इसके साथ बातचीत कर सकता है।

शुरुआत करने से पहले एक स्पष्टीकरण। यह Alibaba या किसी अन्य मॉडल विक्रेता की आधिकारिक API नहीं है, और यह एक रूटर नहीं है जो आपके अनुरोध को कहीं और भेजता है। यह एक ओपन-वेट मॉडल है, जो एक स्वतंत्र प्रदाता द्वारा चलाया जाता है और कानूनी वयस्क उपयोग के लिए बिना सेंसर जवाब देने के लिए ट्यून्ड किया गया है। आप जो एकमात्र मॉडल ID पास करते हैं वह uncensored है।

यह माइग्रेशन को सरल बनाता है। यदि आपका प्रोजेक्ट पहले से ही OpenAI SDK के माध्यम से होस्टेड चैट मॉडल को कॉल करता है, तो आपको तीन मान बदलने होते हैं: बेस URL, API कुंजी और मॉडल का नाम। आपके कोड में कुछ और स्थानांतरित नहीं होना चाहिए।

इंस्टॉल करें और पहला कॉल करें

Python या Node के लिए आधिकारिक पैकेज इंस्टॉल करें। कोई सेवा-विशिष्ट जोड़ने की आवश्यकता नहीं है।

pip install openai
# Node: npm install openai

API key पेज पर एक कुंजी बनाएं, फिर उसे export करें ताकि वह आपके source code में कभी न आए।

export API_KEY="paste-your-key-here"

अब सबसे छोटा उपयोगी Python स्क्रिप्ट। क्लाइंट कुंजी को वातावरण से पढ़ता है और OpenAI के बजाय सेवा को अनुरोध भेजता है।

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredqwen.com/v1",
    api_key=os.environ["API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise technical assistant."},
        {"role": "user", "content": "Explain what a context window is in two sentences."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)

यदि आप अकैद HTTP को प्राथमिकता देते हैं, तो curl में समान अनुरोध इस प्रकार दिखता है:

curl https://api.uncensoredqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'

SDK के साथ स्ट्रीमिंग उत्तर

stream=True सेट करें और खंडों पर पुनरावृत्ति करें। सेवा सर्वर-संस्चित घटनाएँ भेजती है और स्ट्रीम के अंत में टोकन उपयोग की रिपोर्ट करती है, ताकि आप एक अतिरिक्त कॉल के बिना लागत लॉग कर सकें।

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if getattr(chunk, "usage", None):
        print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)

एक बात ध्यान में रखें: एक स्ट्रीम किए गए अनुरोध अपनी समानांतरता स्लॉट को स्ट्रीम समाप्त होने तक पकड़े रखता है। यदि कोई उपभोक्ता धीमा है या आप स्ट्रीम को बंद करना भूल जाते हैं, तो आप अपेक्षा से जल्द समानांतरता सीमा तक पहुँच जाएंगे।

Node में समान पैटर्न:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.uncensoredqwen.com/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three uses of JSON mode." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

टूल कॉलिंग और JSON मोड

उपकरणों के लिए आप जो SDK पैरामीटर पहले से उपयोग करते हैं, वे सीधे पास हो जाते हैं: tools, tool_choice, स्ट्रीम किए गए tool_calls, और role: "tool" के साथ संदेशों के रूप में भेजे गए परिणाम। एक न्यूनतम राउंड ट्रिप इस प्रकार दिखता है:

import os, json
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

tools = [{
    "type": "function",
    "function": {
        "name": "get_order_status",
        "description": "Look up an order by id",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
        },
    },
}]

messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]

messages.append(first.choices[0].message)
messages.append({
    "role": "tool",
    "tool_call_id": call.id,
    "content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)

संरचित आउटपुट के लिए, response_format={"type": "json_object"} पास करें और प्रॉम्प्ट में "JSON में उत्तर दें" भी कहें। JSON मोड मॉडल से JSON आउटपुट मांगता है, लेकिन आपके कोड को उन्हें उपयोग करने से पहले फ़ील्ड नामों और प्रकारों को पार्स और सत्यापित करना चाहिए।

temperature, top_p, stop, seed जैसे sampling settings और penalties पास हो जाते हैं, इसलिए मौजूदा ट्यूनिंग आगे बढ़ती है।

429 त्रुटियों को संभालें और headers पढ़ें

SDK HTTP 429 पर रेट-लिमिट अपवाद फेंकता है, और response body आपको बताता है कि किस सीमा को टूटा गया। एक पूर्ण कुंजी 8 समवर्ती अनुरोधों और प्रति मिनट 300 अनुरोधों की अनुमति देता है। एक ट्रायल कुंजी 2 समवर्ती अनुरोधों और प्रति मिनट 60 की अनुमति देता है।

त्रुटि कोडअर्थक्या करना है
rate_limitedप्रति मिनट बहुत सारे अनुरोधकॉल्स को फैलाएं या एक क्लाइंट-साइड लिमिटर जोड़ें
concurrencyएक साथ बहुत सारे अनुरोधअपने वर्कर पूल को 8 (ट्रायल कुंजी पर 2) तक सीमित करें
429 के साथ Retry-After: 5अस्थायी ओवरलोड5 सेकंड प्रतीक्षा करें और पुनः प्रयास करें

प्रत्येक प्रतिक्रिया X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency हेडर लेती है। Python SDK के साथ उन्हें पढ़ने के लिए, raw-response विवरक का उपयोग करें:

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
                api_key=os.environ["API_KEY"])

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "ping"}],
    max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()

असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए 429 के बाद retry करने से आपको दो बार लागत नहीं आती। सामान्य Qwen API गलतियाँ पर मौजूद लेख उन सेटअप त्रुटियों को अधिक विस्तार से कवर करता है जिनसे लोग टकराते हैं।

एक कॉल की लागत

मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, जो प्रीपेड क्रेडिट से कटाया जाता है। 2,000 प्रॉम्प्ट टोकन और 500 कंप्लीशन टोकन वाले एक अनुरोध पर विचार करें:

  • इनपुट: 2,000 × $0.15 / 1,000,000 = $0.0003
  • आउटपुट: 500 × $0.50 / 1,000,000 = $0.00025
  • कुल: $0.00055

$0.50 का ट्रायल क्रेडिट उस आकार के लगभग 900 अनुरोधों को कवर करता है ($0.50 / $0.00055 लगभग 909 है)। साइन-अप के बाद कुंजी पृष्ठ पर एक क्लिक से ट्रायल शुरू होता है, इसमें कार्ड की आवश्यकता नहीं होती और यह 7 दिनों तक चलता है; मुफ़्त टियर वाला लेख समझाता है कि यह कैसे काम करता है। भुगतान वाले टॉप-अप $20 से शुरू होते हैं, और मूल्य निर्धारण पृष्ठ बोनस स्तरों और स्वीकृत भुगतान विधियों की सूची देता है।

कॉन्टेक्स्ट विंडो prompt और completion मिलाकर 100,000 tokens की है, और max_tokens वैकल्पिक है। लागत पर एक भविष्यवाणी योग्य ऊपरी सीमा चाहने पर इसे सेट करना एक अच्छी आदत है।

मौजूदा प्रोजेक्ट को माइग्रेट करना

अधिकांश पाठक ऐसे कोड के साथ आते हैं जो पहले से ही एक चैट मॉडल को कॉल करता है। एक छोटी चेकलिस्ट स्विच को बिना किसी समस्या के बनाए रखती है:

  1. base_url (या Node.js में baseURL) को https://api.uncensoredqwen.com/v1 पर बदलें। /v1 suffix बनाए रखें और /chat/completions को स्वयं न जोड़ें, क्योंकि SDK यह पथ स्वतः जोड़ देता है।
  2. कुंजी को अपने खाते से प्राप्त नई कुंजी से बदलें। प्रमाणीकरण एक मानक Authorization: Bearer हेडर है, जिसे SDK आपके लिए तैयार करता है।
  3. मॉडल नाम को uncensored से बदलें। अज्ञात मॉडल नाम वाले अनुरोध विफल हो जाएंगे, इसलिए अपने कोडबेस में हार्ड-कोडेड नामों के लिए खोजें।
  4. उन सेवा क्षेत्रों को हटा दें जिनकी सुविधा सेवा प्रदान नहीं करती, जैसे कि छवि इनपुट या एम्बेडिंग कॉल।
  5. एक धूम-धाम परीक्षण (smoke test) के रूप में GET /v1/models पर कॉल चलाएं। यदि यह मॉडल सूचीबद्ध करता है, तो आपका URL और कुंजी सही हैं।

OpenAI क्लाइंट को लपेटने वाले फ्रेमवर्क्स आमतौर पर openai_api_base या OPENAI_BASE_URL जैसे नामों के तहत वही दो सेटिंग्स प्रकट करते हैं। यदि आपका टूल बेस URL के लिए एक पर्यावरण चर प्रदान करता है, तो आप बिना स्रोत को छुए एक संपूर्ण एप्लिकेशन को स्विच कर सकते हैं। पहले एक ट्रायल कुंजी के साथ परीक्षण करें, क्योंकि इसकी 2 समानांतर अनुरोधों और प्रति मिनट 60 की कम सीमाएं जल्दी दिखा देंगी कि क्या आपकी एप्लिकेशन आपकी योजना से अधिक समानांतर कनेक्शन खोलती है।

संदर्भ प्रबंधन पर भी एक बार फिर विचार करना चाहिए। विंडो यहाँ प्रॉम्प्ट और पूर्णता दोनों के लिए साझित 100,000 टोकन की है। यदि आपकी पुरानी सेटअप इतिहास को किसी अलग आकार तक काटती थी, तो आप उस काटने की प्रक्रिया को ढीला या कसकर कर सकते हैं ताकि यह मेल खा सके, लेकिन हर चरण पर लंबे इतिहास को फिर से भेजने की लागत पर नज़र रखें।

उत्पादन कोड के लिए व्यावहारिक सुझाव

  • कुंजी को रिपॉजिटरी से बाहर रखें। इसे ऊपर दिए गए उदाहरणों की तरह एक पर्यावरण चर या सीक्रेट स्टोर से पढ़ें।
  • टाइमआउट सेट करें। SDK क्लाइंट पर एक timeout तर्क स्वीकार करता है। स्ट्रीमिंग के साथ लंबी जनरेशन के लिए एक प्रशस्त रीड टाइमआउट की आवश्यकता होती है।
  • अपने वर्कर्स को बांधें। एक थ्रेड पूल या सेमाफोर जो आपकी समानांतरता सीमा के आकार का हो, अधिकांश 429 त्रुटियों को होने से पहले ही रोकता है।
  • अनुरोध ID लॉग करें। यदि आप सहायता से संपर्क करते हैं, तो X-Request-Id से प्राप्त मान कॉल की पहचान करता है।
  • बैलेंस की निगरानी करें। प्रतिक्रियाओं से X-Balance-USD पढ़ें, या GET /v1/balance कॉल करें, ताकि बैच जॉब क्रेडिट खत्म होने से पहले रुक जाए।

मॉडल केवल टेक्स्ट है। इसमें छवि, ऑडियो या वीडियो जनरेशन, एम्बेडिंग्स और फाइन-ट्यूनिंग नहीं है, इसलिए उन SDK विधियों के आसपास योजना न बनाएं। पूर्ण पैरामीटर विवरण दस्तावेज़ीकरण में उपलब्ध हैं। प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।

प्रश्न और उत्तर

क्या इस सेवा के लिए आधिकारिक Qwen API SDK है?

कोई अलग SDK की आवश्यकता नहीं है। आधिकारिक OpenAI Python या Node पैकेज का उपयोग करें और base_url को https://api.uncensoredqwen.com/v1 पर सेट करें, मॉडल uncensored के साथ।

कौन सी SDK भाषाएं काम करती हैं?

कोई भी OpenAI-संगत क्लाइंट काम करता है, जिसमें आधिकारिक Python और Node पैकेज, सादा curl, और कम्युनिटी लाइब्रेरी शामिल हैं जो आपको बेस URL को ओवरराइड करने की अनुमति देती हैं।

मैं कोड से अपना बैलेंस कैसे जांचूं?

किसी भी प्रतिक्रिया पर X-Balance-USD हेडर पढ़ें, या GET /v1/balance पर कॉल करें। OpenAI-शैली credit_grants एंडपॉइंट भी उपलब्ध है।

क्या SDK स्ट्रीमिंग और टूल्स का समर्थन करता है?

हाँ। स्ट्रीमिंग के लिए stream को true सेट करें जिसमें अंत में usage फ़ील्ड हो, और tools और tool_choice का उपयोग वैसे ही करें जैसे आप OpenAI के साथ करते हैं।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी पाएँ