Почему SDK OpenAI покрывает все ваши потребности
Когда люди ищут SDK API Qwen, они обычно хотят клиентскую библиотеку, которая обрабатывает аутентификацию, повторные попытки, потоковую передачу и ответы с типизацией. SDK OpenAI уже делают всё это, и этот сервис реализует тот же HTTP-интерфейс: POST /v1/chat/completions, POST /v1/responses и GET /v1/models. Любой клиент, позволяющий переопределить базовый URL, может с ним работать.
Одно уточнение перед началом. Это не официальный API Alibaba или любого другого поставщика моделей, и это не роутер, перенаправляющий ваш запрос куда-то ещё. Это одна модель с открытыми весами, запущенная независимым провайдером и настроенная на ответы без отказов по контенту для законного использования взрослыми. Единственный ID модели, который вы передаёте, — uncensored.
Это делает миграцию простой. Если ваш проект уже вызывает размещенную чат-модель через SDK OpenAI, вы изменяете три значения: базовый URL, API-ключ и имя модели. Ничего другого в вашем коде менять не нужно.
Установка и первый вызов
Установите официальный пакет для Python или Node. Ничего специфичного для сервиса добавлять не нужно.
pip install openai
# Node: npm install openai
Создайте ключ на странице API-ключ, затем экспортируйте его, чтобы он никогда не попадал в исходный код.
export API_KEY="paste-your-key-here"
Теперь самый маленький полезный скрипт на Python. Клиент считывает ключ из окружения и отправляет запросы к сервису, а не в OpenAI.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what a context window is in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage)
Если вы предпочитаете сырой HTTP, тот же запрос в curl выглядит так:
curl https://api.uncensoredqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}]}'Потоковая передача ответов с помощью SDK
Установите stream=True и перебирайте чанки. Сервис отправляет server-sent события и сообщает об использовании токенов в конце потока, что позволяет логировать стоимость без дополнительного запроса.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a short product description for a desk lamp."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\nTokens:", chunk.usage.prompt_tokens, chunk.usage.completion_tokens)
Имейте в виду одну вещь: потоковый запрос удерживает слот параллельных запросов до конца потока. Если потребитель медленный или вы забудете закрыть поток, вы достигнете лимита параллельных запросов раньше, чем ожидаете.
Та же схема в Node:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredqwen.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three uses of JSON mode." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}Вызов инструментов и JSON-режим
Параметры SDK, которые вы уже используете для инструментов, передаются напрямую: tools, tool_choice, потоковая передача tool_calls и результаты, отправляемые обратно как сообщения с role: "tool". Минимальный цикл запрос–ответ выглядит так:
import os, json
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
call = first.choices[0].message.tool_calls[0]
messages.append(first.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps({"status": "shipped"}),
})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Для структурированного вывода передайте response_format={"type": "json_object"} и также укажите "ответьте в формате JSON" в промпте. JSON-режим просит модель выводить JSON, но ваш код все равно должен парсить его и проверять имена полей и типы перед использованием.
Настройки сэмплирования, такие как temperature, top_p, stop, seed и штрафы, передаются напрямую, поэтому существующая настройка сохраняется.
Обработка ошибок 429 и чтение заголовков
SDK вызывает исключение при превышении лимита частоты запросов при HTTP 429, а тело ответа сообщает, какой лимит вы достигли. Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 параллельных запроса и 60 в минуту.
| Код ошибки | Что значит | Что делать |
|---|---|---|
rate_limited | Слишком много запросов в минуту | Распределите вызовы или добавьте клиентский ограничитель |
concurrency | Слишком много запросов одновременно | Ограничьте пул воркеров до 8 (2 для пробного ключа) |
429 с Retry-After: 5 | Временная перегрузка | Подождите 5 секунд и повторите попытку |
Каждый ответ содержит X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency. Чтобы прочитать их с помощью SDK Python, используйте обертку raw-response:
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredqwen.com/v1",
api_key=os.environ["API_KEY"])
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "ping"}],
max_tokens=5,
)
print("Balance:", raw.headers.get("X-Balance-USD"))
print("Request id:", raw.headers.get("X-Request-Id"))
completion = raw.parse()
Неудачные или отклонённые запросы не оплачиваются, поэтому повторная попытка после 429 не увеличивает ваши расходы. Существующая статья о распространенных ошибках API Qwen охватывает больше ошибок настройки, с которыми сталкиваются пользователи.
Сколько стоит вызов
Тарификация составляет $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов, оплачивается из предоплаченного баланса. Возьмите запрос с 2000 токенами промпта и 500 токенами завершения:
- Вход: 2 000 × $0,15 / 1 000 000 = $0,0003
- Выход: 500 × $0,50 / 1 000 000 = $0,00025
- Итого: $0.00055
Пробный кредит в $0,50 покрывает около 900 запросов такого размера ($0,50 / $0,00055 составляет примерно 909). Пробный период — это один клик на странице ключа после входа, не требует карты и длится 7 дней; статья о бесплатном уровне объясняет, как это работает. Платные пополнения начинаются с $20, а страница тарифов перечисляет бонусные уровни и принятые методы оплаты.
Контекстное окно составляет 100 000 токенов для промпта и завершения вместе, и max_tokens является необязательным. Установка его — хорошая привычка, когда вы хотите предсказуемый верхний предел стоимости.
Перенос существующего проекта
Большинство читателей приходят с кодом, который уже вызывает чат-модель. Краткий контрольный список делает переключение безболезненным:
- Измените
base_url(илиbaseURLв Node) наhttps://api.uncensoredqwen.com/v1. Сохраните суффикс/v1и не добавляйте/chat/completionsсамостоятельно, потому что SDK добавляет путь. - Замените ключ на тот, который есть в вашей учетной записи. Аутентификация — это стандартный заголовок
Authorization: Bearer, который SDK создает для вас. - Замените имя модели на
uncensored. Запросы с неизвестным именем модели завершатся ошибкой, поэтому поищите в кодовой базе жестко заданные имена. - Удалите любые поля запроса для функций, которые сервис не предлагает, таких как ввод изображений или вызовы эмбеддингов.
- Выполните запрос к
GET /v1/modelsкак дымовое тестирование. Если модель в списке, ваш URL и ключ верны.
Фреймворки, оборачивающие клиент OpenAI, обычно предоставляют те же два параметра под именами, такими как openai_api_base или OPENAI_BASE_URL. Если ваш инструмент предлагает переменную окружения для базового URL, вы можете переключить целое приложение, не касаясь его исходного кода. Протестируйте сначала с пробным ключом, поскольку его более низкие лимиты в 2 параллельных запроса и 60 в минуту быстро покажут, открывает ли ваше приложение больше параллельных соединений, чем вы планировали.
Обработка контекста также заслуживает второго взгляда. Окно здесь составляет 100 000 токенов, общих для промпта и завершения. Если ваша старая настройка обрезала историю до другого размера, вы можете ослабить или усилить эту обрезку, чтобы соответствовать, но следите за стоимостью повторной отправки длинной истории на каждом шаге.
Практические советы для производственного кода
- Держите ключ вне репозитория. Считывайте его из переменной окружения или хранилища секретов, как в примерах выше.
- Установите тайм-аут. SDK принимает аргумент
timeoutдля клиента. Долгие генерации с потоковой передачей нуждаются в щедром тайм-ауте чтения. - Ограничьте количество воркеров. Пул потоков или семафор, настроенный на ваш лимит параллелизма, позволяет избежать большинства ошибок 429 до их возникновения.
- Логируйте идентификатор запроса. Если вы обратитесь в поддержку, значение из
X-Request-Idидентифицирует вызов. - Следите за балансом. Читайте
X-Balance-USDиз ответов или вызывайтеGET /v1/balance, чтобы пакетная работа останавливалась до исчерпания кредита.
Модель только текстовая. Нет генерации изображений, аудио или видео, нет эмбеддингов и нет тонкой настройки, поэтому не планируйте вокруг этих методов SDK. Полные детали параметров находятся в документации. Промпты не используются для обучения.
