Есть ли бесплатный тариф Qwen API?
Честный ответ о бесплатном уровне Qwen API: это зависит от того, кто размещает модель, и от даты, когда вы спрашиваете. Qwen — это семейство моделей с открытыми весами. Его создатель предоставляет размещённый сервис, другие облачные платформы размещают те же веса, а вы можете скачать веса и запустить их самостоятельно. У каждого из них разные тарифы, а любой бесплатный лимит — это решение хоста. Такие лимиты часто ограничены по объёму, по времени или по определённым моделям и регионам, и они меняются.
Я не буду называть цифру для бесплатной квоты другой компании, потому что она устареет к тому времени, как вы это прочтёте. Откройте страницу тарифов или консоль хоста и найдите слова «free quota», «trial» или «new user». Проверьте три вещи: сколько токенов вы получаете, как долго они действуют и к каким идентификаторам моделей они применяются.
Этот сайт не является официальным сервисом Qwen. Это независимый провайдер, запускающий одну модель с открытыми весами, настроенную на ответы без отклонений по контенту для законного использования взрослыми. У него есть свой небольшой пробный период, описанный ниже.
Способы бесплатно протестировать модель Qwen
Если ваша цель — попробовать модели Qwen без оплаты, у вас есть несколько вариантов. Ни один из них не гарантирован, и у каждого есть свои нюансы.
- Размещённый сервис создателя. Проверьте, получают ли новые аккаунты стартовый лимит. Ожидайте ограничений по токенам, времени и иногда по регионам.
- Другие хосты. Некоторые платформы предлагают стартовый баланс или бесплатный тариф для небольших моделей. Условия различаются, а бесплатные тарифы часто имеют строгие лимиты запросов.
- Запуск весов самостоятельно. Открытые веса можно запустить на вашем оборудовании без стоимости за токен. Расходы смещаются на GPU, электричество и ваше время, а большие модели требуют серьёзной памяти.
- Небольшой пробный период здесь. Кредит в $0,50 — это не бесплатный уровень Qwen, но он позволяет протестировать эндпоинт, совместимый с OpenAI, с моделью без цензуры, прежде чем вы потратите что-либо.
Бесплатный тариф хорош для smoke-теста. Это плохая основа для продукта, потому что в день, когда он сократится или закончится, ваши расходы изменятся. Планируйте реальные расходы по ценам за токен, которые вы можете вычислить заранее.
Как работает пробный период на этом сайте
Новые пользователи могут получить $0,50 пробного кредита одним нажатием на странице API-ключа после регистрации. Регистрация осуществляется через Google или с помощью электронной почты и пароля. Кредит предоставляется один на человека, действителен в течение 7 дней и не требует карты. Пробные ключи позволяют выполнять 2 параллельных запроса и 60 запросов в минуту.
Вот последовательность:
- Зарегистрируйтесь и откройте страницу API-ключ.
- Нажмите, чтобы получить пробный кредит.
- Скопируйте ключ и отправьте запрос к
https://api.uncensoredqwen.com/v1с идентификатором моделиuncensored. - Читайте заголовок ответа
X-Balance-USD, чтобы следить за уменьшением баланса.
Если кредит закончится или пройдут 7 дней, запросы прекратятся, пока вы не пополните баланс. Автоматического списания нет, потому что для пробного периода не указан способ оплаты.
Что можно купить за $0,50
Цены составляют $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Давайте разберем три размера запроса. Каждый расчет — это токены, разделенные на 1 000 000 и умноженные на тариф.
| Запрос | Стоимость входных токенов | Стоимость выходных токенов | Итого | Запросов на $0,50 |
|---|---|---|---|---|
| 500 входных, 300 выходных | $0,000075 | $0,00015 | $0,000225 | около 2200 |
| 2 000 входных, 500 выходных | $0,0003 | $0,00025 | $0,00055 | около 900 |
| 20 000 входящих, 1 000 исходящих | $0,003 | $0,0005 | $0,0035 | около 140 |
Вторая строка — это обычный запрос в чате с историей, и в пробный период влезает около 900 таких. Третья строка — задача с длинным документом, например краткое изложение 15 000 слов: около 140 таких. Даже запрос, который заполняет всё 100 000-токенное контекстное окно входными данными и возвращает 1 000 токенов, стоит $0,015 плюс $0,0005, то есть $0,0155, так что вы можете запустить около 32 таких.
Первое, что вы заметите, — это лимит запросов, а не денег. При 2 одновременных запросах и 60 в минуту цикл, отправляющий параллельные запросы, увидит HTTP 429 с кодом ошибки concurrency или rate_limited. Замедлите цикл или добавьте повторную попытку с ожиданием значения Retry-After.
Тестовый скрипт для пробного периода
Этот скрипт отправляет короткий список промптов один за другим и выводит токены и стоимость каждого, используя данные об использовании из ответа. Замените промпты на свои реальные.
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key="YOUR_KEY",
)
IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000
prompts = [
"Rewrite this sentence in a formal tone: we need the report asap.",
"Give three plot twists for a heist story.",
"Explain what a context window is in two sentences.",
]
total = 0.0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
u = r.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
total += cost
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
print("total", round(total, 6))
Запустите его несколько раз с вашими реальными промптами, и вы узнаете стоимость одного запроса. Умножьте на ожидаемый объём, и вы получите месячную оценку, которая не зависит от какого-либо бесплатного уровня.
Подводные камни создания на основе любого бесплатного тарифа
Бесплатные квоты предназначены для того, чтобы вы начали работу, а не для поддержки продукта. Несколько привычек помогут вам избежать неприятных сюрпризов.
Не привязывайте свой бюджет к квоте
Если бесплатный лимит покрывает ваш текущий трафик, искушение пропустить планирование расходов велико. Когда лимит сократится, закончится или ваш трафик превысит его, счёт придёт сразу. Выполняйте расчёт по токенам с самого начала, используя платный тариф, и относитесь к любому бесплатному кредиту как к бонусу.
Следите за лимитами запросов, а не только за токенами
Бесплатные и пробные аккаунты часто получают более низкие лимиты. На этом сайте пробный ключ позволяет 2 параллельных запроса и 60 в минуту, в то время как полный ключ позволяет 8 и 300. Тест, который проходит на малонагруженном пробном ключе, может вести себя иначе под реальной нагрузкой, поэтому повторяйте тесты нагрузки при переходе на платный ключ.
Сохраняйте переносимость кода
Пишите клиент под формат OpenAI и храните базовый URL, ключ и идентификатор модели в конфигурации. Тогда переход между бесплатным уровнем, платным планом и другим хостом — это изменение конфигурации, а не переписывание кода. По этой же причине API здесь следует этому формату.
Проверьте, что ответит модель
Бесплатный уровень для модели со строгими правилами контента не поможет, если ваш сценарий использования требует прямых ответов на законные темы для взрослых. Сначала протестируйте несколько ваших самых сложных реальных промптов. Если они будут отклонены, бесплатные токены ничего вам не стоят.
После пробного периода: как выглядит оплата
Подписки нет. Вы пополняете любую целую сумму от $20 до $500 только криптовалютой (USDT на TRC20 или USDC на Base). Бонусы добавляют 5% от $50, 10% от $100 и 15% от $200, так что $50 становится $52,50, $100 становится $110, а $200 становится $230. Кредит не сгорает, а неудачные или отклонённые запросы не оплачиваются.
Используя вторую строку выше, $20 кредита оплачивают около 36 000 запросов с 2 000 входными и 500 выходными токенами ($20, разделённые на $0,00055). Полные ключи затем получают 8 параллельных запросов и 300 запросов в минуту. Подробности см. на странице с ценами.
Сервис работает только с текстом, а контекстное окно составляет 100 000 токенов. Промпты не используются для обучения, и одно правило фиксировано: нет сексуального контента с участием несовершеннолетних. Если вы переходите с интеграции Qwen, быстрый старт показывает, что нужно изменить, а страница распространённые ошибки Qwen API перечисляет ошибки, которые люди совершают чаще всего.
