Có gói miễn phí Qwen API không?
Câu trả lời trung thực về gói miễn phí qwen api là: nó phụ thuộc vào ai lưu trữ mô hình và vào ngày bạn hỏi. Qwen là một họ các mô hình trọng số mở. Nhà sản xuất của nó chạy một dịch vụ lưu trữ, các nền tảng đám mây khác lưu trữ cùng trọng số đó, và bạn có thể tải xuống trọng số và tự chạy chúng. Mỗi cái trong số đó có giá khác nhau, và bất kỳ hạn mức miễn phí nào cũng là quyết định của nhà lưu trữ. Các hạn mức như vậy thường bị giới hạn về kích thước, thời gian hoặc dành cho các mô hình và khu vực nhất định, và chúng thường được thay đổi.
Tôi sẽ không trích dẫn một con số cho hạn ngạch miễn phí của một công ty khác, vì nó sẽ sai vào thời điểm bạn đọc nó. Hãy mở trang giá hoặc bảng điều khiển của nhà lưu trữ và tìm các từ "hạn ngạch miễn phí", "dùng thử" hoặc "người dùng mới". Kiểm tra ba điều: bạn nhận được bao nhiêu token, chúng có thời hạn bao lâu và chúng áp dụng cho những mô hình nào.
Trang web này không phải là dịch vụ Qwen chính thức. Đây là một nhà cung cấp độc lập chạy một mô hình trọng số mở được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích sử dụng người trưởng thành hợp pháp. Nó có một gói dùng thử nhỏ, được mô tả bên dưới.
Các cách thử nghiệm mô hình Qwen miễn phí
Nếu mục tiêu của bạn là thử các mô hình Qwen mà không phải trả phí, bạn có một vài lựa chọn. Không có lựa chọn nào được đảm bảo và mỗi lựa chọn đều có nhược điểm.
- Dịch vụ lưu trữ của nhà sản xuất. Hãy kiểm tra xem tài khoản mới có được một khoản hạn mức bắt đầu hay không. Hãy dự kiến các giới hạn về token, thời gian và đôi khi là khu vực.
- Các nhà lưu trữ khác. Một số nền tảng cung cấp tín dụng bắt đầu hoặc gói miễn phí cho các mô hình nhỏ hơn. Các điều khoản khác nhau, và các gói miễn phí thường có giới hạn tốc độ chặt chẽ.
- Tự chạy trọng số. Trọng số mở có thể được chạy trên phần cứng của riêng bạn mà không tốn chi phí trên mỗi token. Chi phí chuyển sang GPU, điện năng và thời gian của bạn, và các mô hình lớn hơn cần bộ nhớ đáng kể.
- Một gói dùng thử nhỏ ở đây. Tín dụng $0,50 không phải là gói miễn phí Qwen, nhưng nó cho phép bạn thử nghiệm một endpoint tương thích OpenAI với mô hình không kiểm duyệt trước khi bạn chi tiêu bất kỳ khoản tiền nào.
Gói miễn phí rất tốt để kiểm tra nhanh. Nó là một nền tảng kém cho một sản phẩm, vì vào ngày nó bị thu hẹp hoặc kết thúc, chi phí của bạn sẽ thay đổi. Hãy lập kế hoạch chi tiêu thực tế dựa trên giá trên mỗi token, mà bạn có thể tính toán trước.
Cách gói dùng thử trên trang web này hoạt động
Người dùng mới có thể nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột trên trang khóa API sau khi đăng ký. Đăng ký bằng Google, hoặc bằng email và mật khẩu. Mỗi người chỉ được nhận tín dụng một lần, có hiệu lực trong 7 ngày và không cần thẻ. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút.
Dưới đây là trình tự:
- Đăng ký và mở trang khóa API.
- Nhấp để nhận tín dụng dùng thử.
- Sao chép khóa của bạn và gửi yêu cầu đến
https://api.uncensoredqwen.com/v1với ID mô hìnhuncensored. - Đọc tiêu đề phản hồi
X-Balance-USDđể theo dõi tín dụng giảm dần.
Nếu tín dụng cạn kiệt hoặc 7 ngày trôi qua, các yêu cầu sẽ dừng lại cho đến khi bạn nạp tiền. Không có khoản tự động tính phí, vì không có phương thức thanh toán nào được lưu trữ cho gói dùng thử.
$0,50 mua được gì
Giá là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Hãy cùng tính toán qua ba kích thước yêu cầu. Mỗi phép tính là số token chia cho 1.000.000 và nhân với đơn giá.
| Yêu cầu | Chi phí đầu vào | Chi phí đầu ra | Tổng cộng | Yêu cầu trên mỗi $0,50 |
|---|---|---|---|---|
| 500 đầu vào, 300 đầu ra | $0,000075 | $0,00015 | $0,000225 | khoảng 2.200 |
| 2.000 đầu vào, 500 đầu ra | $0,0003 | $0,00025 | $0,00055 | khoảng 900 |
| 20.000 vào, 1.000 ra | $0,003 | $0,0005 | $0,0035 | khoảng 140 |
Hàng thứ hai là một lượt trò chuyện bình thường với một số lịch sử, và khoảng 900 lượt như vậy vừa với gói dùng thử. Hàng thứ ba là một nhiệm vụ tài liệu dài, chẳng hạn như tóm tắt 15.000 từ: khoảng 140 lượt. Ngay cả một yêu cầu lấp đầy toàn bộ cửa sổ ngữ cảnh 100.000 token với đầu vào và trả về 1.000 token cũng tốn $0,015 cộng $0,0005, tức là $0,0155, vì vậy bạn có thể chạy khoảng 32 lượt như vậy.
Giới hạn bạn sẽ nhận thấy đầu tiên là tốc độ, không phải tiền. Với 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, một vòng lặp bắn các yêu cầu song song sẽ thấy HTTP 429 với mã lỗi concurrency hoặc rate_limited. Hãy làm chậm vòng lặp hoặc thêm một lần thử lại chờ giá trị Retry-After.
Một kịch bản thử nghiệm cho gói dùng thử
Kịch bản này gửi một danh sách ngắn các prompt nối tiếp nhau và in ra số token và chi phí của mỗi yêu cầu, sử dụng số liệu sử dụng từ phản hồi. Thay thế các prompt bằng các prompt thực tế của bạn.
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredqwen.com/v1",
api_key="YOUR_KEY",
)
IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000
prompts = [
"Rewrite this sentence in a formal tone: we need the report asap.",
"Give three plot twists for a heist story.",
"Explain what a context window is in two sentences.",
]
total = 0.0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
u = r.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
total += cost
print(u.prompt_tokens, u.completion_tokens, round(cost, 6))
print("total", round(total, 6))
Chạy nó vài lần với các prompt thực tế của bạn và bạn sẽ biết chi phí trung bình cho mỗi yêu cầu. Nhân nó với khối lượng dự kiến của bạn và bạn có một ước tính hàng tháng không phụ thuộc vào bất kỳ gói miễn phí nào.
Những cạm bẫy khi xây dựng trên bất kỳ gói miễn phí nào
Các hạn mức miễn phí được thiết kế để giúp bạn bắt đầu, không phải để duy trì một sản phẩm. Một vài thói quen sẽ giúp bạn tránh bị bất ngờ.
Không gắn ngân sách của bạn với một hạn ngạch
Nếu một hạn mức miễn phí bao gồm lưu lượng truy cập hiện tại của bạn, bạn rất dễ bỏ qua lập kế hoạch chi phí. Khi hạn mức bị thu hẹp, kết thúc hoặc lưu lượng truy cập của bạn vượt quá nó, hóa đơn sẽ đến cùng một lúc. Hãy thực hiện phép toán trên mỗi token ngay từ đầu, sử dụng đơn giá trả phí, và coi bất kỳ tín dụng miễn phí nào là một phần thưởng.
Theo dõi giới hạn tốc độ, không chỉ token
Tài khoản miễn phí và dùng thử thường nhận được các giới hạn thấp hơn. Trên trang web này, khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, trong khi khóa đầy đủ cho phép 8 và 300. Một bài kiểm tra vượt qua trên một khóa dùng thử ít lưu lượng có thể hoạt động khác dưới lưu lượng truy cập thực tế, vì vậy hãy lặp lại các bài kiểm tra tải khi bạn chuyển sang khóa trả phí.
Giữ mã của bạn dễ chuyển đổi
Hãy viết client của bạn theo định dạng OpenAI và giữ base URL, khóa và ID mô hình trong cấu hình. Sau đó, việc di chuyển giữa một gói miễn phí, một gói trả phí và một nhà lưu trữ khác chỉ là một thay đổi cấu hình, không phải là viết lại. Đây cũng là lý do tại sao API ở đây tuân theo định dạng đó.
Kiểm tra câu trả lời của mô hình
Gói miễn phí trên một mô hình có quy tắc kiểm duyệt nghiêm ngặt sẽ không giúp ích nếu trường hợp sử dụng của bạn cần câu trả lời thẳng thắn về các chủ đề người trưởng thành hợp pháp. Hãy thử một vài prompt thực tế khó nhất của bạn trước. Nếu chúng bị từ chối, các token miễn phí sẽ không có giá trị gì đối với bạn.
Sau khi dùng thử: cách thức thanh toán
Không có gói đăng ký. Bạn có thể nạp tiền với số nguyên bất kỳ từ $20 đến $500, bằng tiền mã hóa (USDT trên TRC20 hoặc USDC trên Base). Bạn được tặng thêm 5% từ $50, 10% từ $100 và 15% từ $200, vì vậy $50 thành $52,50, $100 thành $110 và $200 thành $230. Tín dụng không bao giờ hết hạn, và các yêu cầu bị lỗi hoặc từ chối sẽ không bị tính phí.
Sử dụng hàng thứ hai ở trên, $20 tín dụng chi trả cho khoảng 36.000 yêu cầu với 2.000 token đầu vào và 500 token đầu ra ($20 chia cho $0,00055). Khóa đầy đủ sau đó được 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Xem trang giá cả để biết chi tiết.
Dịch vụ chỉ hỗ trợ văn bản và cửa sổ ngữ cảnh là 100.000 token. Các prompt không được sử dụng để huấn luyện, và có một quy tắc cố định: không có nội dung tình dục liên quan đến người chưa thành niên. Nếu bạn đang chuyển từ tích hợp Qwen, trang bắt đầu nhanh cho biết những thay đổi cần thực hiện, và trang về các lỗi API Qwen phổ biến liệt kê các lỗi mà mọi người thường gặp phải nhất.
