Yêu cầu đầu tiên trong năm phút

Cài đặt SDK OpenAI

Endpoint của chúng tôi tuân theo giao thức chat.completions tiêu chuẩn, vì vậy bạn có thể sử dụng các SDK chính thức từ ngôn ngữ ưa thích của mình. Đối với Python, hãy cài đặt gói qua pip. Đối với Node.js, hãy sử dụng npm. Các thư viện này xử lý tuần tự hóa, thử lại và truyền phát ngay lập tức.

pip install openai

npm install openai

Đảm bảo bạn đang sử dụng phiên bản SDK mới nhất để hỗ trợ tất cả các tham số như tool_choice và response_format. Thư viện máy khách quản lý các yêu cầu HTTP, vì vậy bạn chỉ cần tập trung vào cấu trúc tải trọng.

Cấu hình URL cơ sở và Khóa

Trỏ client của bạn đến endpoint chuyên dụng của chúng tôi. Bạn không cần thay đổi logic tên mô hình; chúng tôi mong bạn truyền model: "uncensored" trong các yêu cầu của mình. Xác thực được xử lý thông qua một khóa API đơn giản được truyền trong header.

Đặt base_url thành https://api.qwenapi.top/v1. Tạo qwen api key của bạn trên bảng điều khiển. Khóa được hiển thị ngay sau khi đăng ký. Không cần số điện thoại hay thẻ tín dụng cho thiết lập ban đầu.

Yêu cầu hoàn thành trò chuyện cơ bản

Gửi yêu cầu hoàn thành tiêu chuẩn. Mô hình trả về phản hồi văn bản trực tiếp. Không có lớp định tuyến phức tạp; bạn đang nói chuyện với một phiên bản duy nhất được tinh chỉnh cho đầu ra không kiểm duyệt.

Dưới đây là một ví dụ tối thiểu sử dụng curl để xác minh kết nối và định dạng phản hồi.

Copycurl https://api.qwenapi.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Phản hồi chứa văn bản được tạo trong choices[0].message.content. Bạn có thể điều chỉnh các tham số như temperature và top_p để kiểm soát sự sáng tạo.

Phản hồi truyền phát

Để tạo token theo thời gian thực, hãy bật streaming. Máy chủ gửi các sự kiện gửi qua máy chủ (SSE). Mảnh cuối cùng bao gồm thống kê sử dụng token, cho phép bạn theo dõi chính xác việc tiêu thụ tín dụng.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenapi.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Truyền phát rất cần thiết cho các đầu ra dài. Bạn có thể phân tích luồng và hiển thị token khi chúng đến. SDK xử lý phân tích SSE tự động.

Hỗ trợ gọi hàm

Xác định các công cụ trong yêu cầu của bạn. Mô hình trả về các cuộc gọi công cụ có cấu trúc. Bạn thực thi công cụ, truyền kết quả lại và mô hình tiếp tục. Điều này hoạt động với tool_choice và các định nghĩa công cụ tiêu chuẩn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenapi.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chế độ JSON cũng có sẵn qua response_format. Hãy sử dụng nó khi bạn cần đầu ra JSON nghiêm ngặt mà không có chi phí công cụ.

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh là 100,000 token tổng cộng. Đầu ra tối đa cho mỗi yêu cầu là 32,000 token (2,048 nếu không chỉ định). Giới hạn tốc độ là 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Thân yêu cầu phải dưới 8 MB.

Xử lý lỗi: 401 có nghĩa là khóa không hợp lệ, 402 có nghĩa là không đủ tín dụng, 429 có nghĩa là vượt quá giới hạn tốc độ. Lỗi miễn phí; bạn chỉ trả tiền cho các token đã sử dụng. Tín dụng không bao giờ hết hạn. Nếu bạn bị tính phí gấp đôi, hãy sử dụng trang Hỗ trợ để sửa.

Truyền phát

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)