คำขอแรกในห้านาที

ติดตั้ง OpenAI SDK

เอนด์พอยต์ของเราปฏิบัติตามโปรโตคอล chat.completions มาตรฐาน คุณสามารถใช้ SDK ทางการจากภาษาที่คุณต้องการได้ สำหรับ Python ให้ติดตั้งแพ็กเกจผ่าน pip สำหรับ Node.js ให้ใช้ npm ไลบรารีเหล่านี้จัดการการ serialize การทำซ้ำ และการสตรีมมิงได้ทันที

pip install openai

npm install openai

ตรวจสอบให้แน่ใจว่าคุณกำลังใช้เวอร์ชันล่าสุดของ SDK เพื่อรองรับพารามิเตอร์ทั้งหมดเช่น tool_choice และ response_format ไลบรารีไคลเอนต์จัดการคำขอ HTTP ดังนั้นคุณจึงต้องโฟกัสเฉพาะโครงสร้างของ payload

กำหนดค่า Base URL และคีย์

ชี้ไคลเอนต์ของคุณไปยังเอนด์พอยต์เฉพาะของเรา คุณไม่จำเป็นต้องเปลี่ยนตรรกะชื่อโมเดล; เราคาดหวังให้คุณส่ง model: "uncensored" ในคำขอของคุณ การตรวจสอบสิทธิ์จัดการผ่านคีย์ API อย่างง่ายที่ส่งในหัวเรื่อง

ตั้งค่า base_url เป็น https://api.qwenapi.top/v1 สร้าง qwen api key จากแดชบอร์ด คีย์แสดงทันทีหลังสมัคร ไม่ต้องการเบอร์โทรหรือบัตรเครดิตสำหรับการตั้งค่าเริ่มต้น

คำขอการตอบกลับแชทพื้นฐาน

ส่งคำขอการตอบกลับมาตรฐาน โมเดลจะส่งข้อความตอบกลับโดยตรง ไม่มีชั้นการกำหนดเส้นทางที่ซับซ้อน; คุณกำลังพูดคุยกับอินสแตนซ์เดียวที่ปรับแต่งสำหรับการส่งออกแบบไม่เซ็นเซอร์

ด้านล่างคือตัวอย่างขั้นต่ำโดยใช้ curl เพื่อตรวจสอบการเชื่อมต่อและรูปแบบการตอบกลับ

Copycurl https://api.qwenapi.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

การตอบกลับมีข้อความที่สร้างใน choices[0].message.content คุณสามารถปรับพารามิเตอร์เช่น temperature และ top_p เพื่อควบคุมความคิดสร้างสรรค์

การตอบกลับแบบสตรีมมิง

สำหรับการสร้างโทเคนแบบเรียลไทม์ ให้เปิดใช้งานสตรีมมิง เซิร์ฟเวอร์ส่ง Server-Sent Events (SSE) ชิ้นสุดท้ายรวมถึงสถิติการใช้โทเคน ทำให้คุณสามารถติดตามการบริโภคเครดิตได้อย่างแม่นยำ

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenapi.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

สตรีมมิงมีความจำเป็นสำหรับผลลัพธ์ที่ยาว คุณสามารถแยกวิเคราะห์สตรีมและแสดงผลโทเคนเมื่อมาถึง ไลบรารี SDK จัดการการแยกวิเคราะห์ SSE โดยอัตโนมัติ

รองรับการเรียกใช้ฟังก์ชัน

กำหนดเครื่องมือในคำขอของคุณ โมเดลจะส่งการเรียกใช้เครื่องมือที่มีโครงสร้าง คุณดำเนินการเครื่องมือ ส่งผลลัพธ์กลับ และโมเดลจะดำเนินการต่อ สิ่งนี้ทำงานกับ tool_choice และคำจำกัดความของฟังก์ชันมาตรฐาน

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenapi.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

โหมด JSON ก็พร้อมใช้งานผ่าน response_format ใช้เมื่อคุณต้องการผลลัพธ์ JSON ที่เข้มงวดโดยไม่มีความหนักของเครื่องมือ

ขีดจำกัด ข้อผิดพลาด และบริบท

หน้าต่างบริบทคือ 100,000 โทเคนรวม ผลลัพธ์สูงสุดต่อคำขอคือ 32,000 โทเคน (2,048 หากไม่ได้ระบุ) ขีดจำกัดอัตราคือ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันต่อคีย์ ร่างคำขอต้องอยู่ใต้ 8 MB

จัดการข้อผิดพลาด: 401 หมายถึงคีย์ไม่ถูกต้อง, 402 หมายถึงเครดิตไม่เพียงพอ, 429 หมายถึงเกินขีดจำกัดอัตรา ข้อผิดพลาดไม่มีค่าใช้จ่าย; คุณจ่ายเฉพาะสำหรับโทเคนที่ใช้งานจริง เครดิตไม่หมดอายุ หากมีการเรียกเก็บเงินซ้ำ ให้ใช้หน้า Support เพื่อแก้ไข

สตรีมมิง

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)