पाँच मिनट में पहला अनुरोध

OpenAI SDK इंस्टॉल करें

हमारा एंडपॉइंट मानक chat.completions प्रोटोकॉल का पालन करता है, इसलिए आप अपनी पसंदीभाषा के आधिकारिक SDK का उपयोग कर सकते हैं। Python के लिए, पैकेज को pip के माध्यम से इंस्टॉल करें। Node.js के लिए, npm का उपयोग करें। ये लाइब्रेरियाँ सीरियलाइज़ेशन, पुनःप्रयास और स्ट्रीमिंग को आउट-ऑफ-द-बॉक्स हैंडल करती हैं।

pip install openai

npm install openai

सुनिश्चित करें कि आप SDK के एक हालिया संस्करण का उपयोग कर रहे हैं ताकि tool_choice और response_format जैसे सभी पैरामीटर्स का समर्थन हो सके। क्लाइंट लाइब्रेरी HTTP अनुरोधों को प्रबंधित करती है, इसलिए आपको केवल पेलोड संरचना पर ध्यान केंद्रित करने की आवश्यकता है।

बेस यूआरएल और कुंजी कॉन्फ़िगर करें

अपने क्लाइंट को हमारे समर्पित एंडपॉइंट की ओर निर्देशित करें। आपको मॉडल नाम लॉजिक को बदलने की आवश्यकता नहीं है; हम उम्मीद करते हैं कि आप अपने अनुरोधों में model: "uncensored" पास करेंगे। प्रमाणीकरण एक सरल API कुंजी को हेडर में पास करके संभाला जाता है।

base_url को https://api.qwenapi.top/v1 पर सेट करें। डैशबोर्ड पर अपनी qwen api key जनरेट करें। कुंजी साइनअप के तुरंत बाद प्रदर्शित होती है। प्रारंभिक सेटअप के लिए फ़ोन नंबर या क्रेडिट कार्ड की आवश्यकता नहीं है।

मूल चैट पूर्णता अनुरोध

एक मानक पूर्णता अनुरोध भेजें। मॉडल टेक्स्ट प्रतिक्रियाएँ सीधे देता है। कोई जटिल रूटिंग परतें नहीं हैं; आप बिना सेंसर आउटपुट के लिए ट्यून्ड एकल इंस्टेंस से बात कर रहे हैं।

कनेक्टिविटी और प्रतिक्रिया प्रारूप की जाँच करने के लिए curl का उपयोग करके नीचे एक न्यूनतम उदाहरण दिया गया है।

Copycurl https://api.qwenapi.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

प्रतिक्रिया में choices[0].message.content में जनरेटेड टेक्स्ट होता है। आप रचनात्मकता को नियंत्रित करने के लिए temperature और top_p जैसे पैरामीटर समायोजित कर सकते हैं।

स्ट्रीमिंग प्रतिक्रियाएँ

वास्तविक समय टोकन जनरेशन के लिए, स्ट्रीमिंग को सक्षम करें। सर्वर सर्वर-सेंट इवेंट्स (SSE) भेजता है। अंतिम चंक में टोकन उपयोग के आँकड़े शामिल होते हैं, जिससे आप क्रेडिट खपत की सटीक निगरानी कर सकते हैं।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenapi.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

लंबे आउटपुट के लिए स्ट्रीमिंग आवश्यक है। आप स्ट्रीम को पार्स कर सकते हैं और टोकन को आने पर रेंडर कर सकते हैं। SDK SSE पार्सिंग को स्वचालित रूप से संभालता है।

फ़ंक्शन कॉलिंग समर्थन

अपने अनुरोध में टूल्स परिभाषित करें। मॉडल संरचित टूल कॉल लौटाता है। आप टूल निष्पादित करते हैं, परिणाम वापस पास करते हैं, और मॉडल जारी रखता है। यह tool_choice और मानक फ़ंक्शन परिभाषाओं के साथ काम करता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenapi.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON मोड response_format के माध्यम से भी उपलब्ध है। जब आपको टूल ओवरहेड के बिना कठोर JSON आउटपुट की आवश्यकता हो, तो इसका उपयोग करें।

सीमाएँ, त्रुटियाँ और कॉन्टेक्स्ट

कॉन्टेक्स्ट विंडो कुल 100,000 टोकन है। प्रति अनुरोध अधिकतम आउटपुट 32,000 टोकन है (अनिर्दिष्ट होने पर 2,048)। रेट लिमिट प्रति मिनट 300 अनुरोध और प्रति कुंजी 8 समानांतर अनुरोध हैं। अनुरोध बॉडी 8 MB से कम रहनी चाहिए।

त्रुटियों को संभालें: 401 का अर्थ अमान्य कुंजी है, 402 का अर्थ अपर्याप्त क्रेडिट है, 429 का अर्थ रेट लिमिट पार हो गया है। त्रुटियाँ मुफ़्त हैं; आप केवल खपित टोकन के लिए भुगतान करते हैं। क्रेडिट कभी समाप्त नहीं होता है। यदि डबल चार्ज होता है, तो समाधान के लिए सपोर्ट पेज का उपयोग करें।

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)