5분 내 첫 요청

OpenAI SDK 설치

당사의 엔드포인트는 표준 chat.completions 프로토콜을 따르므로 선호하는 언어의 공식 SDK를 사용할 수 있습니다. Python의 경우 pip를 통해 패키지를 설치하세요. Node.js의 경우 npm을 사용하세요. 이러한 라이브러리는 직렬화, 재시도 및 스트리밍을 기본적으로 처리합니다.

pip install openai

npm install openai

tool_choice 및 response_format과 같은 모든 매개변수를 지원하려면 최신 버전의 SDK를 사용하고 있는지 확인하세요. 클라이언트 라이브러리가 HTTP 요청을 관리하므로 페이로드 구조에만 집중하면 됩니다.

Base URL 및 키 구성

클라이언트를 전용 엔드포인트로 지정하세요. 모델 이름 로직을 변경할 필요가 없습니다. 요청에 model: "uncensored"를 전달해야 합니다. 인증은 헤더에 전달되는 간단한 API 키로 처리됩니다.

base_url을(를) https://api.qwenapi.top/v1로 설정하세요. 대시보드에서 qwen api key를 생성하세요. 키는 회원가입 직후 표시됩니다. 초기 설정에는 전화번호나 신용카드가 필요하지 않습니다.

기본 채팅 완료 요청

표준 완료 요청을 보내세요. 모델은 텍스트 응답을 직접 반환합니다. 복잡한 라우팅 레이어가 없으며, 무검열 출력을 위해 조정된 단일 인스턴스와 통신하는 것입니다.

아래는 연결 및 응답 형식을 확인하기 위한 curl을 사용한 최소 예제입니다.

Copycurl https://api.qwenapi.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

응답에는 choices[0].message.content에 생성된 텍스트가 포함됩니다. 창의력을 제어하기 위해 temperature 및 top_p과 같은 매개변수를 조정할 수 있습니다.

스트리밍 응답

실시간 토큰 생성을 위해 스트리밍을 활성화하세요. 서버는 서버 전송 이벤트(SSE)를 보냅니다. 마지막 청크에는 토큰 사용 통계가 포함되어 있어 크레딧 소비를 정확하게 추적할 수 있습니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.qwenapi.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

스트리밍은 긴 출력에 필수적입니다. 스트림을 파싱하고 도착하는 대로 토큰을 렌더링할 수 있습니다. SDK는 SSE 파싱을 자동으로 처리합니다.

함수 호출 지원

요청에 도구를 정의하세요. 모델은 구조화된 도구 호출을 반환합니다. 도구를 실행하고 결과를 다시 전달하면 모델이 계속 진행됩니다. 이는 tool_choice 및 표준 함수 정의와 함께 작동합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.qwenapi.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

response_format을 통해 JSON 모드도 사용할 수 있습니다. 도구 오버헤드 없이 엄격한 JSON 출력이 필요한 경우 사용하세요.

한도, 오류 및 컨텍스트

컨텍스트 창은 총 100,000 토큰입니다. 요청당 최대 출력은 32,000 토큰이며(미지정 시 2,048), 요청 제한은 분당 300개 요청 및 키당 8개의 동시 요청입니다. 요청 본문은 8 MB 미만이어야 합니다.

오류를 처리하세요: 401은 유효하지 않은 키, 402는 크레딧 부족, 429는 요청 제한 초과를 의미합니다. 오류는 무료이며 소모된 토큰에 대해서만 요금이 부과됩니다. 크레딧은 만료되지 않습니다. 중복 과금된 경우 지원 페이지에서 해결하세요.

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)