Llama API: 5분 내 첫 요청

llamaapis.com

설치

공식 OpenAI Python 클라이언트를 설치하세요. HTTP 요청 및 JSON 파싱을 처리합니다.

• pip install openai

Node.js용 JavaScript SDK도 사용할 수 있습니다. 두 라이브러리 모두 OpenAI 채팅 완성 사양을 정확히 따르기 때문에 당사 API와 완전히 호환됩니다.

인증 설정

당사 API는 표준 API 키 인증을 사용합니다. https://llamaapis.com에서 가입하면 즉시 키를 받습니다. 체험 등급에는 신용카드가 필요하지 않습니다.

이 키를 환경 변수에 저장하거나 클라이언트에 직접 전달하세요. 이 키는 /v1 엔드포인트로의 모든 요청을 인증합니다. 키를 분실하면 대시보드에서 재생성할 수 있으며, 기존 키는 즉시 무효화됩니다.

기본 채팅 완성 요청

채팅 완성 엔드포인트로 요청을 보내세요. 기본 URL을 당사 서버로 설정하고 API 키를 제공해야 합니다.

모델 ID는 uncensored입니다. 이 모델은 법적인 성인 용도로 표준 콘텐츠 필터를 적용하지 않습니다.

curl을 사용한 간단한 요청 방법은 다음과 같습니다:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

응답은 생성된 텍스트 문자열을 반환합니다. 함수 호출이 필요한 경우 구조는 OpenAI 형식과 동일합니다.

스트리밍 응답(SSE)

실시간 출력을 위해 stream: true를 설정하여 스트리밍을 활성화하세요. 서버는 부분 델타를 포함하는 서버 전송 이벤트(SSE)를 보냅니다.

텍스트가 생성되는 대로 표시하려는 채팅 인터페이스에 유용합니다. 컨텍스트 창은 최대 100,000 토큰을 지원하므로 긴 대화에서도 스트리밍이 효율적으로 작동합니다.

스트리밍 구현 예시:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

stop 이벤트를 처리하여 연결을 깔끔하게 종료하세요.

도구/함수 호출 지원

당사 API는 구조화된 도구 호출을 지원합니다. tools 매개변수에 함수를 정의하고 모델이 함수 호출로 응답하도록 설정하세요.

클라이언트 라이브러리는 JSON 인수를 자동으로 구문 분석합니다. 이는 OpenAI 사양에 문서화된 방식과 정확히 동일하게 작동합니다.

Python SDK 사용 예시:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

모델은 함수 이름과 인수를 반환합니다. 함수를 실행한 후 결과를 다음 메시지로 보냅니다.

제한, 오류 및 컨텍스트

다음 제한 사항을 유의하세요:

• 속도 제한: API 키당 분당 300개 요청.
• 최대 요청 본문: 8 MB.
• 컨텍스트 창: 총 100,000 토큰(입력 + 출력).

일반적인 오류:

• 401 Unauthorized: 유효하지 않거나 누락된 API 키.
• 402 Payment Required: 선불 크레딧 부족.
• 429 Too Many Requests: 분당 300개 제한을 초과했습니다.

임베딩, 이미지 생성 또는 오디오 처리를 제공하지 않습니다. 이는 텍스트 전용 LLM API입니다.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);