Llama API: eerste verzoek in vijf minuten

llamaapis.com

Installatie

Installeer eerst de officiële OpenAI Python-client. Deze verwerkt de HTTP-verzoeken en JSON-parsering voor je.

• pip install openai

Je kunt ook de JavaScript SDK voor Node.js gebruiken. Beide bibliotheken zijn volledig compatibel met onze API omdat we de OpenAI chat-completions-specificatie exact volgen.

Authenticatie-instellingen

Onze API gebruikt standaard API-sleutelauthenticatie. Na het aanmaken van een account op https://llamaapis.com ontvang je direct een sleutel. Er is geen creditcard nodig voor de trial tier.

Sla deze sleutel op in een omgevingsvariabele of geef deze direct door aan je client. De sleutel verifieert alle verzoeken naar de /v1 endpoints. Als je je sleutel kwijtraakt, kun je deze opnieuw genereren via je dashboard, waardoor de oude sleutel direct ongeldig wordt.

Eenvoudig chatverzoek

Maak een verzoek naar het chat-completions endpoint. Je moet de basis-URL instellen op onze server en je API-sleutel verstrekken.

De model-ID is uncensored. Dit model past geen standaard inhoudsfilters toe voor wettelijk volwassen gebruik.

Zo maak je een eenvoudig verzoek met curl:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

De respons retourneert een gegenereerde tekstreeks. Als je function calling nodig hebt, is de structuur identiek aan het formaat van OpenAI.

Streaming-antwoorden (SSE)

Schakel streaming in voor realtime output door stream: true in te stellen. De server stuurt Server-Sent Events (SSE) met gedeeltelijke deltas.

Dit is handig voor chatinterfaces waar je tekst wilt tonen terwijl deze wordt gegenereerd. Het contextvenster ondersteunt tot 100.000 tokens, dus streaming werkt efficiënt, zelfs voor lange gesprekken.

Voorbeeld van streaming-implementatie:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Verwerk het stop-gebeurtenis om de verbinding netjes te sluiten.

Ondersteuning voor gereedschaps-/functaanroeping

Onze API ondersteunt gestructureerde gereedschapsaanroepen. Definieer je functies in de parameter tools en stel het model in om te reageren met functaanroepen.

De clientbibliotheek parseert de JSON-argumenten automatisch. Dit werkt exact zoals gedocumenteerd in de OpenAI-specificatie.

Voorbeeld met de Python SDK:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Het model retourneert de functienaam en argumenten. Je voert de functie uit en stuurt het resultaat terug in het volgende bericht.

Limieten, fouten en context

Houd rekening met de volgende limieten:

• Rate limit: 300 verzoeken per minuut per API-sleutel.
• Maximale request body: 8 MB.
• Contextvenster: 100.000 tokens in totaal (input + output).

Veelvoorkomende fouten:

• 401 Unauthorized: Ongeldige of ontbrekende API-sleutel.
• 402 Payment Required: Onvoldoende prepaid tegoed.
• 429 Too Many Requests: Je hebt de limiet van 300 rpm overschreden.

We bieden geen embeddings, image generation of audio processing. Dit is een text-only LLM API.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);