Llama-API: Erste Anfrage in fünf Minuten

llamaapis.com

Installation

Beginne mit der Installation des offiziellen OpenAI Python-Clients. Er übernimmt die HTTP-Anfragen und die JSON-Parsing für dich.

• pip install openai

Du kannst auch das JavaScript SDK für Node.js verwenden. Beide Bibliotheken sind vollständig mit unserer API kompatibel, da wir die OpenAI-Chat-Vervollständigungs-Spezifikation genau befolgen.

Authentifizierung einrichten

Unsere API verwendet die Standard-API-Schlüssel-Authentifizierung. Nach der Anmeldung unter https://llamaapis.com erhältst du sofort einen Schlüssel. Für die Teststufe ist keine Kreditkarte erforderlich.

Speichere diesen Schlüssel in einer Umgebungsvariable oder übergebe ihn direkt an deinen Client. Der Schlüssel authentifiziert alle Anfragen an die /v1-Endpunkte. Wenn du deinen Schlüssel verlierst, kannst du ihn über dein Dashboard neu generieren, wodurch der alte sofort ungültig wird.

Einfache Chat-Vervollständigungsanfrage

Stelle eine Anfrage an den Chat-Vervollständigungs-Endpunkt. Du musst die Basis-URL auf unseren Server setzen und deinen API-Schlüssel angeben.

Die Modell-ID ist uncensored. Dieses Modell wendet keine Standard-Inhaltsfilter für die rechtmäßige Nutzung durch Erwachsene an.

So stellst du eine einfache Anfrage mit curl:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Die Antwort gibt einen generierten Textstring zurück. Wenn du Function Calling benötigst, ist die Struktur identisch mit dem OpenAI-Format.

Streaming-Antworten (SSE)

Aktiviere für Echtzeit-Ausgaben das Streaming, indem du stream: true setzt. Der Server sendet Server-Sent Events (SSE), die partielle Delta-Werte enthalten.

Dies ist nützlich für Chat-Schnittstellen, in denen du Text anzeigen möchtest, während er generiert wird. Das Kontextfenster unterstützt bis zu 100.000 Token, sodass das Streaming auch bei langen Gesprächen effizient funktioniert.

Beispiel für eine Streaming-Implementierung:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Denke daran, das stop-Ereignis zu behandeln, um die Verbindung sauber zu schließen.

Tool-/Function-Calling-Unterstützung

Unsere API unterstützt strukturiertes Tool-Calling. Definiere deine Funktionen im tools-Parameter und stelle das Modell so ein, dass es mit Function Calls antwortet.

Die Client-Bibliothek parst die JSON-Argumente automatisch. Dies funktioniert genau wie in der OpenAI-Spezifikation dokumentiert.

Beispiel mit dem Python SDK:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Das Modell gibt den Funktionsnamen und die Argumente zurück. Du führst die Funktion aus und sendst das Ergebnis in der nächsten Nachricht zurück.

Grenzen, Fehler und Kontext

Beachte die folgenden Grenzen:

• Ratenlimit: 300 Anfragen pro Minute pro API-Schlüssel.
• Maximaler Anfragekörper: 8 MB.
• Kontextfenster: 100.000 Token insgesamt (Input + Output).

Häufige Fehler:

• 401 Unauthorized: Ungültiger oder fehlender API-Schlüssel.
• 402 Payment Required: Unzureichendes Prepaid-Guthaben.
• 429 Too Many Requests: Du hast das 300-rpm-Limit überschritten.

Wir bieten keine Embeddings, Bildgenerierung oder Audioverarbeitung an. Dies ist eine nur-Text-LLM-API.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);