API Llama: prima richiesta in cinque minuti

llamaapis.com

Installazione

Inizia installando il client Python ufficiale di OpenAI. Gestisce per te le richieste HTTP e l'analisi JSON.

• pip install openai

Puoi anche usare l'SDK JavaScript per Node.js. Entrambe le librerie sono pienamente compatibili con la nostra API perché seguiamo esattamente la specifica di chat-completions di OpenAI.

Configurazione autenticazione

La nostra API utilizza l'autenticazione standard con chiave API. Dopo esserti registrato su https://llamaapis.com, ricevi una chiave immediatamente. Non è richiesta la carta di credito per il livello di prova.

Memorizza questa chiave in una variabile d'ambiente o passala direttamente al tuo client. La chiave autentica tutte le richieste agli endpoint /v1. Se perdi la chiave, puoi rigenerarla dal tuo dashboard, il che invalida immediatamente quella vecchia.

Richiesta di completamento chat di base

Effettua una richiesta all'endpoint di completamento chat. Devi impostare il base URL sul nostro server e fornire la tua chiave API.

L'ID del modello è uncensored. Questo modello non applica i filtri standard sui contenuti per uso adulto lecito.

Ecco come effettuare una semplice richiesta con curl:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

La risposta restituisce una stringa di testo generata. Se hai bisogno della chiamata di funzioni, la struttura è identica a quella di OpenAI.

Risposte in streaming (SSE)

Per l'output in tempo reale, abilita lo streaming impostando stream: true. Il server invia Server-Sent Events (SSE) contenenti delta parziali.

Questo è utile per le interfacce chat dove vuoi mostrare il testo man mano che viene generato. La finestra di contesto supporta fino a 100.000 token, quindi lo streaming funziona in modo efficiente anche per conversazioni lunghe.

Esempio di implementazione streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ricorda di gestire l'evento stop per chiudere la connessione in modo pulito.

Supporto chiamata di funzioni

La nostra API supporta la chiamata strutturata di strumenti. Definisci le tue funzioni nel parametro tools e imposta il modello per rispondere con chiamate di funzioni.

La libreria client analizzerà automaticamente gli argomenti JSON. Questo funziona esattamente come documentato nella specifica OpenAI.

Esempio usando l'SDK Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Il modello restituirà il nome della funzione e gli argomenti. Esecuti la funzione e invii il risultato nel messaggio successivo.

Limiti, errori e contesto

Tieni presente i seguenti limiti:

• Limite di richieste: 300 richieste al minuto per chiave API.
• Dimensione massima del corpo della richiesta: 8 MB.
• Finestra di contesto: 100.000 token totali (input + output).

Errori comuni:

• 401 Non autorizzato: Chiave API non valida o mancante.
• 402 Pagamento richiesto: Credito prepagato insufficiente.
• 429 Troppe richieste: Hai superato il limite di 300 rpm.

Non offriamo embeddings, generazione di immagini o elaborazione audio. Questa è un'API LLM solo testo.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);