API de Llama: primera petición en cinco minutos

llamaapis.com

Instalación

Comienza instalando el cliente oficial de OpenAI para Python. Se encarga de las peticiones HTTP y el análisis JSON por ti.

• pip install openai

También puedes usar el SDK de JavaScript para Node.js. Ambas bibliotecas son totalmente compatibles con nuestra API porque seguimos exactamente la especificación de chat-completions de OpenAI.

Configuración de autenticación

Nuestra API utiliza autenticación estándar con clave de API. Después de registrarte en https://llamaapis.com, recibes una clave inmediatamente. No se requiere tarjeta de crédito para el nivel de prueba.

Almacena esta clave en una variable de entorno o pásala directamente a tu cliente. La clave autentica todas las peticiones a los endpoints /v1. Si pierdes tu clave, puedes regenerarla desde tu panel, lo que invalida la antigua inmediatamente.

Petición básica de finalización de chat

Realiza una petición al endpoint de finalización de chat. Debes establecer la URL base en nuestro servidor y proporcionar tu clave de API.

El ID del modelo es uncensored. Este modelo no aplica filtros de contenido estándar para uso adulto lícito.

Así es como haces una petición simple usando curl:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

La respuesta devuelve una cadena de texto generada. Si necesitas llamadas a funciones, la estructura es idéntica al formato de OpenAI.

Respuestas en streaming (SSE)

Para salida en tiempo real, activa el streaming estableciendo stream: true. El servidor envía Server-Sent Events (SSE) que contienen deltas parciales.

Esto es útil para interfaces de chat donde deseas mostrar el texto a medida que se genera. La ventana de contexto admite hasta 100.000 tokens, por lo que el streaming funciona eficientemente incluso para conversaciones largas.

Ejemplo de implementación en streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Recuerda manejar el evento stop para cerrar la conexión de forma limpia.

Soporte para llamadas a herramientas/funciones

Nuestra API admite llamadas a funciones estructuradas. Define tus funciones en el parámetro tools y establece que el modelo responda con llamadas a funciones.

La biblioteca del cliente analizará automáticamente los argumentos JSON. Esto funciona exactamente como se documenta en la especificación de OpenAI.

Ejemplo usando el SDK de Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

El modelo devolverá el nombre de la función y los argumentos. Ejecutas la función y envías el resultado de nuevo en el siguiente mensaje.

Límites, errores y contexto

Ten en cuenta los siguientes límites:

• Límite de peticiones: 300 peticiones por minuto por clave de API.
• Cuerpo máximo de la petición: 8 MB.
• Ventana de contexto: 100.000 tokens en total (entrada + salida).

Errores comunes:

• 401 No autorizado: Clave de API inválida o faltante.
• 402 Pago requerido: Crédito prepago insuficiente.
• 429 Demasiadas peticiones: Excediste el límite de 300 rpm.

No ofrecemos embeddings, generación de imágenes ni procesamiento de audio. Esta es una API de LLM solo de texto.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);