API Llama: primeira requisição em cinco minutos

llamaapis.com

Instalação

Comece instalando o cliente oficial OpenAI para Python. Ele cuida das requisições HTTP e análise JSON para você.

• pip install openai

Você também pode usar o SDK JavaScript para Node.js. Ambas as bibliotecas são totalmente compatíveis com nossa API porque seguimos a especificação de chat-completions da OpenAI exatamente.

Configuração de Autenticação

Nossa API usa autenticação padrão com chave de API. Após entrar em https://llamaapis.com, você recebe uma chave imediatamente. Nenhum cartão de crédito é necessário para o crédito de teste grátis.

Armazene esta chave em uma variável de ambiente ou passe-a diretamente para seu cliente. A chave autentica todas as requisições aos endpoints /v1. Se você perder sua chave, pode regenerá-la no seu painel, o que invalida a antiga imediatamente.

Requisição Básica de Chat

Faça uma requisição ao endpoint de conclusões de chat. Você deve definir o endpoint base para nosso servidor e fornecer sua chave de API.

O ID do modelo é uncensored. Este modelo não aplica filtros de conteúdo padrão para uso adulto lícito.

Veja como fazer uma requisição simples usando curl:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

A resposta retorna uma string de texto gerada. Se você precisar de chamada de funções, a estrutura é idêntica ao formato da OpenAI.

Respostas em Streaming (SSE)

Para saída em tempo real, ative o streaming definindo stream: true. O servidor envia Eventos Enviados pelo Servidor (SSE) contendo deltas parciais.

Isso é útil para interfaces de chat onde você deseja mostrar o texto conforme é gerado. A janela de contexto suporta até 100.000 tokens, então o streaming funciona eficientemente mesmo para conversas longas.

Exemplo de implementação em streaming:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Lembre-se de lidar com o evento stop para fechar a conexão limpidamente.

Suporte a Chamada de Ferramentas/Funções

Nossa API suporta chamada estruturada de ferramentas. Defina suas funções no parâmetro tools e defina o modelo para responder com chamadas de funções.

A biblioteca cliente analisará os argumentos JSON automaticamente. Isso funciona exatamente como documentado na especificação da OpenAI.

Exemplo usando o SDK Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

O modelo retornará o nome da função e os argumentos. Você executa a função e envia o resultado de volta na próxima mensagem.

Limites, Erros e Contexto

Esteja ciente dos seguintes limites:

• Limite de requisições: 300 requisições por minuto por chave de API.
• Corpo máximo da requisição: 8 MB.
• Janela de contexto: 100.000 tokens no total (entrada + saída).

Erros comuns:

• 401 Não Autorizado: Chave de API inválida ou ausente.
• 402 Pagamento Necessário: Crédito pré-pago insuficiente.
• 429 Muitas Requisições: Você excedeu o limite de 300 rpm.

Não oferecemos embeddings, geração de imagens ou processamento de áudio. Esta é uma API LLM apenas para texto.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);