Llama API: İlk istek beş dakika içinde

llamaapis.com

Kurulum

Resmi OpenAI Python istemcisini yükleyerek başlayın. HTTP isteklerini ve JSON ayrışmasını sizin için halleder.

• pip install openai

Node.js için JavaScript SDK'sını da kullanabilirsiniz. Her iki kütüphane de OpenAI sohbet-tamamlama spesifikasyonunu tam olarak takip ettiğimiz için API'mizle tam uyumludur.

Kimlik Doğrulama Kurulumu

API'miz standart API anahtarı kimlik doğrulaması kullanır. https://llamaapis.com adresinde kaydolduktan sonra anahtarınızı hemen alırsınız. Deneme katmanı için kredi kartı gerekmez.

Bu anahtarı bir ortam değişkeninde saklayın veya istemcinize doğrudan iletin. Anahtar, /v1 uç noktalarına yapılan tüm istekleri kimlik doğrular. Anahtarınızı kaybederseniz, eskiyi hemen geçersiz kılan anahtarı panelden yeniden oluşturabilirsiniz.

Temel Sohbet Tamamlama İsteği

Sohbet tamamlama uç noktasına bir istek yapın. Temel URL'yi sunucumuza ayarlamanız ve API anahtarınızı sağlamanız gerekir.

Model ID'si uncensored şeklindedir. Bu model, yasal yetişkin kullanımı için standart içerik filtrelerini uygulamaz.

Basit bir istek curl kullanarak şu şekilde yapılır:

Copycurl https://api.llamaapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Yanıt, oluşturulan bir metin dizesi döndürür. Fonksiyon çağırma gerekiyorsa yapı, OpenAI formatıyla aynıdır.

Akış Yanıtları (SSE)

Gerçek zamanlı çıktı için stream: true ayarını yaparak akış özelliğini etkinleştirin. Sunucu, kısmi delta verileri içeren Sunucu Tarafından Gönderilen Olaylar (SSE) gönderir.

Metnin oluşturulurken gösterildiği sohbet arayüzleri için kullanışlıdır. Bağlam penceresi 100.000 tokena kadar destekler, bu nedenle uzun konuşmalar için akış verimli çalışır.

Örnek akış uygulaması:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bağlantıyı temiz bir şekilde kapatmak için stop olayını işlediğinizden emin olun.

Araç/Fonksiyon Çağırma Desteği

API'miz yapılandırılmış fonksiyon çağırma özelliğini destekler. İşlevlerinizi tools parametresi içinde tanımlayın ve modeli fonksiyon çağrılarıyla yanıt verecek şekilde ayarlayın.

İstemci kütüphanesi JSON argümanlarını otomatik olarak ayrıştırır. Bu, OpenAI spesifikasyonunda belgelendiği gibi çalışır.

Python SDK ile örnek:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamaapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Model fonksiyon adını ve argümanları döndürür. Fonksiyonu çalıştırır ve sonucu bir sonraki mesajda gönderirsiniz.

Limitler, Hatalar ve Bağlam

Aşağıdaki limitlere dikkat edin:

• Hız limiti: API anahtarı başına dakikada 300 istek.
• Maksimum istek gövdesi: 8 MB.
• Bağlam penceresi: Toplam 100.000 token (girdi + çıktı).

Yaygın hatalar:

• 401 Yetkisiz: Geçersiz veya eksik API anahtarı.
• 402 Ödeme Gerekli: Yetersiz ön ödemeli kredi.
• 429 Çok Fazla İstek: Dakikada 300 istek limitini aştınız.

Gömme (embedding), görüntü oluşturma veya ses işleme sunmuyoruz. Bu metin tabanlı bir LLM API'sidir.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamaapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);