Dokumentasi API: Model uncensored

URL Asas dan Pengesahan

Gunakan URL asas khusus untuk semua permintaan. Penamat ini mengendalikan penjanaan teks dan pengambilan metadata. Kunci API anda mengesahkan setiap panggilan.

Termasuk kunci dalam Authorization header. The format requires the Bearer awalan. Kunci tidak sah mengembalikan kod status 401 serta-merta. Jangan teka format token. Gunakan kunci yang ditunjukkan selepas pendaftaran.

Hujung Sambungan Penyelesaian Sembang

Hantar mesej untuk menjana respons teks. Hujung titik ini menerima beban kerja JSON piawai. Tentukan peranan sistem dan pengguna anda dengan jelas.

Struktur permintaan anda dengan model field set to uncensored. API memproses input dan mengembalikan teks yang dijana. Ralat mengembalikan status 402 jika kredit tidak mencukupi. Had kadar mencetuskan respons 429.

Parameter Disokong

Kawal tingkah laku penjanaan dengan parameter standard. Laraskan temperature untuk kreativiti atau determinisme. Gunakan top_p untuk menapis token berkebarangkalian rendah. Tetapkan max_tokens untuk membatasi panjang output. Maksimum lalai ialah 2,048 token melainkan dinyatakan sebaliknya.

Anda juga boleh menetapkan seed untuk keputusan yang boleh diulang. Gunakan stop jujukan untuk menghentikan penjanaan awal. API menyokong presence_penalty dan frequency_penalty untuk kawalan gaya.

Streaming dan SSE

Aktifkan output masa nyata dengan menetapkan stream ke true. Pelayan menghantar Acara Dihantar Pelayan (SSE) apabila token dijana. Ini mengurangkan latensi yang dirasakan untuk respons panjang.

Uraikan setiap pecahan untuk mengemas kini UI anda secara berperingkat. Pecahan akhir mengandungi statistik penggunaan token jumlah. Kaedah ini berfungsi dengan boleh dipercayai dengan klien HTTP piawai yang menyokong SSE.

Panggilan Fungsi dan Mod JSON

Takrifkan alat dalam permintaan anda untuk membolehkan panggilan fungsi. Model memutuskan bila untuk memanggil alat berdasarkan konteks. Hantar takrifan alat dengan name, description, dan parameters.

Untuk output JSON yang ketat, tetapkan response_format ke {"type": "json_object"}. Ini memastikan respons adalah JSON yang sah. Gunakan ini untuk menguraikan data terstruktur dengan boleh dipercayai. Panggilan alat mengembalikan kandungan dengan ID alat untuk pelaksanaan.

Had, Ralat, dan Konteks

Jendela konteks menyokong jumlah 100,000 token. Ini termasuk token prompt dan penyelesaian. Permintaan melebihi had ini gagal. Saiz badan permintaan maksimum ialah 8 MB.

Rate limits allow 300 requests per minute per key. Concurrent requests are capped at 8 per key. A 401 error means your key is invalid. A 402 error indicates insufficient prepaid credit. A 429 error signals you have hit the rate limit. Wait before retrying.

cURL

Copycurl https://api.toolcallingllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate 200 tokens of safe text"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.toolcallingllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.toolcallingllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)