Dokumentace k API: Model bez omezení

Základní URL a ověření

Použijte vyhrazenou základní URL pro všechny požadavky. Tento endpoint zpracovává generování textu i získávání metadat. Váš API klíč autentizuje každý volání.

Zahrňte klíč do Authorization hlavička. Formát vyžaduje Bearer prefix. Invalid keys return a 401 status code immediately. Do not guess the token format. Use the key shown after signup.

Endpoint Chat Completions

Pošlete zprávy pro generování textových odpovědí. Endpoint přijímá standardní JSON payloady. Jasně definujte role system a user.

Strukturujte své požadavky s model pole nastaveno na uncensored. API zpracovává vstup a vrací vygenerovaný text. Při nedostatečných kreditech vrací chyba stav 402. Překročení limitu rychlosti vyvolá odpověď 429.

Podporované parametry

Ovládejte chování generování pomocí standardních parametrů. Upravte temperature pro kreativitu nebo determinismus. Použijte top_p abyste odfiltrovali tokeny s nízkou pravděpodobností. Nastavte max_tokens omezit délku výstupu. Maximální výchozí hodnota je 2 048 tokenů, pokud není uvedeno jinak.

Můžete také nastavit seed pro reprodukovatelné výsledky. Použijte stop sekvenční pro předčasné zastavení generování. API podporuje presence_penalty a frequency_penalty pro kontrolu stylu.

Streamování a SSE

Povolit výstup v reálném čase nastavením stream na true. Server odesílá Server-Sent Events (SSE), jak jsou generovány tokeny. To snižuje vnímanou latenci u dlouhých odpovědí.

Parsovejte každý kus pro inkrementální aktualizaci uživatelského rozhraní. Poslední kus obsahuje statistiky celkového využití tokenů. Tato metoda spolehlivě funguje se standardními klienty HTTP, které podporují SSE.

Volání funkcí a režim JSON

Definujte nástroje v těle žádosti pro povolení volání funkcí. Model rozhodne, kdy nástroj vyvolat na základě kontextu. Předáte definice nástrojů s name, description, a parameters.

Pro přísný výstup JSON nastavte response_format na {"type": "json_object"}. To zajišťuje, že odpověď je platný JSON. Použijte to pro spolehlivé parsování strukturovaných dat. Volání nástrojů vrací obsah s ID nástrojů pro provedení.

Limity, chyby a kontext

Okno kontextu podporuje celkem 100 000 tokenů. To zahrnuje tokeny promptu i dokončení. Požadavky přesahující tento limit selžou. Maximální velikost těla požadavku je 8 MB.

Omezení rychlosti umožňují 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na 8 na klíč. Chyba 401 znamená, že váš klíč je neplatný. Chyba 402 označuje nedostatek předplaceného kreditu. Chyba 429 signalizuje, že jste dosáhli limitu rychlosti. Počkejte před opakováním.

cURL

Copycurl https://api.toolcallingllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate 200 tokens of safe text"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.toolcallingllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.toolcallingllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)