API-dokumentation: uncensored Model

Base URL og autentificering

Brug den dedikerede base-URL til alle anmodninger. Dette endpoint håndterer både tekstgenerering og metadata-hentning. Din API-nøgle autentificerer hvert kald.

Inkluder nøglen i Authorization header. Formatet kræver Bearer præfiks. Ugyldige nøgler returnerer en 401-statuskode med det samme. Gæt ikke token-formatet. Brug nøglen vist efter tilmelding.

Chat Completions Endpoint

Send beskeder for at generere tekst svar. Endepunktet accepterer standard JSON-payloads. Definer dine system- og brugerroller tydeligt.

Strukturer din anmodning med den model felt sat til uncensored. API'et behandler inputtet og returnerer genereret tekst. Fejl returnerer en 402-status, hvis kreditten er utilstrækkelig. Rate limits udløser et 429-svar.

Understøttede parametre

Styr genereringsadfærd med standardparametre. Juster temperature til kreativitet eller determinisme. Brug top_p for at filtrere tokens med lav sandsynlighed. Indstil max_tokens for at begrænse outputlængden. Den maksimale standardværdi er 2.048 tokens, medmindre andet angives.

Du kan også indstille seed for reproducerbare resultater. Brug stop sekvenser til at afbryde genereringen tidligt. API'et understøtter presence_penalty og frequency_penalty til stilkontrol.

Streaming og SSE

Aktiver real-time output ved at indstille stream til true. Serveren sender Server-Sent Events (SSE), mens tokens genereres. Dette reducerer den opfattede latens for lange svar.

Parser hver chunk for at opdatere din UI inkrementelt. Den sidste chunk indeholder de samlede tokenforbrugsstatistikker. Denne metode fungerer pålideligt med standard HTTP-klienter, der understøtter SSE.

Function Calling og JSON-tilstand

Definer værktøjer i din request for at aktivere function calling. Modellen afgør, hvornår et værktøj skal kaldes baseret på kontekst. Send værktogsdefinitioner med name, description, og parameters.

For strengt JSON-output skal du indstille response_format til {"type": "json_object"}. Dette sikrer, at svaret er gyldig JSON. Brug dette til at parse struktureret data pålideligt. Værktøjskald returnerer indhold med værktøjs-ID'er til eksekvering.

Begrænsninger, fejl og kontekst

Kontekstvinduet understøtter i alt 100.000 tokens. Dette inkluderer både prompt- og completion-tokens. Anmodninger, der overstiger denne grænse, fejler. Den maksimale anmodningskropstørrelse er 8 MB.

Rate limits tillader 300 anmodninger i minuttet per nøgle. Samtidige anmodninger er begrænset til 8 per nøgle. En 401-fejl betyder, at din nøgle er ugyldig. En 402-fejl indikerer utilstrækkelig forudbetalt kredit. En 429-fejl signalerer, at du har ramt rate limitet. Vent før du prøver igen.

cURL

Copycurl https://api.toolcallingllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate 200 tokens of safe text"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.toolcallingllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.toolcallingllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)