API-dokumentation: uncensored Model

Bas URL och autentisering

Använd dedikerad bas-URL för alla begäranden. Denna slutpunkt hanterar både textgenerering och metadatahämtning. Din API-nyckel autentiserar varje anrop.

Inkludera nyckeln i Authorization header. Formatet kräver att Bearer prefix. Ogiltiga nycklar returnerar en 401-statuskod omedelbart. Gissa inte token-formatet. Använd nyckeln som visas efter registrering.

Slutpunkt för chattkomplettering

Skicka meddelanden för att generera text svar. Slutpunkten accepterar standard JSON-payloads. Definiera dina system- och användarroller tydligt.

Strukturera din begäran med model field set to uncensored. API:et bearbetar inmatningen och returnerar genererad text. Fel returnerar en 402-status om kredit är otillräcklig. Hastighetsbegränsningar utlöser ett 429-svar.

Stödda parametrar

Styr genereringsbeteendet med standardparametrar. Justera temperature för kreativitet eller determinism. Använd top_p för att filtrera låg-sannolikhets-tokens. Ställ in max_tokens att begränsa utdatalängd. Standardmax är 2 048 tokens om inget annat anges.

Du kan också ställa in seed för reproducerbara resultat. Använd stop sekvenser för att avbryta genereringen i förtid. API:et stödjer presence_penalty och frequency_penalty för stilkontroll.

Streaming och SSE

Aktivera realtidsoutput genom att ställa in stream för true. Servern skickar Server-Sent Events (SSE) när tokens genereras. Detta minskar uppfattad latens för långa svar.

Analysera varje chunk för att uppdatera ditt gränssnitt inkrementellt. Den sista chunken innehåller statistik över total tokenanvändning. Denna metod fungerar tillförlitligt med standard HTTP-klienter som stöder SSE.

Funktionsanrop och JSON-läge

Definiera verktyg i din begäran för att aktivera funktionsanrop. Modellen bestämmer när ett verktyg ska anropas baserat på kontext. Skicka verktsdefinitioner med name, description, och parameters.

För strikt JSON-utdata, ställ in response_format för {"type": "json_object"}. Detta säkerställer att svaret är giltig JSON. Använd detta för att parsas strukturerad data pålitligt. Verktygsanrop returnerar innehåll med verktygs-ID:n för exekvering.

Gränser, fel och kontext

Kontextrutan stöder totalt 100 000 tokens. Detta inkluderar både prompt- och svarstokens. Begäran som överskrider denna gräns misslyckas. Maximal storlek för begärans kropp är 8 MB.

Begäransgränser tillåter 300 begäranden per minut per nyckel. Parallella begäranden är begränsade till 8 per nyckel. Ett 401-fel betyder att din nyckel är ogiltig. Ett 402-fel indikerar otillräcklig förbetald kredit. Ett 429-fel signalerar att du har nått begäransgränsen. Vänta innan du försöker igen.

cURL

Copycurl https://api.toolcallingllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate 200 tokens of safe text"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.toolcallingllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.toolcallingllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)