Документація API: uncensored Model

Базова URL-адреса та аутентифікація

Використовуйте виділену базову URL-адресу для всіх запитів. Цей ендпоінт обробляє як генерацію тексту, так і отримання метаданих. Ваш API-ключ автентифікує кожен виклик.

Включіть ключ у Authorization header. Формат вимагає Bearer prefix. Невірні ключі повертають статус-код 401 миттєво. Не вгадуйте формат токена. Використовуйте ключ, показаний після реєстрації.

Ендпоінт Chat Completions

Надсилайте повідомлення для генерації текстових відповідей. Ендпоінт приймає стандартні JSON-пакети. Чітко визначте ролі system та user.

Структуруйте запит із model field встановлено на uncensored. API обробляє вхід і повертає згенерований текст. Помилки повертають статус 402, якщо кредитів недостатньо. Ліміти швидкості викликають відповідь 429.

Підтримувані параметри

Керуйте поведінкою генерації за допомогою стандартних параметрів. Налаштуйте temperature для творчості чи детермінованості. Використовуйте top_p щоб відфільтрувати токени з низькою ймовірністю. Встановіть max_tokens щоб обмежити довжину виводу. Максимальне значення за замовчуванням становить 2 048 токенів, якщо не вказано інакше.

Ви також можете встановити seed для відтворюваних результатів. Використовуйте stop послідовності для дострокової зупинки генерації. API підтримує presence_penalty та frequency_penalty для контролю стилю.

Потокова передача та SSE

Увімкнути вивід у реальному часі, встановивши stream до true. Сервер надсилає події, надіслані сервером (SSE), по мірі генерації токенів. Це зменшує сприйняту затримку для довгих відповідей.

Парсуйте кожен чанк, щоб поступово оновлювати ваш інтерфейс. Останній чанк містить статистику загального використання токенів. Цей метод надійно працює зі стандартними HTTP-клієнтами, які підтримують SSE.

Function Calling та режим JSON

Визначте інструменти в тілі запиту, щоб увімкнути виклик функцій. Модель вирішує, коли викликати інструмент, на основі контексту. Передайте визначення інструментів з name, description, а також parameters.

Для суворого виводу JSON встановіть response_format до {"type": "json_object"}. Це забезпечує, що відповідь є дійсним JSON. Використовуйте це для надійного парсингу структурованих даних. Виклики інструментів повертають вміст із ідентифікаторами інструментів для виконання.

Ліміти, помилки та контекст

Вікно контексту підтримує загальну кількість 100 000 токенів. Це включає токени prompt та completion. Запити, що перевищують цей ліміт, завершуються помилкою. Максимальний розмір тіла запиту становить 8 МБ.

Ліміти дозволяють 300 запитів на хвилину на ключ. Паралельні запити обмежені 8 на ключ. Помилка 401 означає, що ваш ключ недійсний. Помилка 402 вказує на недостатність попередньо оплаченого кредиту. Помилка 429 сигналізує про перевищення ліміту швидкості. Зачекайте перед повторною спробою.

cURL

Copycurl https://api.toolcallingllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate 200 tokens of safe text"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.toolcallingllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.toolcallingllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)