Tài liệu API: Mô hình không kiểm duyệt

Base URL và Xác thực

Sử dụng URL cơ sở chuyên dụng cho tất cả các yêu cầu. Điểm cuối này xử lý cả việc tạo văn bản và truy xuất siêu dữ liệu. Khóa API của bạn xác thực mọi lệnh gọi.

Bao gồm khóa trong Authorization header. Định dạng yêu cầu Bearer prefix. Khóa không hợp lệ trả về mã trạng thái 401 ngay lập tức. Đừng đoán định dạng token. Sử dụng khóa hiển thị sau khi đăng ký.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn để tạo phản hồi văn bản. Endpoint chấp nhận các tải trọng JSON tiêu chuẩn. Xác định rõ ràng các vai trò system và user của bạn.

Cấu trúc yêu cầu của bạn với model field được đặt thành uncensored. API xử lý đầu vào và trả về văn bản được tạo. Lỗi trả về trạng thái 402 nếu tín dụng không đủ. Giới hạn tỷ lệ kích hoạt phản hồi 429.

Các tham số được hỗ trợ

Kiểm soát hành vi sinh văn bản bằng các tham số tiêu chuẩn. Điều chỉnh temperature để sáng tạo hoặc tính xác định. Sử dụng top_p để lọc các token có xác suất thấp. Đặt max_tokens để giới hạn độ dài đầu ra. Giới hạn tối đa mặc định là 2.048 token trừ khi được chỉ định khác.

Bạn cũng có thể đặt seed để có kết quả có thể tái lập. Sử dụng stop chuỗi để dừng quá trình tạo sớm. API hỗ trợ presence_penalty và frequency_penalty cho kiểm soát phong cách.

Streaming và SSE

Bật đầu ra thời gian thực bằng cách đặt stream để true. Máy chủ gửi Các sự kiện được gửi bởi máy chủ (SSE) khi các token được tạo. Điều này giảm độ trễ cảm nhận được cho các phản hồi dài.

Phân tích từng chunk để cập nhật giao diện người dùng của bạn theo từng bước. Chunk cuối cùng chứa thống kê sử dụng token tổng thể. Phương pháp này hoạt động đáng tin cậy với các máy khách HTTP tiêu chuẩn hỗ trợ SSE.

Function Calling và chế độ JSON

Định nghĩa các công cụ trong yêu cầu của bạn để kích hoạt gọi hàm. Mô hình quyết định khi nào gọi công cụ dựa trên ngữ cảnh. Truyền các định nghĩa công cụ với name, description, và parameters.

Đối với đầu ra JSON nghiêm ngặt, hãy đặt response_format để {"type": "json_object"}. Điều này đảm bảo phản hồi là JSON hợp lệ. Sử dụng điều này để phân tích cú pháp dữ liệu có cấu trúc một cách đáng tin cậy. Các lệnh gọi công cụ trả về nội dung với ID công cụ để thực thi.

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token. Điều này bao gồm cả token prompt và completion. Các yêu cầu vượt quá giới hạn này sẽ thất bại. Kích thước thân yêu cầu tối đa là 8 MB.

Giới hạn tốc độ cho phép 300 yêu cầu mỗi phút cho mỗi khóa. Yêu cầu đồng thời được giới hạn ở 8 cho mỗi khóa. Lỗi 401 có nghĩa là khóa của bạn không hợp lệ. Lỗi 402 cho biết không đủ tín dụng trả trước. Lỗi 429 báo hiệu bạn đã đạt giới hạn tốc độ. Hãy đợi trước khi thử lại.

cURL

Copycurl https://api.toolcallingllms.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate 200 tokens of safe text"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.toolcallingllms.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.toolcallingllms.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)