Hướng dẫn nhanh: Tích hợp API không kiểm duyệt

Điều kiện tiên quyết và base URL

Bắt đầu bằng cách điều hướng đến Lấy khóa API trang. Đăng nhập bằng Google hoặc tạo tài khoản chỉ với địa chỉ email. Bạn nhận được một khóa hoạt động duy nhất ngay lập tức. Không cần số điện thoại. URL cơ sở cho tất cả các yêu cầu là https://api.llmserverless.com/v1. Endpoint này hoạt động với các SDK OpenAI tiêu chuẩn. Thay đổi base URL trong cấu hình client của bạn để trỏ đến đây. API key của bạn xác thực mọi yêu cầu. Hãy giữ nó an toàn. Đây là thông tin xác thực duy nhất bạn cần để truy cập cơ sở hạ tầng LLM không máy chủ.

Xác thực và headers

Mỗi yêu cầu phải bao gồm Authorization header với giá trị Bearer YOUR_API_KEY. Tiêu đề này xác định tài khoản của bạn và theo dõi việc sử dụng đối với số dư trả trước của bạn. Không có tiêu đề này, máy chủ trả về lỗi 401. API LLM không máy chủ dựa trên định dạng tiêu chuẩn này. Đảm bảo thư viện khách hàng của bạn tự động tiêm tiêu đề này. Nếu bạn đang sử dụng máy chủ HTTP thô, hãy thêm tiêu đề thủ công. Khóa không hợp lệ dẫn đến việc từ chối ngay lập tức. Khóa hợp lệ cho phép bạn tiếp tục tạo nội dung.

Gửi yêu cầu đầu tiên của bạn

Sử dụng /v1/chat/completions endpoint để tạo văn bản. Định danh mô hình là uncensored. Nó trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp. Gửi prompt của bạn trong messages mảng. Hệ thống xử lý đầu vào và trả về phản hồi. Đây là suy luận thuần túy với không giới hạn. Bạn có thể điều chỉnh các tham số như temperature để kiểm soát tính ngẫu nhiên. Cửa sổ ngữ cảnh hỗ trợ lên đến 100,000 token. Điều này cho phép các cuộc trò chuyện dài hoặc xử lý tài liệu lớn. Bắt đầu với một lời nhắc đơn giản để xác minh kết nối.

Phản hồi dạng stream với SSE

Đặt stream: true trong thân yêu cầu của bạn. Máy chủ gửi Sự kiện được gửi bởi máy chủ (SSE) chứa các phản hồi một phần. Điều này giảm đáng kể độ trễ cảm nhận. Bạn nhận được token khi chúng được tạo. Chunk cuối cùng bao gồm thống kê sử dụng. Điều này rất quan trọng đối với các ứng dụng theo thời gian thực. Các vấn đề bộ đệm thường xảy ra trong các triển khai tùy chỉnh. Xử lý việc phân tích cú pháp SSE cẩn thận. API LLM không máy chủ đảm bảo luồng dữ liệu nhất quán. Sử dụng điều này cho các giao diện trò chuyện nơi phản hồi tức thì rất quan trọng. Nó cải thiện trải nghiệm người dùng một cách đáng kể.

Gọi hàm và chế độ JSON

Bật gọi hàm bằng cách cung cấp một tools mảng trong yêu cầu của bạn. Mô hình có thể tạo các lệnh gọi công cụ có cấu trúc. Sử dụng response_format: {"type": "json_object"} để bắt buộc đầu ra JSON. Điều này hữu ích cho các nhiệm vụ trích xuất dữ liệu. API LLM không kiểm duyệt hỗ trợ đầy đủ các tính năng này. Bạn có thể xác định các công cụ tùy chỉnh trong lược đồ của mình. Mô hình tuân thủ cấu trúc được cung cấp. Điều này đảm bảo tích hợp đáng tin cậy với logic backend của bạn. Kiểm tra với các định nghĩa công cụ đơn giản trước. Các lược đồ phức tạp có thể yêu cầu giá trị nhiệt độ cao hơn để linh hoạt.

Giới hạn tốc độ và các ràng buộc

Mỗi khóa API được giới hạn ở 300 yêu cầu mỗi phút. Bạn có thể có 8 yêu cầu đồng thời bất cứ lúc nào. Kích thước phần thân yêu cầu không được vượt quá 8 MB. Các giới hạn này ngăn chặn lạm dụng và đảm bảo sử dụng công bằng. Nếu bạn vượt quá giới hạn tỷ lệ, bạn sẽ nhận được lỗi 429. Tăng độ đồng thời của bạn nếu cần bằng cách sử dụng nhiều khóa. API LLM serverless xử lý khối lượng lớn một cách hiệu quả. Theo dõi việc sử dụng của bạn để tránh việc giảm tốc không mong muốn. Các ràng buộc này nghiêm ngặt nhưng có thể dự đoán được. Hãy lập kế hoạch kiến trúc của bạn phù hợp để hoạt động mượt mà.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)