Швидкий старт: Інтегруйте необмежений API

Передумови та базовий URL

Почніть із навігації до Отримати API-ключ сторінка. Увійдіть через Google або створіть обліковий запис, вказавши лише адресу електронної пошти. Ви одразу отримуєте один активний ключ. Номер телефону не потрібен. Базовий URL для всіх запитів: https://api.llmserverless.com/v1. Цей ендпоінт працює зі стандартними SDK OpenAI. Змініть базовий URL у конфігурації вашого клієнта, щоб вказати на цей адрес. Ваш API-ключ автентифікує кожен запит. Зберігайте його в безпеці. Це єдина облікова запис, необхідна для доступу до серверної LLM-інфраструктури.

Автентифікація та заголовки

Кожен запит має містити Authorization header зі значенням Bearer YOUR_API_KEY. Цей заголовок ідентифікує ваш акаунт та відстежує використання проти вашого передоплаченого балансу. Без цього заголовка сервер повертає помилку 401. API безсерверної LLM-моделі покладається на цей стандартний формат. Переконайтеся, що ваша бібліотека клієнта автоматично вставляє цей заголовок. Якщо ви використовуєте клієнт HTTP без абстракцій, додайте заголовок вручну. Неправильні ключі призводять до миттєвого відхилення. Дійсні ключі дозволяють вам перейти до генерації контенту.

Надсилання вашого першого запиту

Використовуйте /v1/chat/completions ендпоінт для генерації тексту. Ідентифікатор моделі uncensored. Він відповідає без відмов контенту для законного дорослого використання. Надішліть свій запит у messages масив. Система обробляє вхідні дані та повертає відповідь. Це чисте висновкування без жодних обмежень. Ви можете налаштувати параметри, такі як temperature для контролю випадковості. Контекстне вікно підтримує до 100 000 токенів. Це дозволяє довгі розмови або обробку великих документів. Почніть з простого запиту, щоб перевірити підключення.

Потокова передача відповідей з SSE

Встановити stream: true у тілі вашого запиту. Сервер надсилає події, надіслані сервером (SSE), що містять часткові відповіді. Це значно зменшує сприйняту затримку. Ви отримуєте токени по мірі їх генерації. Останній фрагмент містить статистику використання. Це критично важливо для додатків реального часу. Проблеми з буферизацією поширені в користувацьких реалізаціях. Обережно обробляйте парсинг SSE. API безсерверної LLM забезпечує стабільний потоковий режим. Використовуйте це для чат-інтерфейсів, де важливий миттєвий зворотний зв’язок. Це значно покращує користувацький досвід.

Виклик функцій та режим JSON

Увімкнути виклик функцій, надавши tools масив у вашому запиті. Модель може генерувати структуровані виклики інструментів. Використовуйте response_format: {"type": "json_object"} щоб забезпечити вивід у форматі JSON. Це корисно для задач видобутку даних. uncensored LLM API повністю підтримує ці функції. Ви можете визначити власні інструменти у своїй схемі. Модель дотримується наданої структури. Це забезпечує надійну інтеграцію з логікою вашого бекенду. Тестуйте спочатку з простими визначеннями інструментів. Складні схеми можуть вимагати вищих значень temperature для гнучкості.

Ліміти частоти запитів та обмеження

Кожний API-ключ обмежено 300 запитами на хвилину. Ви можете мати 8 одночасних запитів у будь-який час. Розмір тіла запиту не повинен перевищувати 8 МБ. Ці обмеження запобігають зловживанням та забезпечують справедливе використання. Якщо ви перевищите ліміт швидкості, ви отримаєте помилку 429. Збільште паралелізм за необхідності, використовуючи кілька ключів. Серверна API для LLM ефективно обробляє великі обсяги. Спостерігайте за своїм використанням, щоб уникнути несподіваного обмеження швидкості. Ці обмеження є суворими, але передбачуваними. Плануйте свою архітектуру відповідно для безперебійної роботи.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)