Hurtig start: Integrer uncensored API

Forudsætninger og base URL

Start med at navigere til Få API-nøgle side. Log ind med Google, eller opret en konto med kun en e-mailadresse. Du modtager en enkelt aktiv nøgle med det samme. Der kræves ikke telefonnummer. Base URL for alle anmodninger er https://api.llmserverless.com/v1. Denne endpoint fungerer med standard OpenAI SDK'er. Skift base-URLen i din klientkonfiguration, så den peger her. Din API-nøgle autentificerer hvert request. Hold den sikker. Det er den eneste legitimationsoplysning, du har brug for til at få adgang til serverløs LLM-infrastruktur.

Autentificering og headers

Hvert request skal indeholde Authorization header med værdien Bearer YOUR_API_KEY. Dette header identificerer din konto og sporer forbruget mod din forudbetalte balance. Uden dette header returnerer serveren en 401-fejl. Serverless LLM API'et er afhængigt af dette standardformat. Sørg for, at dit klientbibliotek injicerer dette header automatisk. Hvis du bruger en rå HTTP-klient, skal du tilføje headeren manuelt. Forkerte nøgler resulterer i øjeblikkelig afvisning. Gyldige nøgler giver dig mulighed for at fortsætte til indholdsgenerering.

At sende din første anmodning

Brug den /v1/chat/completions endpoint til at generere tekst. Modelidentifikatoren er uncensored. Den svarer uden indholdsafslag til lovligt voksenbrug. Send din prompt i messages array. Systemet behandler inputtet og returnerer et svar. Dette er ren inference med nul begrænsninger. Du kan justere parametre som temperature til at kontrollere tilfældighed. Context-vinduet understøtter op til 100,000 tokens. Dette muliggør lange samtaler eller behandling af store dokumenter. Start med en simpel prompt for at verificere forbindelsen.

Streaming-respons med SSE

Indstil stream: true i din anmodningskrop. Serveren sender Server-Sent Events (SSE), der indeholder delvise svar. Dette reducerer den opfattede latens betydeligt. Du modtager tokens, mens de genereres. Den sidste del inkluderer brugsstatistikker. Dette er afgørende for realtidsapplikationer. Bufferingsproblemer er almindelige i tilpassede implementeringer. Håndter SSE-parsing omhyggeligt. Den serverløse LLM-API sikrer konsekvent streaming. Brug dette til chatgrænseflader, hvor øjeblikkelig feedback er vigtig. Det forbedrer brugeroplevelsen dramatisk.

Function calling og JSON-mode

Aktiver funktionskald ved at angive en tools array i din forespørgsel. Modellen kan generere strukturerede værktøjskald. Brug response_format: {"type": "json_object"} for at tvinge JSON-output. Dette er nyttigt til dataudtræksopgaver. Den ubegrænsede LLM-API understøtter disse funktioner fuldt ud. Du kan definere tilpassede værktøjer i dit skema. Modellen overholder den angivne struktur. Dette sikrer pålidelig integration med din backend-logik. Test med enkle værktogsdefinitioner først. Komplekse skemaer kan kræve højere temperaturværdier for fleksibilitet.

Ratebegrænsninger og begrænsninger

Hver API-nøgle er begrænset til 300 anmodninger i minuttet. Du kan have 8 samtidige anmodninger til enhver tid. Størrelsen på anmodningskroppen må ikke overstige 8 MB. Disse grænser forhindrer misbrug og sikrer rimelig brug. Hvis du overskrider rate limit, modtager du en 429-fejl. Øg din konkurrence, hvis det er nødvendigt, ved at bruge flere nøgler. Den serverless LLM API håndterer store volumener effektivt. Overvåg din brug for at undgå uventet throttling. Disse begrænsninger er strenge, men forudsigelige. Planlæg din arkitektur derefter for en jævn drift.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)