Gyors bevezetés: Integálja az uncensored API-t

Előfeltételek és base URL

Kezdjen navigálni a API kulcs beszerzése oldal. Jelentkezz be Google-fiókkal, vagy hozz létre egy fiókot csak e-mail címmel. Azonnal kapsz egy aktív kulcsot. Nincs szükség telefonszámra. Az összes kérés alap URL-je https://api.llmserverless.com/v1. Ez a végpont a standard OpenAI SDK-kkal működik. A kliens konfigurációban megváltoztatott base URL-re kell mutatnia. API-kulcsa hitelesíti a kéréseket. Tartsa biztonságban. Ez az egyetlen hitelesítő adat, amelyre szüksége van a szerver nélküli LLM infrastruktúrához.

Hitelesítés és fejlécek

Minden kérés tartalmazza a Authorization fej a Bearer YOUR_API_KEY. Ez a fejléc azonosítja a fiókodat és nyomon követi a használatot a feltöltött egyenleged ellen. Enélkül a szerver 401-es hibát ad vissza. A szerver nélküli LLM API erre a szabványos formátumra támaszkodik. Győződj meg róla, hogy a klienskönyvtárad automatikusan beinjektálja ezt a fejlécet. Ha egy nyers HTTP klienst használsz, add hozzá a fejlécet manuálisan. A helytelen kulcsok azonnali elutasításhoz vezetnek. Az érvényes kulcsok lehetővé teszik, hogy folytasd a tartalom generálását.

Az első kérés küldése

Használja a /v1/chat/completions endpoint szöveggenerálásra. A modell azonosítója uncensored.Válaszol tartalom-visszautasítás nélkül jogszerű felnőtt tartalomhoz. Küldje el a promptját a messages tömb. A rendszer feldolgozza a bemenetet, és visszaad egy választ. Ez tisztán inference, korlátozások nélkül. Beállíthat paramétereket, mint például temperature a véletlenszerűség vezérlését. A kontextusablak akár 100 000 token támogatását kínálja. Ez lehetővé teszi a hosszú beszélgetéseket vagy nagy dokumentumok feldolgozását. Kezdje egy egyszerű promptdal a kapcsolódás ellenőrzéséhez.

Streamelt válaszok SSE-vel

Beállítás stream: true a kéréstörzsben. A szerver Server-Sent Events (SSE) formátumban ad vissza parciális válaszokat. Ez jelentősen csökkenti az észlelt késleltést. Tokeneket kapsz a generálás során. Az utolsó darab tartalmazza a használati statisztikákat. Ez kritikus valós idejű alkalmazásokhoz. A pufferelési problémák gyakoriak egyéni implementációk esetén. Kezeld óvatosan az SSE elemzést. A serverless LLM API konzisztens streamelést biztosít. Hasd ezt chat felületekhez, ahol az azonnali visszajelzés fontos. Jelentősen javítja a felhasználói élményt.

Function calling és JSON mód

Függvényhívás engedélyezése egy tools tömb a kérésben. A modell strukturált eszközhívásokat generálhat. Használja response_format: {"type": "json_object"} a JSON kimenet kikényszerítéséhez. Ez hasznos az adat-kinyerési feladatokhoz. Az uncensored LLM API teljes mértékben támogatja ezeket a funkciókat. Egyéni eszközöket definiálhat a sémájában. A modell betartja a megadott struktúrát. Ez megbízható integrációt biztosít a backend logikájával. Egyszerű eszközdefiníciókkal kezdje a tesztelést. A komplex sémákhoz magasabb hőmérsékletértékekre lehet szükség a rugalmasság érdekében.

Sebességkorlátok és korlátok

Minden API-kulcs percenként 300 kérésre van korlátozva. Egyszerre 8 párhuzamos kérést indíthat. A kéréstörzs mérete nem haladhatja meg a 8 MB-ot. Ezek a korlátok megakadályozzák a visszaélést és biztosítják a tisztességes felhasználást. Ha túllépi a sebességkorlátot, 429-es hibát kap. Növelje a konkurenciát több kulcs használatával, ha szükséges. A serverless LLM API hatékonyan kezeli a nagy volumenű kéréseket. Figyelje a felhasználást a váratlan lassítás elkerülése érdekében. Ezek a korlátok szigorúak, de kiszámíthatóak. Tervezze meg az architektúráját ennek megfelelően a zökkenőmentes működés érdekében.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)