Pika-aloitus: Integroi uncensored API

Edellytykset ja perus-URL

Aloita siirtymällä Hanki API-avain sivu. Kirjaudu sisään Googlella tai luo tili pelkällä sähköpostiosoitteella. Saat yhden aktiivisen avaimen välittömästi. Puhelinnumeroa ei vaadita. Kaikkien pyyntöjen base URL -osoite on https://api.llmserverless.com/v1. Tämä päätepiste toimii vakio OpenAI-SDK:iden kanssa. Muuta base URL asiakasohjelman määrityksissä osoittamaan tähän. API-avaimesi todentaa jokaisen pyynnön. Pidä se turvassa. Se on ainoa tunnus, jota tarvitset päästäksesi palvelimetonta LLM-infrastruktuuria käyttämään.

Todennus ja otsikot

Jokaisen pyynnön on sisällettävä Authorization header arvo Bearer YOUR_API_KEY. Tämä otsikko tunnistaa tilisi ja seuraa käyttöä esimaksullisen saldon mukaan. Ilman tätä otsikkoa palvelin palauttaa 401-virheen. Serverless-LLM-API perustuu tähän vakiomuotoon. Varmista, että asiakirajirjastosi lisää tämän otsikon automaattisesti. Jos käytät raakaa HTTP-asiakasohjelmaa, lisää otsikko manuaalisesti. Virheelliset avaimet johtavat välittömään hylkäykseen. Kelvolliset avaimet mahdollistavat sisällön generaation.

Lähettämällä ensimmäinen pyyntö

Käytä /v1/chat/completions päätepiste tekstin generointiin. Mallin tunniste on uncensored. Se vastaa ilman sisältöhylkäyksiä lainalliseen aikuis sisällön käyttöön. Lähetä promptisi messages taulukkoa. Järjestelmä käsittelee syötteen ja palauttaa vastauksen. Tämä on puhdasta päättelyä ilman rajoituksia. Voit säätää parametreja kuten temperature hallitsemaan satunnaisuutta. Kontekstiikkuna tukee jopa 100 000 tokeniä. Tämä mahdollistaa pitkät keskustelut tai suurten asiakirjojen käsittelyn. Aloita yksinkertaisella kehotteella varmistaaksesi yhteyden.

Strimausvastaukset SSE:n kautta

Aseta stream: true pyyntörunkossa. Palvelin lähettää palveluntason tapahtumia (SSE) sisältäviä osittaisia vastauksia. Tämä vähentää koettua viivettä merkittävästi. Saat tokenit niiden synnyttyä. Viimeinen osa sisältää käyttötilastot. Tämä on kriittistä reaaliaikaisille sovelluksille. Puskurointiongelmat ovat yleisiä mukautetuissa toteutuksissa. Käsittele SSE-jäsentäminen huolellisesti. palvelimeton LLM-API varmistaa johdonmukaisen streamauksen. Käytä tätä chatliittymissä, joissa välitön palaute on tärkeää. Se parantaa käyttäjäkokemusta dramaattisesti.

Function calling ja JSON-tila

Ota käyttöön toimintokutsut tarjoamalla tools tietorakenteella pyynnössäsi. Malli voi tuottaa rakenteisia työkalukutsuja. Käytä response_format: {"type": "json_object"} pakottaa JSON-tuloksen. Tämä on hyödyllistä tietojen erottelutehtävissä. uncensored LLM API tukee näitä ominaisuuksia täysin. Voit määrittää mukautettuja työkaluja skeemassasi. Malli noudattaa annettua rakennetta. Tämä varmistaa luotettavan integraation backend-logiikkasi kanssa. Testaa yksinkertaisilla työkalumäärittelyillä ensin. Monimutkaiset skeemat voivat vaatia korkeampia lämpötila-arvoja joustavuuden varmistamiseksi.

Nopeusrajoitukset ja rajoitukset

Jokaiselle API-avaimelle on rajoitettu 300 pyyntöä minuutissa. Voit tehdä 8 samanaikaista pyyntöä milloin tahansa. Pyyntökehikon koko ei saa ylittää 8 Mt. Nämä rajat estävät väärinkäytön ja varmistavat reilun käytön. Jos ylität nopeusrajoituksen, saat 429-virheen. Lisää samanaikaisuuttasi tarvittaessa käyttämällä useita avaimia. Pilvipohjainen LLM-API käsittelee suuria määriä tehokkaasti. Seuraa käyttöäsi välttääksesi odottamattoman rajoituksen. Nämä rajoitukset ovat tiukat, mutta ennustettavissa. Suunnittele arkkitehtuurasi sen mukaksi sujuvaa toimintaa varten.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)