Avvio rapido: Integra l'API senza filtri

Prerequisiti e URL di base

Inizia navigando verso il Ottieni la chiave API pagina. Accedi con Google o crea un account con un solo indirizzo email. Ricevi immediatamente una chiave attiva unica. Non è richiesto un numero di telefono. L'URL di base per tutte le richieste è https://api.llmserverless.com/v1. Questo endpoint funziona con gli SDK OpenAI standard. Modifica l'URL di base nella configurazione del client per puntare qui. La tua chiave API autentica ogni richiesta. Tienila sicura. È l'unica credenziale necessaria per accedere all'infrastruttura LLM serverless.

Autenticazione e intestazioni

Ogni richiesta deve includere il Authorization header con il valore Bearer YOUR_API_KEY. Questo header identifica il tuo account e traccia l'utilizzo contro il tuo saldo prepagato. Senza questo header, il server restituisce un errore 401. L'API serverless LLM si basa su questo formato standard. Assicurati che la tua libreria client inietti questo header automaticamente. Se stai utilizzando un client HTTP grezzo, aggiungi l'header manualmente. Chiavi errate comportano un rifiuto immediato. Chiavi valide ti permettono di procedere alla generazione dei contenuti.

Invio della tua prima richiesta

Usa il /v1/chat/completions endpoint per generare testo. L'identificatore del modello è uncensored. Risponde senza rifiuti di contenuto per l'uso adulto legale. Invia il tuo prompt nel messages array. Il sistema elabora l'input e restituisce una risposta. Questa è un'inferenza pura con zero restrizioni. Puoi regolare parametri come temperature per controllare la casualità. La finestra di contesto supporta fino a 100.000 token. Questo permette conversazioni lunghe o l'elaborazione di grandi documenti. Inizia con un prompt semplice per verificare la connettività.

Risposte in streaming con SSE

Imposta stream: true nel corpo della richiesta. Il server invia Server-Sent Events (SSE) contenenti risposte parziali. Questo riduce significativamente la latenza percepita. Ricevi i token man mano che vengono generati. L'ultimo chunk include le statistiche di utilizzo. Questo è cruciale per le applicazioni in tempo reale. I problemi di buffering sono comuni nelle implementazioni personalizzate. Gestisci attentamente il parsing degli SSE. L'API LLM serverless garantisce uno streaming coerente. Usalo per le interfacce chat dove il feedback immediato è importante. Migliora drasticamente l'esperienza utente.

Function calling e modalità JSON

Abilita il richiamo di funzioni fornendo un tools array nella tua richiesta. Il modello può generare chiamate a funzione strutturate. Usa response_format: {"type": "json_object"} per forzare l'output JSON. Questo è utile per le attività di estrazione dei dati. L'API LLM uncensored supporta pienamente queste funzionalità. Puoi definire strumenti personalizzati nel tuo schema. Il modello aderisce alla struttura fornita. Ciò garantisce un'integrazione affidabile con la logica del tuo backend. Testa prima con definizioni di strumenti semplici. Gli schemi complessi potrebbero richiedere valori di temperatura più alti per la flessibilità.

Limiti di frequenza e vincoli

Ogni chiave API è limitata a 300 richieste al minuto. Puoi avere 8 richieste concorrenti in qualsiasi momento. La dimensione del corpo della richiesta non deve superare gli 8 MB. Questi limiti prevengono gli abusi e garantiscono un utilizzo equo. Se superi il limite di frequenza, ricevi un errore 429. Aumenta la tua concorrenza se necessario utilizzando più chiavi. L'API LLM serverless gestisce grandi volumi in modo efficiente. Monitora il tuo utilizzo per evitare un throttling imprevisto. Questi vincoli sono rigorosi ma prevedibili. Progetta la tua architettura di conseguenza per un funzionamento fluido.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)