Szybki start: Zintegruj API bez cenzury

Wymagania wstępne i Base URL

Zacznij od przejścia do Pobierz klucz API strony. Zaloguj się przez Google lub utwórz konto używając tylko adresu e-mail. Otrzymujesz jeden aktywny klucz natychmiast. Nie jest wymagany numer telefonu. Adres bazowy dla wszystkich żądań to https://api.llmserverless.com/v1. To endpoint działa ze standardowymi SDK OpenAI. Zmień bazowy adres URL w konfiguracji klienta, aby wskazywał tutaj. Twój klucz API uwierzytelnia każde żądanie. Chroń go. To jedyne poświadczenie potrzebne do dostępu do infrastruktury LLM bez serwera.

Uwierzytelnianie i nagłówki

Każde żądanie musi zawierać Authorization Nagłówek z wartością Bearer YOUR_API_KEY.Ten nagłówek identyfikuje Twoje konto i śledzi zużycie wobec Twojego salda prepay. Bez tego nagłówka serwer zwraca błąd 401. API LLM serverless opiera się na tym standardowym formacie. Upewnij się, że Twoja biblioteka kliencka automatycznie wstrzykuje ten nagłówek. Jeśli używasz surowego klienta HTTP, dodaj nagłówek ręcznie. Nieprawidłowe klucze prowadzą do natychmiastowego odrzucenia. Prawidłowe klucze pozwalają Ci przejść do generowania treści.

Wysyłanie twojego pierwszego żądania

Korzystaj z /v1/chat/completions endpoint do generowania tekstu. Identyfikator modelu to uncensored.Odpowiada bez odmów treści dla użytku dorosłego zgodnego z prawem. Wyślij swój prompt w messages tablicy. System przetwarza dane wejściowe i zwraca odpowiedź. Jest to czysta inferencja bez żadnych ograniczeń. Możesz dostosować parametry takie jak temperature do kontrolowania losowości. Okno kontekstowe obsługuje do 100 000 tokenów. Pozwala to na długie rozmowy lub przetwarzanie dużych dokumentów. Zacznij od prostego promptu, aby zweryfikować łączność.

Strumieniowanie odpowiedzi z SSE

Ustaw stream: true w ciele żądania. Serwer wysyła zdarzenia wysłane przez serwer (SSE) zawierające częściowe odpowiedzi. Redukuje to postrzeganą opóźnienie znacząco. Otrzymujesz tokeny w miarę ich generowania. Ostatni fragment zawiera statystyki użycia. Jest to kluczowe dla aplikacji w czasie rzeczywistym. Problemy z buforowaniem są powszechne w implementacjach niestandardowych. Ostrożnie obsługuj parsowanie SSE. Serwerowa API LLM zapewnia spójne strumieniowanie. Użyj tego dla interfejsów czatu, gdzie natychmiastowa informacja zwrotna ma znaczenie. Dramatycznie poprawia doświadczenie użytkownika.

Wywoływanie funkcji i tryb JSON

Włącz wywoływanie funkcji poprzez dostarczenie tools tablica w swoim żądaniu. Model może generować strukturalne wywołania narzędzi. Użyj response_format: {"type": "json_object"} aby wymusić wynik JSON. Jest to przydatne w zadaniach wyodrębniania danych. API LLM bez ograniczeń w pełni obsługuje te funkcje. Możesz zdefiniować niestandardowe narzędzia w swoim schemacie. Model przestrzega dostarczonej struktury. Zapewnia to niezawodną integrację z logiką backendu. Przetestuj najpierw z prostymi definicjami narzędzi. Złożone schematy mogą wymagać wyższych wartości temperatury dla elastyczności.

Limity szybkości i ograniczenia

Każdy klucz API jest ograniczony do 300 żądań na minutę. Możesz mieć 8 żądań równoległych w dowolnym momencie. Rozmiar ciała żądania nie może przekraczać 8 MB. Limity te zapobiegają nadużyciom i zapewniają uczciwe użytkowanie. Jeśli przekroczysz limit szybkości, otrzymasz błąd 429. Zwiększ swoją współbieżność, jeśli jest to konieczne, używając wielu kluczy. Serwerowa API LLM obsługuje duże wolumeny wydajnie. Monitoruj swoje użytkowanie, aby uniknąć nieoczekiwanego ograniczania szybkości. Te ograniczenia są ścisłe, ale przewidywalne. Zaplanuj swoją architekturę odpowiednio dla płynnej pracy.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)