Panduan Cepat: Integrasi API tanpa sensor

Prasyarat dan URL dasar

Mulai dengan menavigasi ke Dapatkan kunci API halaman. Masuk dengan Google atau buat akun hanya dengan alamat email. Anda menerima satu kunci aktif segera. Tidak diperlukan nomor telepon. URL dasar untuk semua permintaan adalah https://api.llmserverless.com/v1. Titik akhir ini kompatibel dengan SDK OpenAI standar. Ubah base URL dalam konfigurasi klien Anda agar mengarah ke sini. API key Anda mengautentikasi setiap permintaan. Jaga agar tetap aman. Ini adalah satu-satunya kredensial yang Anda butuhkan untuk mengakses infrastruktur LLM serverless.

Autentikasi dan header

Setiap permintaan harus menyertakan Authorization header dengan nilai Bearer YOUR_API_KEYHeader ini mengidentifikasi akun Anda dan melacak penggunaan terhadap saldo prabayar Anda. Tanpa header ini, server mengembalikan kesalahan 401. API LLM serverless bergantung pada format standar ini. Pastikan pustaka klien Anda menyuntikkan header ini secara otomatis. Jika Anda menggunakan klien HTTP mentah, tambahkan header secara manual. Kunci yang salah mengakibatkan penolakan segera. Kunci yang valid memungkinkan Anda melanjutkan ke generasi konten.

Mengirimkan permintaan pertama Anda

Gunakan /v1/chat/completions endpoint untuk menghasilkan teks. Pengidentifikasi model adalah uncensored. Ini menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Kirim prompt Anda di messages array. Sistem memproses input dan mengembalikan respons. Ini adalah inferensi murni dengan nol pembatasan. Anda dapat menyesuaikan parameter seperti temperature untuk mengontrol acak. Jendela konteks mendukung hingga 100.000 token. Ini memungkinkan percakapan panjang atau pemrosesan dokumen besar. Mulai dengan prompt sederhana untuk memverifikasi konektivitas.

Respons streaming dengan SSE

Atur stream: true dalam badan permintaan Anda. Server mengirim Server-Sent Events (SSE) yang berisi respons parsial. Ini secara signifikan mengurangi latensi yang dirasakan. Anda menerima token saat token tersebut dihasilkan. Potongan terakhir mencakup statistik penggunaan. Ini sangat penting untuk aplikasi real-time. Masalah buffering umum terjadi dalam implementasi kustom. Tangani parsing SSE dengan hati-hati. API LLM serverless memastikan streaming yang konsisten. Gunakan ini untuk antarmuka obrolan di mana umpan balik segera sangat penting. Ini meningkatkan pengalaman pengguna secara dramatis.

Pemanggilan fungsi dan mode JSON

Aktifkan pemanggilan fungsi dengan menyediakan sebuah tools array dalam permintaan Anda. Model dapat menghasilkan panggilan alat terstruktur. Gunakan response_format: {"type": "json_object"} untuk memaksa output JSON. Ini berguna untuk tugas ekstraksi data. API LLM uncensored mendukung fitur ini sepenuhnya. Anda dapat mendefinisikan alat kustom dalam skema Anda. Model mematuhi struktur yang diberikan. Ini memastikan integrasi yang andal dengan logika backend Anda. Uji dengan definisi alat sederhana terlebih dahulu. Skema kompleks mungkin memerlukan nilai suhu yang lebih tinggi untuk fleksibilitas.

Batas laju dan kendala

Setiap kunci API dibatasi hingga 300 permintaan per menit. Anda dapat memiliki 8 permintaan simultan kapan saja. Ukuran badan permintaan tidak boleh melebihi 8 MB. Batasan ini mencegah penyalahgunaan dan memastikan penggunaan yang adil. Jika Anda melebihi batas laju, Anda menerima kesalahan 429. Tingkatkan konkurensi Anda jika diperlukan dengan menggunakan beberapa kunci. API LLM serverless menangani volume tinggi secara efisien. Pantau penggunaan Anda untuk menghindari throttling yang tidak terduga. Kendala ini ketat tetapi dapat diprediksi. Rancang arsitektur Anda sesuai untuk operasi yang lancar.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)