Pengenalan: Integrasikan API tanpa sensor

Prasyarat dan URL asas

Mula dengan melayari ke Dapatkan kunci API halaman. Log masuk dengan Google atau buat akaun hanya dengan alamat e-mel. Anda menerima satu kunci aktif serta-merta. Tiada nombor telefon diperlukan. URL asas untuk semua permintaan ialah https://api.llmserverless.com/v1. Hujung sambungan ini berfungsi dengan SDK OpenAI standard. Tukar URL asas dalam tetapan klien anda untuk menunjuk ke sini. Kunci API anda mengesahkan setiap permintaan. Simpan dengan selamat. Ia adalah satu-satunya kelayakan yang anda perlukan untuk mengakses infrastruktur LLM tanpa pelayan.

Pengesahan dan header

Setiap permintaan mesti termasuk Authorization header dengan nilai Bearer YOUR_API_KEY. Header ini mengenal pasti akaun anda dan menjejak penggunaan terhadap baki pra-bayar anda. Tanpa header ini, pelayan mengembalikan ralat 401. API LLM serverless bergantung pada format piawai ini. Pastikan pustaka klien anda menyuntikkan header ini secara automatik. Jika anda menggunakan klien HTTP mentah, tambah header secara manual. Kunci yang salah menyebabkan penolakan serta-merta. Kunci yang sah membolehkan anda meneruskan penjanaan kandungan.

Menghantar permintaan pertama anda

Gunakan /v1/chat/completions endpoint untuk menjana teks. Pengenal pasti model ialah uncensored. Ia menjawab tanpa penolakan kandungan untuk penggunaan dewasa yang sah. Hantar prompt anda dalam messages array. Sistem memproses input dan mengembalikan respons. Ini adalah inferens tulen tanpa sekatan. Anda boleh melaraskan parameter seperti temperature untuk mengawal rawakan. Tetingkap konteks menyokong sehingga 100,000 token. Ini membolehkan perbualan panjang atau pemprosesan dokumen besar. Mulakan dengan prompt mudah untuk mengesahkan sambungan.

Respons penstriman dengan SSE

Tetapkan stream: true dalam badan permintaan anda. Pelayan menghantar Acara yang Dihantar Pelayan (SSE) yang mengandungi respons separa. Ini mengurangkan latensi yang dirasakan dengan ketara. Anda menerima token semasa ia dijana. Segmen akhir termasuk statistik penggunaan. Ini penting untuk aplikasi masa nyata. Isu penimbalan adalah biasa dalam pelaksanaan tersuai. Uraikan SSE dengan teliti. API LLM tanpa pelayan memastikan aliran yang konsisten. Gunakan ini untuk antara muka sembang di mana maklum balas serta-merta penting. Ia meningkatkan pengalaman pengguna dengan ketara.

Pemanggilan fungsi dan mod JSON

Aktifkan panggilan fungsi dengan menyediakan tools array in your request. The model can generate structured tool calls. Use response_format: {"type": "json_object"} untuk memaksa output JSON. Ini berguna untuk tugas pengekstrakan data. API LLM tanpa sensor menyokong ciri-ciri ini sepenuhnya. Anda boleh menentukan alat tersuai dalam skema anda. Model mematuhi struktur yang disediakan. Ini memastikan integrasi yang boleh dipercayai dengan logik backend anda. Ujian dengan definisi alat mudah dahulu. Skema kompleks mungkin memerlukan nilai suhu yang lebih tinggi untuk fleksibiliti.

Had laju dan kekangan

Setiap kunci API terhad kepada 300 permintaan setiap minit. Anda boleh mempunyai 8 permintaan serentak pada bila-bila masa. Saiz badan permintaan tidak boleh melebihi 8 MB. Had ini mencegah penyalahgunaan dan memastikan penggunaan yang adil. Jika anda melebihi had kadar, anda akan menerima ralat 429. Tingkatkan kekonkurenan anda jika perlu dengan menggunakan beberapa kunci. API LLM serverless mengendalikan volume tinggi dengan cekap. Pantau penggunaan anda untuk mengelakkan pengurangan kelajuan yang tidak dijangka. Kekangan ini ketat tetapi boleh diramal. Rancang seni bina anda dengan sewajarnya untuk operasi yang lancar.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)