เริ่มต้นใช้งาน: ผสานรวม API แบบไม่เซ็นเซอร์

ข้อกำหนดเบื้องต้นและ URL ฐาน

เริ่มต้นด้วยการนำทางไปยัง รับ API key หน้าเว็บ ลงชื่อเข้าใช้ด้วย Google หรือสร้างบัญชีด้วยที่อยู่อีเมลเพียงอย่างเดียว คุณจะได้รับคีย์ที่ใช้งานเพียงคีย์เดียวทันที ไม่ต้องใช้หมายเลขโทรศัพท์ URL พื้นฐานสำหรับการเรียกทั้งหมดคือ https://api.llmserverless.com/v1. เอนด์พอยต์นี้ใช้งานได้กับ SDK ของ OpenAI มาตรฐานใดๆ เปลี่ยน URL พื้นฐานในการตั้งค่าไคลเอนต์ของคุณให้ชี้มาที่นี่ คีย์ API ของคุณจะยืนยันทุกคำขอ เก็บมันให้ปลอดภัย นี่คือข้อมูลรับรองเพียงอย่างเดียวที่คุณต้องการเพื่อเข้าถึงโครงสร้างพื้นฐาน LLM แบบไร้เซิร์ฟเวอร์

Authentication and headers

ทุกการเรียกใช้ต้องรวม Authorization header พร้อมค่า Bearer YOUR_API_KEY. หัวข้อนี้ระบุบัญชีของคุณและติดตามการใช้งานเทียบกับยอดเงินเครดิตแบบเติมเงินของคุณ หากไม่มีหัวข้อนี้ เซิร์ฟเวอร์จะส่งกลับข้อผิดพลาด 401 API LLM แบบเซิร์ฟเวอร์เลสพึ่งพารูปแบบมาตรฐานนี้ ให้แน่ใจว่าไลบรารีไคลเอนต์ของคุณฉีดหัวข้อนี้โดยอัตโนมัติ หากคุณใช้ไคลเอนต์ HTTP ดิบ ให้เพิ่มหัวข้อนี้ด้วยตนเอง คีย์ที่ไม่ถูกต้องจะนำไปสู่การปฏิเสธทันที คีย์ที่ถูกต้องอนุญาตให้คุณดำเนินการต่อสู่การสร้างเนื้อหา

การส่ง request ครั้งแรกของคุณ

ใช้ /v1/chat/completions เอนด์พอยต์สำหรับสร้างข้อความ ตัวระบุโมเดลคือ uncensored. มันตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องกฎหมาย ส่งพรอมต์ของคุณใน messages array. ระบบจะประมวลผลข้อมูลนำเข้าและส่งกลับการตอบสนอง นี่คือ inference ล้วนๆ โดยไม่มีข้อจำกัด คุณสามารถปรับพารามิเตอร์เช่น temperature เพื่อควบคุมความสุ่ม หน้าต่างบริบทรองรับได้สูงสุด 100,000 โทเค็น ซึ่งอนุญาตให้มีการสนทนาที่ยาวนานหรือการประมวลผลเอกสารขนาดใหญ่ เริ่มต้นด้วยคำสั่งง่ายๆ เพื่อตรวจสอบการเชื่อมต่อ

การตอบกลับแบบสตรีมด้วย SSE

ตั้งค่า stream: true ในบอดีคำขอของคุณ เซิร์ฟเวอร์ส่งเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์ (SSE) ที่มีคำตอบบางส่วน ซึ่งช่วยลดความล่าช้าที่รับรู้ได้อย่างมีนัยสำคัญ คุณได้รับโทเค็นเมื่อสร้าง ชิ้นสุดท้ายรวมถึงสถิติการใช้งาน ซึ่งสำคัญสำหรับแอปพลิเคชันแบบเรียลไทม์ ปัญหาการบัฟเฟอร์เป็นเรื่องปกติในการใช้งานแบบกำหนดเอง จัดการการแยกวิเคราะห์ SSE อย่างระมัดระวัง API LLM แบบเซิร์ฟเวอร์เลสรับประกันการสตรีมมิ่งที่สม่ำเสมอ ใช้วิธีนี้สำหรับอินเทอร์เฟซการสนทนาที่การตอบกลับทันทีมีความสำคัญ ซึ่งปรับปรุงประสบการณ์ผู้ใช้ได้อย่างมาก

การเรียกฟังก์ชันและโหมด JSON

เปิดใช้งานการเรียกใช้ฟังก์ชันโดยให้ tools อาร์เรย์ในคำขอของคุณ โมเดลสามารถสร้างการเรียกเครื่องมือที่มีโครงสร้าง ใช้ response_format: {"type": "json_object"} เพื่อบังคับให้ส่งออกเป็น JSON ซึ่งมีประโยชน์สำหรับงานแยกข้อมูล API LLM แบบ uncensored รองรับฟีเจอร์เหล่านี้ได้อย่างสมบูรณ์ คุณสามารถกำหนดเครื่องมือกำหนดเองในสคีมาของคุณ โมเดลจะปฏิบัติตามโครงสร้างที่ระบุ ซึ่งช่วยให้การผสานรวมกับตรรกะแบ็กเอนด์ของคุณมีความน่าเชื่อถือ เริ่มต้นด้วยการทดสอบด้วยการกำหนดเครื่องมือแบบง่ายก่อน สคีมาที่ซับซ้อนอาจต้องการค่าอุณหภูมิที่สูงขึ้นเพื่อความยืดหยุ่น

อัตราจำกัดการเรียกใช้และข้อจำกัด

คีย์ API แต่ละตัวจำกัดอยู่ที่ 300 คำขอต่อนาที คุณสามารถมีคำขอพร้อมกันได้ 8 คำขอในเวลาใดก็ได้ ขนาด body คำขอต้องไม่เกิน 8 MB ขีดจำกัดเหล่านี้ป้องกันการใช้งานที่ผิดกฎหมายและช่วยให้การใช้งานเป็นธรรม หากคุณเกินขีดจำกัด rate limit คุณจะรับข้อผิดพลาด 429 เพิ่ม concurrency ของคุณหากจำเป็นโดยใช้คีย์หลายตัว API LLM แบบ serverless จัดการปริมาณสูงได้อย่างมีประสิทธิภาพ ตรวจสอบการใช้งานของคุณเพื่อหลีกเลี่ยงการ throttling ที่ไม่คาดคิด ข้อจำกัดเหล่านี้เข้มงวดแต่สามารถคาดเดาได้ วางแผนสถาปัตยกรรมของคุณ accordingly สำหรับการดำเนินงานที่ราบรื่น

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)