התחלה מהירה: שילבו את ממשק ה-API ללא צנזורה

דרישות מוקדמות וכתובת בסיס

התחל בניווט אל ה- קבל מפתח API דף. התחברו עם Google או צרו חשבון עם כתובת דוא"ל בלבד. אתם מקבלים מפתח פעיל אחד מיד. אין צורך במספר טלפון. כתובת הבסיס לכל הבקשות היא https://api.llmserverless.com/v1. נקודת הקצה הזו עובדת עם SDKs סטנדרטיים של OpenAI. שנה את כתובת הבסיס בתצורת הלקוח שלך כדי להפנות לכאן. מפתח ה-API שלך מאמת כל בקשה. שמור אותו מאובטח. זהו האישור היחיד שאתה צריך לגישה לתשתית LLM ללא שרתים.

כותרות ואימות

כל בקשה חייבת לכלול את Authorization כותרת עם הערך Bearer YOUR_API_KEY. כותרת זו מזהה את החשבון שלך ועוקבת אחר השימוש מול יתרת האשראי שלך בתשלום מראש. ללא כותרת זו, השרת מחזיר שגיאת 401. ה-API של LLM ללא שרת מסתמך על פורמט סטנדרטי זה. ודא שספריית הלקוח שלך מזריקה כותרת זו אוטומטית. אם אתה משתמש בלקוח HTTP גולמי, הוסף את הכותרת ידנית. מפתחות לא נכונים מובילים לדחייה מידית. מפתחות תקפים מאפשרים לך להמשיך ליצירת תוכן.

שליחת הבקשה הראשונה שלך

השתמשו ב /v1/chat/completions נקודת קצה (endpoint) ליצירת טקסט. מזהה המודל הוא uncensored. הוא עונה ללא סירובי תוכן לשימוש בוגר חוקי. שלח את ההנחיה שלך ב- messages מערך. המערכת מעבדת את הקלט ומחזירה תגובה. זהו פלט אינפראנסה טהור ללא הגבלות. ניתן להתאים פרמטרים כמו temperature לשליטה באקראיות. חלון ההקשר תומך בעד 100,000 טוקנים. זה מאפשר שיחות ארוכות או עיבוד מסמכים גדולים. התחל עם פרומפט פשוט כדי לאמת חיבור.

תגובות בזרם עם SSE

הגדר stream: true בגוף הבקשה שלך. השרת שולח אירועים מוכוון שרת (SSE) המכילים תגובות חלקיות. זה מפחית משמעותית את תחומת השהייה. אתה מקבל טוקנים כפי שהם נוצרים. הפסיקה הסופית כוללת סטטיסטיקות שימוש. זה קריטי ליישומים בזמן אמת. בעיות אגרוף נפוצות ביישומים מותאמים אישית. טפל בניתוח SSE בזהירות. API ה-LLM ללא שרת מבטיח זרימה עקבית. השתמש בזה עבור ממשקי צ'אט שבהם משוב מיידי חשוב. זה משפר את חווית המשתמש באופן דרמטי.

קריאת פונקציות ומצב JSON

אפשרו קריאת פונקציות על ידי מתן tools מערך בבקשה שלך. המודל יכול לייצר קריאות כלי מבניות. השתמש response_format: {"type": "json_object"} כדי לכפות פלט JSON. זה שימושי למשימות חילוץ נתונים. API ה-LLM ללא צנזורה תומך בתכונות אלו במלואן. ניתן להגדיר כלים מותאמים אישית בסכמה שלך. המודל מקפיד על המבנה שסופק. זה מבטיח שילוב אמין עם לוגיקת הבק-אנד שלך. בדוק עם הגדרות כלים פשוטות תחילה. סכמות מורכבות עשויות לדרוש ערכי טמפרטורה גבוהים יותר לגמישות.

מגבלות קצב ומוגבלות

כל מפתח API מוגבל ל-300 בקשות לדקה. ניתן לבצע 8 בקשות מקבילות בכל עת. גודל גוף הבקשה לא יכול לעלות על 8 MB. מגבלות אלו מונות שימוש לרעה ומבטיחות שימוש הוגן. אם תחרוג ממגבלת הקצב, תקבל שגיאה 429. הגדל את הנפרדות שלך אם נדרש באמצעות שימוש במספר מפתחות. ממשק ה-API של מודל השפה המבוזר מטפל בנפחים גבוהים ביעילות. עקוב אחר השימוש שלך כדי להימנע מצימצום צרכים בלתי צפוי. אילוצים אלו הם מחמירים אך צפויים. תכנן את הארכיטקטורה שלך בהתאם לתפעול חלק.

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)