क्विकस्टार्ट: अनसेंसर्ड API इंटीग्रेट करें

आवश्यकताएँ और बेस URL

नेविगेट करके शुरू करें API कुंजी प्राप्त करें पेज। Google से साइन इन करें या केवल ईमेल पता देकर एक खाता बनाएं। आपको तुरंत एक सक्रिय कुंजी मिलती है। फ़ोन नंबर की आवश्यकता नहीं है। सभी अनुरोधों के लिए बेस यूआरएल है https://api.llmserverless.com/v1. यह एंडपॉइंट मानक OpenAI SDKs के साथ काम करता है। अपने क्लाइंट कॉन्फ़िगरेशन में बेस यूआरएल को यहाँ इंगित करने के लिए बदलें। आपकी API कुंजी हर अनुरोध को प्रमाणीकृत करती है। इसे सुरक्षित रखें। यह सर्वरलेस LLM इंफ्रास्ट्रक्चर तक एक्सेस के लिए एकमात्र क्रेडेंशियल है।

प्रमाणीकरण और हेडर्स

हर अनुरोध में Authorization हेडर मान के साथ Bearer YOUR_API_KEY. यह हेडर आपके खाते की पहचान करता है और आपके प्रीपेड बैलेंस के खिलाफ उपयोग को ट्रैक करता है। इस हेडर के बिना, सर्वर 401 त्रुटि लौटाता है। सर्वरलेस LLM API इस मानक फॉर्मेट पर निर्भर करता है। सुनिश्चित करें कि आपकी क्लाइंट लाइब्रेरी इस हेडर को स्वचालित रूप से इंजेक्ट करती है। यदि आप एक रे HTTP क्लाइंट का उपयोग कर रहे हैं, तो हेडर को मैन्युअल रूप से जोड़ें। गलत कुलियां तुरंत अस्वीकृति का कारण बनती हैं। मान्य कुलियां आपको सामग्री जनरेशन की ओर आगे बढ़ने की अनुमति देती हैं।

अपनी पहली रिक्वेस्ट भेजना

का उपयोग करें /v1/chat/completions टेक्स्ट जनरेट करने के लिए एंडपॉइंट। मॉडल पहचानकर्ता uncensored. कानूनी वयस्कों के उपयोग के लिए सामग्री अस्वीकृतियों के बिना उत्तर देता है। अपना प्रॉम्प्ट messages array. सिस्टम इनपुट को प्रोसेस करता है और एक रिस्पॉन्स लौटाता है। यह शून्य प्रतिबंधों के साथ शुद्ध इन्फरेंस है। आप पैरामीटर जैसे temperature यादृच्छिकता को नियंत्रित करने के लिए। कॉन्टेक्स्ट विंडो 100,000 टोकन तक का समर्थन करती है। यह लंबी बातचीत या बड़े दस्तावेज प्रोसेसिंग की अनुमति देती है। कनेक्टिविटी की जांच करने के लिए एक सरल प्रॉम्पट से शुरू करें।

SSE के साथ स्ट्रीमिंग प्रतिक्रियाएं

सेट करें stream: true अपने अनुरोध बॉडी में। सर्वर आंशिक प्रतिक्रियाएं वाले सर्वर-सेंट इवेंट्स (SSE) भेजता है। यह अनुपस्थित लेटेंसी को काफी कम करता है। आप टोकन को जनरेट होते ही प्राप्त करते हैं। अंतिम चंक में उपयोग सांख्यिकी शामिल होती है। यह रियल-टाइम एप्लिकेशन के लिए महत्वपूर्ण है। बफरिंग समस्याएं कस्टम इंटीग्रेशन में आम हैं। SSE पार्सिंग को सावधानी से हैंडल करें। सर्वरलेस LLM API निरंतर स्ट्रीमिंग सुनिश्चित करती है। उन चैट इंटरफेस के लिए इसका उपयोग करें जहाँ तत्काल प्रतिक्रिया मायने रखती है। यह उपयोगकर्ता अनुभव को नाटकीय रूप से सुधारता है।

फंक्शन कॉलिंग और JSON मोड

फ़ंक्शन कॉलिंग को प्रदान करके सक्षम करें tools अपने अनुरोध में एक array का उपयोग करें। मॉडल संरचित टूल कॉल्स जनरेट कर सकता है। Use response_format: {"type": "json_object"} JSON आउटपुट को बल देने के लिए। यह डेटा निकालने कार्यों के लिए उपयोगी है। असंयमित LLM API इन सुविधाओं का पूर्ण समर्थन करता है। आप अपनी स्कीमा में कस्टम टूल परिभाषित कर सकते हैं। मॉडल प्रदान की गई संरचना का पालन करता है। यह आपके बैकएंड लॉजिक के साथ विश्वसनीय एकीकरण सुनिश्चित करता है। पहले सरल टूल परिभाषाओं के साथ परीक्षण करें। जटिल स्कीमाओं के लिए लचीलापन के लिए उच्च तापमान मानों की आवश्यकता हो सकती है।

रेट लिमिट्स और बाधाएं

प्रत्येक API कुंजी प्रति मिनट 300 अनुरोधों तक सीमित है। आप किसी भी समय 8 समवर्ती अनुरोध कर सकते हैं। अनुरोध बॉडी का आकार 8 MB से अधिक नहीं होना चाहिए। ये सीमाएं दुरुपयोग को रोकती हैं और उचित उपयोग सुनिश्चित करती हैं। यदि आप रेट लिमिट से अधिक हो जाते हैं, तो आपको एक 429 त्रुटि मिलती है। यदि आवश्यक हो तो कई कुंजियों का उपयोग करके अपनी संयुग्मन बढ़ाएं। सर्वरलेस LLM API उच्च वॉल्यूम को कुशलता से संभालता है। अप्रत्याशित थ्रॉटलिंग से बचने के लिए अपने उपयोग की निगरानी करें। ये प्रतिबंध कठोर लेकिन पूर्वानुमेय हैं। सुचारु संचालन के लिए अपनी आर्किटेक्चर को उसी अनुसार योजनाबद्ध करें।

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)