クイックスタート：無制限APIを統合する

前提条件とベースURL

に移動することから始めましょう APIキーを取得 ページ。Googleでサインインするか、メールアドレスのみでアカウントを作成します。1つのアクティブなキーが即座に提供されます。電話番号は必要ありません。すべてのリクエストのベースURLは https://api.llmserverless.com/v1このエンドポイントは標準的な OpenAI SDK と連携します。クライアント設定のベース URL をここに変更してください。API キーはすべてのリクエストを認証します。安全に保管してください。これはサーバーレス LLM インフラストラクチャにアクセスするために必要な唯一の認証情報です。

認証とヘッダー

すべてのリクエストには Authorization 値付きのヘッダー Bearer YOUR_API_KEYこのヘッダーはアカウントを識別し、プリペイド残高に対して使用状況を追跡します。このヘッダーがない場合、サーバーは401エラーを返します。サーバーレスLLM APIはこの標準形式に依存しています。クライアントライブラリがこのヘッダーを自動的に注入することを確認してください。生のHTTPクライアントを使用している場合は、ヘッダーを手動で追加してください。無効なキーは即時拒否につながります。有効なキーによりコンテンツ生成に進むことができます。

最初のリクエストを送信

を使用 /v1/chat/completions テキストを生成するためのエンドポイント。モデル識別子は uncensored法的な成人向けコンテンツに対して拒否なしで回答します。 messages 配列。システムは入力を処理し、応答を返します。これは制限ゼロの純粋な推論です。パラメータを調整できます。 temperature ランダム性を制御します。コンテキストウィンドウは最大100,000トークンをサポートしています。これにより、長い会話や大規模なドキュメント処理が可能になります。接続を確認するために簡単なプロンプトから始めてください。

SSEによるストリーミングレスポンス

設定 stream: true リクエストボディに記述します。サーバーは部分的な応答を含むServer-Sent Events (SSE)を送信します。これにより知覚されるレイテンシが大幅に削減されます。トークンは生成されるたびに受信されます。最終チャンクには使用状況統計が含まれます。これはリアルタイムアプリケーションにとって重要です。カスタム実装ではバッファリングの問題が一般的です。SSEの解析を慎重に行ってください。サーバーレスLLM APIは一貫したストリーミングを保証します。即時フィードバックが重要なチャットインターフェースに使用してください。ユーザーエクスペリエンスを劇的に向上させます。

関数呼び出しとJSONモード

提供することで関数呼び出しを有効にします tools リクエスト内の配列。モデルは構造化ツール呼び出しを生成できます。使用 response_format: {"type": "json_object"} JSON出力を強制します。これはデータ抽出タスクに役立ちます。無制限LLM APIはこれらの機能を完全にサポートしています。スキーマ内でカスタムツールを定義できます。モデルは提供された構造に厳密に従います。これにより、バックエンドロジックとの信頼性の高い統合が保証されます。まずはシンプルなツール定義でテストしてください。複雑なスキーマでは、柔軟性のために温度値を高く設定する必要がある場合があります。

レート制限と制約条件

各APIキーは1分あたり300リクエストに制限されています。同時に8つのリクエストを実行できます。リクエストボディサイズは8 MBを超えてはなりません。これらの制限は不正使用を防ぎ、公平な利用を確保します。レート制限を超えると、429エラーが発生します。必要に応じて複数のキーを使用して同時実行を増やしてください。サーバーレスLLM APIは大量の処理を効率的に処理します。予期しないスロットリングを避けるために使用状況を監視してください。これらの制約は厳格ですが予測可能です。スムーズな運用のためにアーキテクチャをそれに応じて計画してください。

cURL

Copycurl https://api.llmserverless.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of five fictional superhero names for my app."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmserverless.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmserverless.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミング

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)