クイックスタート：LLMプロキシの統合

ベースURLと認証

標準的なOpenAIのベースURLを当社のエンドポイントに置き換えてください。認証は、AuthorizationヘッダーにBearerトークンを設定することで処理されます。この方法は、OpenAI互換のクライアントライブラリであればすべて対応しています。コードロジックを変更する必要はなく、設定値のみを変更してください。当社のAPIは標準的なOpenAIのインターフェース構造を模倣しているため、既存の統合コードの有効性を維持できます。これにより、統合に要する時間を数日ではなく数分に短縮できます。キーはダッシュボードからいつでも再生成でき、古いキーは直ちに無効になります。これにより、アプリケーション内で複雑なトークンローテーションロジックを実装することなくセキュリティを確保できます。

最初のリクエスト

接続性をテストするために標準のチャット完了リクエストを送信してください。エンドポイントはモデル識別子とメッセージ履歴を含むJSONペイロードを受け入れます。当社のモデルIDは「uncensored」です。この識別子は、プロキシにリクエストをルーティングする無検閲モデルを指定します。レスポンス構造はOpenAI形式を反映しており、アシスタントのメッセージ内容を含みます。JSON出力のcontentフィールドを確認することでレスポンスを検証できます。これにより、認証とペイロード構造が正しいことが確認できます。エンドポイントは標準リクエストのストリーミングモードと非ストリーミングモードの両方をサポートしています。

Copycurl https://api.llmproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK統合

公式のOpenAI Pythonライブラリを使用して当社のAPIと連携します。api_keyにプロキシキーを設定し、base_urlを当社のエンドポイントに設定してください。ライブラリの残りの動作は標準的なOpenAIの使用法と同じです。これには非同期クライアント、リトライ、標準的なエラーハンドリングのサポートが含まれます。通常使用するのと同じパラメータ（temperatureやmax_tokensなど）を渡すことができます。プロキシはバックグラウンドで無検閲モデルへのルーティングを処理します。これにより、既存のPythonコードベースを維持したまま、当社のモデルの機能にアクセスできます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmproxyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK統合

Node.js SDKはベースURLの上書きでAPIを利用します。プロキシAPIキーと正しいエンドポイントでクライアントを初期化します。chat.completions.createなど他のメソッドも期待通りに動作します。標準レスポンスオブジェクトやエラータイプの処理も含まれます。OpenAIと同じメッセージ構造とパラメータが使用可能です。プロキシはリクエストが無検閲モデルで処理されることを保証します。この互換性により、クライアントロジックを書き換えずにプロバイダを素早く切り替えられます。OpenAI SDKパターンを既に使用しているマイクロサービスに最適です。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmproxyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミングレスポンス

リクエストでstreamパラメータをtrueに設定してストリーミングを有効化します。APIはServer-Sent Events (SSE)ストリームを返します。各チャンクには部分的なトークン更新が含まれ、レスポンスのリアルタイム表示を可能にします。これはチャットインターフェースや即時フィードバックが必要なアプリケーションに不可欠です。ストリームは最終チャンクで終了し、完全なレスポンスメタデータを含みます。お好みの言語の標準SSEライブラリでチャンクを解析できます。この機能はOpenAI SDKとシームレスに連携し、SDKが解析ロジックを自動処理します。完全なレスポンス生成を待たずに滑らかなユーザー体験を提供します。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

レート制限と制約

当社のAPIはキーあたり1分あたり300リクエストの制限を適用します。これを超えると、429ステータスコードが返されます。これらのケースには指数バックオフ付きのリトライロジックを実装してください。リクエストボディのサイズは8 MBに制限されています。この制約はプロンプトとコンテキストを含む合計JSONペイロードに適用されます。料金は従量課金制で、入力トークン100万トークンあたり$0.25、出力トークン100万トークンあたり$1.00です。クレジットは前払いで期限切れになりません。残高が不足している場合、リクエストは402エラーを返します。認証エラーは401ステータスを返します。複雑なルーティングやベンダー選択はなく、モデルは固定です。