快速入門：整合 LLM 代理

基礎 URL 與驗證

將標準 OpenAI 基礎 URL 替換為我們的端點。驗證透過 Authorization 標頭中的 Bearer token 處理。此方法適用於任何 OpenAI 相容的客戶端程式庫。你無需更改程式碼邏輯，只需修改設定值。我們的 API 模擬標準 OpenAI 介面結構，確保你現有的整合程式碼保持有效。這將整合時間從天數縮短至分鐘。你可以隨時從儀表板重新產生金鑰，這會立即使舊金鑰失效。這在無需應用程式中複雜 token 輪換邏輯的情況下提供安全性。

首次請求

發送標準聊天完成請求以測試連線。該端點接受包含模型識別碼和訊息歷史的 JSON 負載。我們的模型識別碼為「uncensored」。此識別碼告訴代理程式將你的請求路由至哪個無審查模型。回應結構複製 OpenAI 格式，包含助理的訊息內容。你可以透過檢查 JSON 輸出中的 content 欄位來驗證回應。這確認你的驗證和負載結構正確。該端點支援標準請求的串流輸出和非串流模式。

Copycurl https://api.llmproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK 整合

使用官方 OpenAI Python 函式庫與我們的 API 互動。將 api_key 設為您的代理金鑰，並將 base_url 設為我們的端點。函式庫的其他行為與標準 OpenAI 用法完全相同。這包括對非同步用戶端、重試機制和標準錯誤處理的支援。您可以傳入通常使用的相同參數，例如 temperature 和 max_tokens。代理會在後端處理路由至無審查模型。這使您能在獲得我們模型能力的同時，維持現有的 Python 程式碼庫。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmproxyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK 整合

Node.js SDK 透過覆寫基礎 URL 與我們的 API 配合。使用您的代理 API 金鑰和正確的端點初始化用戶端。所有其他方法（如 chat.completions.create）均能正常運作。這包括處理標準回應物件和錯誤類型。您可以使用與 OpenAI 相同的訊息結構和參數。代理確保請求由無審查模型處理。這種相容性讓開發人員可以快速更換供應商，而無需重寫用戶端邏輯。這非常適合已使用 OpenAI SDK 模式的微服務。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmproxyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

串流回應

透過在請求中將 stream 參數設定為 true 來啟用串流。API 返回伺服器發送事件 (SSE) 串流。每個區塊包含部分 token 更新，允許即時顯示回應。這對於聊天介面和需要立即回饋的應用程式至關重要。串流以包含完整回應中繼資料的最終區塊結束。你可以使用首選語言中的標準 SSE 程式庫來解析區塊。此功能與 OpenAI SDK 無縫運作，SDK 會自動處理解析邏輯。這提供流暢的使用者體驗，無需等待整個回應生成。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

速率限制與約束

我們的 API 對每個金鑰實施每分鐘 300 次請求的限制。若超過此限制，您將收到 429 狀態碼。請針對這些情況實施具有指數退避的重試邏輯。請求主體大小上限為 8 MB。此限制適用於總 JSON 資料，包括提示詞和上下文。定價基於用量：每百萬輸入 token 0.25 美元，每百萬輸出 token 1.00 美元。額度為預付額度且永不過期。若餘額不足，請求將返回 402 錯誤。驗證錯誤返回 401 狀態。沒有複雜的路由或供應商選擇；模型是固定的。