Snelstart: Integreer de LLM-proxy

Base URL & Authenticatie

Vervang je standaard OpenAI base URL door onze endpoint. Authenticatie verloopt via een Bearer token in de Authorization header. Deze aanpak werkt met elke OpenAI-compatible client library. Je hoeft je code logica niet aan te passen, alleen de configuratiewaarden. Onze API imiteert de standaard OpenAI interface structuur, waardoor je bestaande integratiecode geldig blijft. Dit vermindert de integratietijd tot minuten in plaats van dagen. Je kunt je sleutel op elk moment regenereren via je dashboard, waardoor de oude sleutel direct ongeldig wordt. Dit biedt veiligheid zonder dat je complexe token rotation logica in je applicatie nodig hebt.

Eerste Verzoek

Stuur een standaard chat completion verzoek om de connectiviteit te testen. De endpoint accepteert JSON payloads met een model identifier en message history. Onze model ID is "uncensored". Deze identifier vertelt de proxy welk ongecensureerde model je verzoek moet routeren. De response structuur is identiek aan het OpenAI-formaat en bevat de berichtinhoud van de assistant. Je kunt de response verifiëren door het content veld in de JSON output te controleren. Dit bevestigt dat je authenticatie en payload structuur correct zijn. De endpoint ondersteunt zowel streaming als non-streaming modi voor standaard verzoeken.

Copycurl https://api.llmproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK Integratie

Gebruik de officiële OpenAI Python-bibliotheek om met onze API te communiceren. Stel de api_key in op je proxiesleutel en de base_url op ons endpoint. Het gedrag van de bibliotheek blijft identiek aan standaard OpenAI-gebruik. Dit omvat ondersteuning voor asynchrone clients, retries en standaard foutafhandeling. Je kunt dezelfde parameters doorgeven die je normaal gebruikt, zoals temperature en max_tokens. De proxy regelt de routing naar het ongecensureerde model op de achtergrond. Hierdoor behoud je je bestaande Python-codebase terwijl je toegang krijgt tot de mogelijkheden van ons model.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmproxyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK Integratie

De Node.js SDK werkt met onze API door de basis-URL te overschrijven. Initialiseer de client met je proxy-API-sleutel en het juiste endpoint. Alle andere methoden, zoals chat.completions.create, werken zoals verwacht. Dit omvat het verwerken van standaard responsobjecten en fouttypen. Je kunt dezelfde berichtstructuren en parameters gebruiken als bij OpenAI. De proxy zorgt ervoor dat het verzoek wordt verwerkt door het ongecensureerde model. Deze compatibiliteit stelt ontwikkelaars in staat providers snel te wisselen zonder hun clientlogica te herschrijven. Het is ideaal voor microservices die al het OpenAI SDK-patroon gebruiken.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmproxyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming Reacties

Schakel streaming in door de parameter stream in je verzoek in te stellen op true. De API retourneert een Server-Sent Events (SSE)-stream. Elke chunk bevat gedeeltelijke tokenupdates, waardoor de respons in realtime kan worden weergegeven. Dit is cruciaal voor chatinterfaces en applicaties die onmiddellijke feedback vereisen. De stream eindigt met een laatste chunk met volledige responsmetadata. Je kunt de chunks parseren met standaard SSE-bibliotheken in je voorkeurstaal. Deze functie werkt naadloos met de OpenAI SDKs, die de parserlogica automatisch afhandelen. Het biedt een vloeiende gebruikerservaring zonder te hoeven wachten tot de volledige respons is gegenereerd.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rate Limits & Beperkingen

Onze API handhaaft een limiet van 300 verzoeken per minuut per key. Als je dit overschrijdt, ontvang je een 429 status code. Zorg dat je retry logica implementeert met exponential backoff voor deze gevallen. De request body size is beperkt tot 8 MB. Deze beperking geldt voor de totale JSON payload, inclusief prompt en context. Prijzen zijn usage-based: $0,25 per miljoen input tokens en $1,00 per miljoen output tokens. Credits zijn prepaid en vervallen niet. Als je saldo onvoldoende is, retourneren verzoeken een 402 fout. Authenticatie fouten retourneren een 401 status. Er is geen complexe routing of vendor selectie; het model is fixed.