Inicio rápido: Integra el proxy LLM

URL base y autenticación

Reemplaza tu URL base estándar de OpenAI con nuestro endpoint. La autenticación se maneja mediante un token Bearer en la cabecera Authorization. Este enfoque funciona con cualquier biblioteca cliente compatible con OpenAI. No necesitas cambiar la lógica de tu código, solo los valores de configuración. Nuestra API imita la estructura de interfaz estándar de OpenAI, asegurando que tu código de integración existente siga siendo válido. Esto reduce el tiempo de integración a minutos en lugar de días. Puedes regenerar tu clave en cualquier momento desde tu panel, lo que invalida inmediatamente la clave anterior. Esto proporciona seguridad sin requerir lógica compleja de rotación de tokens en tu aplicación.

Primera petición

Envía una petición estándar de completación de chat para probar la conectividad. El endpoint acepta cargas útiles JSON con un identificador de modelo e historial de mensajes. Nuestro ID de modelo es "uncensored". Este identificador le dice al proxy a qué modelo sin censura enrutar tu petición. La estructura de la respuesta refleja el formato de OpenAI, conteniendo el contenido del mensaje del asistente. Puedes verificar la respuesta comprobando el campo content en la salida JSON. Esto confirma que tu autenticación y estructura de carga útil son correctas. El endpoint admite tanto modos de streaming como no streaming para peticiones estándar.

Copycurl https://api.llmproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integración con SDK Python

Usa la biblioteca oficial de OpenAI para Python para interactuar con nuestra API. Establece api_key a tu clave de proxy y base_url a nuestro endpoint. El resto del comportamiento de la biblioteca permanece idéntico al uso estándar de OpenAI. Esto incluye soporte para clientes asíncronos, reintentos y manejo de errores estándar. Puedes pasar los mismos parámetros que usarías normalmente, como temperature y max tokens. El proxy maneja el enrutamiento al modelo sin censura detrás de escena. Esto te permite mantener tu base de código Python existente mientras obtienes acceso a las capacidades de nuestro modelo.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmproxyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integración con SDK Node.js

El SDK de Node.js funciona con nuestra API sobrescribiendo la URL base. Inicializa el cliente con tu clave de API de proxy y el endpoint correcto. Todos los demás métodos, como chat.completions.create, funcionan como se espera. Esto incluye el manejo de objetos de respuesta y tipos de error estándar. Puedes usar las mismas estructuras de mensajes y parámetros que usarías con OpenAI. El proxy asegura que la petición sea procesada por el modelo sin censura. Esta compatibilidad permite a los desarrolladores cambiar de proveedor rápidamente sin reescribir la lógica del cliente. Es ideal para microservicios que ya usan el patrón del SDK de OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmproxyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respuestas en streaming

Habilita el streaming estableciendo el parámetro stream en true en tu petición. La API devuelve un flujo de Server-Sent Events (SSE). Cada fragmento contiene actualizaciones parciales de tokens, lo que permite la visualización en tiempo real de la respuesta. Esto es crítico para interfaces de chat y aplicaciones que requieren retroalimentación inmediata. El flujo termina con un fragmento final que contiene los metadatos de la respuesta completa. Puedes analizar los fragmentos usando bibliotecas SSE estándar en tu lenguaje preferido. Esta función funciona sin problemas con los SDKs de OpenAI, que manejan la lógica de análisis automáticamente. Proporciona una experiencia de usuario fluida sin esperar a que se genere toda la respuesta.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Límites de peticiones y restricciones

Nuestra API aplica un límite de 300 peticiones por minuto por clave. Si excedes esto, recibirás un código de estado 429. Asegúrate de implementar lógica de reintento con retroceso exponencial para estos casos. El tamaño del cuerpo de la petición está limitado a 8 MB. Esta restricción se aplica a la carga útil JSON total, incluyendo prompt y contexto. El precio se basa en el uso: $0,25 por millón de tokens de entrada y $1,00 por millón de tokens de salida. Los créditos son prepago y no caducan. Si tu saldo es insuficiente, las peticiones devolverán un error 402. Los errores de autenticación devuelven un estado 401. No hay enrutamiento complejo ni selección de proveedor; el modelo es fijo.