Início rápido: integre o proxy LLM

URL base e autenticação

Substitua sua URL base padrão do OpenAI pelo nosso endpoint. A autenticação é feita via token Bearer no cabeçalho Autorização. Essa abordagem funciona com qualquer biblioteca cliente compatível com OpenAI. Você não precisa alterar a lógica do seu código, apenas os valores de configuração. Nossa API imita a estrutura de interface padrão do OpenAI, garantindo que o código de integração existente permaneça válido. Isso reduz o tempo de integração para minutos em vez de dias. Você pode regenerar sua chave a qualquer momento no seu painel, o que invalida imediatamente a chave antiga. Isso fornece segurança sem exigir lógica complexa de rotação de tokens no seu aplicativo.

Primeira requisição

Envie uma requisição padrão de completions de chat para testar a conectividade. O endpoint aceita payloads JSON com um identificador de modelo e histórico de mensagens. O ID do nosso modelo é "uncensored". Esse identificador diz ao proxy qual modelo sem censura rotear sua requisição. A estrutura da resposta espelha o formato OpenAI, contendo o conteúdo da mensagem do assistente. Você pode verificar a resposta verificando o campo conteúdo na saída JSON. Isso confirma que sua autenticação e estrutura de payload estão corretas. O endpoint suporta ambos os modos de streaming e não-streaming para requisições padrão.

Copycurl https://api.llmproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Integração com SDK Python

Use a biblioteca oficial OpenAI para Python para interagir com nossa API. Defina api_key para sua chave de proxy e base_url para nosso endpoint. O restante do comportamento da biblioteca permanece idêntico ao uso padrão da OpenAI. Isso inclui suporte para clientes assíncronos, tentativas de reconexão e tratamento de erros padrão. Você pode passar os mesmos parâmetros que usaria normalmente, como temperatura e máx. tokens. O proxy cuida do roteamento para o modelo sem censura nos bastidores. Isso permite que você mantenha sua base de código Python existente enquanto ganha acesso às capacidades do nosso modelo.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmproxyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Integração com SDK Node.js

O SDK Node.js funciona com nossa API substituindo a URL base. Inicialize o cliente com sua chave de API de proxy e o endpoint correto. Todos os outros métodos, como chat.completions.create, funcionam conforme o esperado. Isso inclui o tratamento de objetos de resposta padrão e tipos de erro. Você pode usar as mesmas estruturas de mensagem e parâmetros que usaria com a OpenAI. O proxy garante que a requisição seja processada pelo modelo sem censura. Essa compatibilidade permite que desenvolvedores troquem de provedor rapidamente sem reescrever a lógica do cliente. É ideal para microsserviços que já usam o padrão do SDK da OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmproxyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respostas em streaming

Ative o streaming definindo o parâmetro stream como true na sua requisição. A API retorna um stream de Server-Sent Events (SSE). Cada chunk contém atualizações parciais de token, permitindo a exibição em tempo real da resposta. Isso é crítico para interfaces de chat e aplicativos que exigem feedback imediato. O stream termina com um chunk final contendo os metadados da resposta completa. Você pode analisar os chunks usando bibliotecas SSE padrão na sua linguagem preferida. Esse recurso funciona perfeitamente com os SDKs da OpenAI, que lidam com a lógica de análise automaticamente. Ele proporciona uma experiência de usuário fluida sem esperar que toda a resposta seja gerada.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limites de taxa e restrições

Nossa API impõe um limite de 300 requisições por minuto por chave. Se você exceder isso, receberá um código de status 429. Certifique-se de implementar lógica de tentativa com backoff exponencial para esses casos. O tamanho do corpo da requisição é limitado a 8 MB. Essa restrição se aplica ao payload JSON total, incluindo prompt e janela de contexto. O preço é baseado no uso: $0,25 por milhão de tokens de entrada e $1,00 por milhão de tokens de saída. Os créditos são pré-pagos e nunca expiram. Se seu saldo for insuficiente, as requisições retornarão um erro 402. Erros de autenticação retornam um status 401. Não há roteamento complexo ou seleção de fornecedor; o modelo é fixo.