البدء السريع: دمج وكيل LLM

عنوان URL الأساسي والمصادقة

استبدل عنوان URL الأساسي القياسي لـ OpenAI بنقطة النهاية الخاصة بنا. تتم المصادقة عبر رمز Bearer في رأس Authorization. يعمل هذا النهج مع أي مكتبة عميل متوافقة مع OpenAI. لا تحتاج إلى تغيير منطق الكود الخاص بك، فقط قيم التكوين. تحاكي واجهة برمجة التطبيقات (API) لدينا هيكل واجهة OpenAI القياسية، مما يضمن بقاء كود التكامل الحالي صالحاً. هذا يقلل وقت التكامل إلى دقائق بدلاً من أيام. يمكنك إعادة إنشاء مفتاح API الخاص بك في أي وقت من لوحة التحكم، مما يلغي صلاحية المفتاح القديم فوراً. يوفر هذا الأمان دون الحاجة إلى منطق معقد لتدوير الرموز في التطبيق الخاص بك.

الطلب الأول

أرسل طلب إكمال محادثة قياسي لاختبار الاتصال. تقبل نقطة النهاية حمولات JSON مع معرف النموذج وسجل الرسائل. معرف النموذج لدينا هو "uncensored". يخبر هذا المعرف الوكيل بنموذج بدون رقابة لتوجيه طلبك إليه. يعكس هيكل الاستجابة تنسيق OpenAI، ويحتوي على محتوى رسالة المساعد. يمكنك التحقق من الاستجابة عن طريق التحقق من حقل content في إخراج JSON. يؤكد هذا أن المصادقة وهيكل الحمولة صحيحان. تدعم نقطة النهاية كل من أوضاع البث المتدفق وغير المتدفق للطلبات القياسية.

Copycurl https://api.llmproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

دمج حزمة SDK لـ Python

استخدم مكتبة Python الرسمية لـ OpenAI للتفاعل مع الـ API الخاص بنا. اضبط api_key ليكون مفتاح الـ proxy الخاص بك، وbase_url ليكون نقطة النهاية الخاصة بنا. يبقى سلوك باقي المكتبة مطابقاً للاستخدام القياسي لـ OpenAI. يشمل ذلك دعم العملاء غير المتزامنين، وإعادة المحاولة، ومعالجة الأخطاء القياسية. يمكنك تمرير نفس المعاملات التي تستخدمها عادةً، مثل temperature وmax tokens. يتولى الـ proxy توجيه الطلبات إلى النموذج بدون رقابة خلف الكواليس. يتيح لك ذلك الحفاظ على شيفرتك الحالية في Python مع الحصول على إمكانيات النموذج الخاص بنا.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmproxyapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

دمج حزمة SDK لـ Node.js

يعمل حزمة Node.js SDK مع الـ API الخاص بنا عن طريق تجاوز عنوان URL الأساسي. قم بتهيئة العميل بمفتاح الـ API الخاص بك ونقطة النهاية الصحيحة. تعمل جميع الطرق الأخرى، مثل chat.completions.create، كما هو متوقع. يشمل ذلك معالجة كائنات الاستجابة القياسية وأنواع الأخطاء. يمكنك استخدام هياكل الرسائل نفسها والمعاملات التي تستخدمها مع OpenAI. يضمن الـ proxy معالجة الطلب بواسطة النموذج بدون رقابة. يتيح هذا التوافق للمطورين تبديل المزودين بسرعة دون إعادة كتابة منطق العميل. إنه مثالي للخدمات المصغرة التي تستخدم بالفعل نمط SDK الخاص بـ OpenAI.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmproxyapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

الاستجابات المتدفقة

فعّل البث المتدفق عن طريق تعيين المعامل stream إلى true في طلبك. تُرجع الـ API دفق أحداث موجهة للسيرفر (SSE). يحتوي كل جزء على تحديثات جزئية للرموز، مما يتيح العرض الفوري للاستجابة. يعد هذا أمرًا حاسمًا لواجهات الدردشة والتطبيقات التي تتطلب ملاحظات فورية. ينتهي الدفق بجزء نهائي يحتوي على بيانات التعريف الكاملة للاستجابة. يمكنك تحليل الأجزاء باستخدام مكتبات SSE القياسية في لغتك المفضلة. تعمل هذه الميزة بسلاسة مع حزم تطوير البرمجيات (SDKs) الخاصة بـ OpenAI، التي تقوم بمنطق التحليل تلقائيًا. توفر تجربة مستخدم سلسة دون الحاجة للانتظار لتوليد الاستجابة بأكملها.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

حدود المعدل والقيود

تفرض واجهة برمجة التطبيقات (API) الخاصة بنا حداً قدره 300 طلب في الدقيقة لكل مفتاح. إذا تجاوزت هذا الحد، فستحصل على رمز حالة 429. تأكد من تنفيذ منطق إعادة المحاولة مع زيادة عكسية للأسلوب لهذه الحالات. حجم جسم الطلب محدود بـ 8 MB. ينطبق هذا القيد على حمولة JSON الإجمالية، بما في ذلك الموجّه والسياق. التسعير يعتمد على الاستخدام: 0.25 دولار لكل مليون رمز إدخال و1.00 دولار لكل مليون رمز إخراج. الأرصدة مسبقة الدفع ولا تنتهي صلاحيتها أبداً. إذا كان رصيدك غير كافٍ، فستعيد الطلبات خطأ 402. تعيد أخطاء المصادقة رمز حالة 401. لا يوجد توجيه معقد أو اختيار مورد؛ النموذج ثابت.