Dolphin LLM: अपने क्लाइंट को तीन लाइनों में बदलें

बेस यूआरएल और प्रमाणीकरण

हमारी API को मानक OpenAI इंटीग्रेशन के लिए एक ड्रॉप-इन रिप्लेसमेंट के रूप में डिज़ाइन किया गया है। आपको नए SDK या जटिल कॉन्फ़िगरेशन फ़ाइल की आवश्यकता नहीं है। बस अपने क्लाइंट में base_url को अपने एंडपॉइंट की ओर इशारा करने के लिए अपडेट करें और मानक Authorization हेडर में अपनी API key प्रदान करें।

तुरंत अपनी कुंजी प्राप्त करने के लिए एक मुफ्त खाता बनाएं। ट्रायल क्रेडिट के लिए कार्ड की आवश्यकता नहीं होती है, जिससे कनेक्टिविटी की जांच आसान हो जाती है। सभी अनुरोधों के लिए बेस यूआरएल है https://new.dolphinllm.com/v1. इससे सुनिश्चित होता है कि OpenAI के लिए पहले से कॉन्फ़िगर किसी भी टूल, लाइब्रेरी या एप्लिकेशन में न्यूनतम बाधा के साथ ट्रैफ़िक को हमारे मॉडल पर रूट किया जा सके।

बेस यूआरएल

https://new.dolphinllm.com/v1

Auth हेडर

Authorization: Bearer YOUR_API_KEY

मॉडल ID

uncensored

पहली अनुरोध

एक सरल चैट पूरा करने वाले अनुरोध के साथ अपनी कनेक्शन जांचें। यह पुष्टि करता है कि आपकी कुंजी मान्य है और एंडपॉइंट प्रतिक्रियाशील है। अनुरोध बॉडी मानक OpenAI चैट पूरा करने वाले स्कीमा का पालन करती है। YOUR_API_KEY को अपनी वास्तविक कुंजी से बदलें।

विधि: POST · एंडपॉइंट: /v1/chat/completions · मॉडल: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

यह एंडपॉइंट स्ट्रीमिंग और टूल कॉलिंग का समर्थन करता है, लेकिन यह बुनियादी अनुरोध कोर टेक्स्ट-इन, टेक्स्ट-आउट क्षमता को प्रदर्शित करता है। यदि आपको प्रतिक्रिया प्राप्त होती है, तो आपका क्लाइंट सफलतापूर्वक Dolphin LLM सेवा से कनेक्ट हो गया है।

पायथन SDK

API के साथ इंटरैक्ट करने के लिए आधिकारिक openai Python लाइब्रेरी का उपयोग करें। कस्टम बेस URL और अपनी API कुंजी के साथ क्लाइंट कॉन्फ़िगर करें। यह दृष्टिकोण OpenAI के लिए पहले से लिखे गए किसी भी कोड के साथ काम करता है, जिससे आप बिना अपनी लॉजिक को फिर से लिखे प्रदाता बदल सकते हैं।

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

मॉडल ID है uncensored. पूरी बातचीत का इतिहास पास करें messages.

Node SDK

Node.js एप्लिकेशन के लिए, `openai` npm पैकेज एकीकरण संभालता है। `baseURL` को हमारे एंडपॉइंट पर सेट करें और अपना कुंजी प्रदान करें। यह सुनिश्चित करता है कि मौजूदा Node.js प्रोजेक्ट्स जो OpenAI की संरचना पर निर्भर हैं, संगत रहें।

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

API मानक पैरामीटर जैसे max_tokens and temperature. आउटपुट की रचनात्मकता और लंबाई को नियंत्रित करने के लिए इन्हें समायोजित करें।

स्ट्रीमिंग प्रतिक्रियाएं (SSE)

`stream` को सेट करके स्ट्रीमिंग सक्षम करें stream अपने request body में पैरामीटर को true सेट करें। API Server-Sent Events (SSE) लौटाता है, जिससे आप टोकन को जनरेट होते ही प्रोसेस कर सकते हैं। इससे अंत उपयोगकर्ताओं के लिए अनुभवगत विलंबता कम हो जाती है।

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

स्ट्रीम मानक OpenAI इवेंट प्रकारों का उपयोग करती है, इसलिए अधिकाय SSE पार्सर इसके साथ काम करते हैं। टोकन उपयोग data: [DONE].

रेट लिमिट्स और बाधाएँ

API प्रति मिनट 300 अनुरोधों और प्रति कुंजी 8 समानांतर अनुरोधों की सीमा लागू करती है (ट्रायल कुंजियाँ: 60 और 2)। अनुरोध बॉडी का आकार 8 MB तक सीमित है। यदि आप इन सीमाओं को पार करते हैं, तो आपको 429 त्रुटि मिलेगी।

प्रमाणीकरण त्रुटियाँ यदि कुंजी अनुपस्थित या अमान्य है तो 401 लौटाती हैं। भुगतान त्रुटियाँ यदि आपका शेष खाली है तो 402 लौटाती हैं। कॉन्टेक्स्ट विंडो प्रॉम्प्ट और कंप्लीशन दोनों के लिए मिलाकर 64,000 टोकन है; अपने इनपुट को इस सीमा के भीतर रखें।