Dolphin LLM : changez votre client en trois lignes

URL de base et authentification

Notre API est conçue comme un remplacement direct des intégrations OpenAI standard. Vous n'avez pas besoin d'un nouveau SDK ni d'un fichier de configuration complexe. Mettez simplement à jour le `base_url` de votre client pour pointer vers notre endpoint et fournissez votre clé API dans l'en-tête `Authorization` standard.

Inscrivez-vous pour un compte gratuit afin de recevoir votre clé immédiatement. Aucune carte n'est requise pour le crédit d'essai, ce qui facilite la vérification de la connectivité. L'URL de base pour toutes les requêtes est https://new.dolphinllm.com/v1. Cela garantit que tout outil, bibliothèque ou application déjà configuré pour OpenAI peut acheminer le trafic vers notre modèle avec un minimum de friction.

URL de base

https://new.dolphinllm.com/v1

En-tête Auth

Authorization: Bearer YOUR_API_KEY

ID du modèle

uncensored

Première requête

Testez votre connexion avec une simple requête de complétion de chat. Cela confirme que votre clé est valide et que le point de terminaison est réactif. Le corps de la requête suit le schéma standard de complétion de chat OpenAI. Remplacez YOUR_API_KEY par votre clé réelle.

Méthode : POST · Point de terminaison : /v1/chat/completions · Modèle : uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Ce point de terminaison prend en charge le streaming et l'appel d'outils, mais cette requête de base démontre la capacité fondamentale texte en entrée, texte en sortie. Si vous recevez une réponse, votre client est connecté avec succès au service Dolphin LLM.

SDK Python

Utilisez la bibliothèque Python officielle openai pour interagir avec l'API. Configurez le client avec l'URL de base personnalisée et votre clé API. Cette approche fonctionne avec tout code déjà écrit pour OpenAI, vous permettant de changer de fournisseur sans réécrire votre logique.

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

L'ID du modèle est uncensored. Transmettez l’intégralité de l’historique de la conversation dans messages.

SDK Node

Pour les applications Node.js, le package npm openai gère l'intégration. Définissez le baseURL sur notre point de terminaison et fournissez votre clé. Cela garantit la compatibilité avec les projets Node.js existants qui s'appuient sur la structure d'OpenAI.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

L'API prend en charge les paramètres standard comme max_tokens and temperature. Ajustez-les pour contrôler la créativité et la longueur de la sortie.

Réponses en streaming (SSE)

Activez le streaming en définissant le stream paramètre à true dans le corps de votre requête. L'API renvoie des Server-Sent Events (SSE), vous permettant de traiter les tokens au fur et à mesure de leur génération. Cela réduit la latence perçue pour les utilisateurs finaux.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Le streaming utilise les types d'événements OpenAI standard, donc la plupart des analyseurs SSE fonctionnent avec. L'utilisation des jetons arrive dans le dernier cadre de données avant data: [DONE].

Limites de débit et contraintes

L'API impose une limite de 300 requêtes par minute et de 8 requêtes parallèles par clé (clés d'essai : 60 et 2). La taille du corps de la requête est plafonnée à 8 Mo. Si vous dépassez ces limites, vous recevrez une erreur 429.

Les erreurs d'authentification renvoient 401 si la clé est manquante ou invalide. Les erreurs de paiement renvoient 402 si votre solde est vide. La fenêtre de contexte est de 64 000 tokens pour l'ensemble du prompt et de la complétion ; gardez vos entrées dans cette limite.