Dolphin LLM: Wechseln Sie Ihren Client in drei Zeilen

Basis-URL und Authentifizierung

Unsere API ist als Drop-in-Ersatz für Standard-OpenAI-Integrationen konzipiert. Sie benötigen kein neues SDK oder eine komplexe Konfigurationsdatei. Aktualisieren Sie einfach die base_url in Ihrem Client, um auf unseren Endpunkt zu verweisen, und geben Sie Ihren API-Key im standardmäßigen Authorization-Header an.

Registrieren Sie sich für ein kostenloses Konto, um Ihren Schlüssel sofort zu erhalten. Für die Testgutschrift wird keine Kreditkarte benötigt, was die Überprüfung der Verbindung erleichtert. Die Basis-URL für alle Anfragen ist https://new.dolphinllm.com/v1. Dies stellt sicher, dass jedes Tool, jede Bibliothek oder jede Anwendung, die bereits für OpenAI konfiguriert ist, den Datenverkehr mit minimalem Aufwand auf unser Modell umleiten kann.

Basis-URL

https://new.dolphinllm.com/v1

Auth-Header

Authorization: Bearer YOUR_API_KEY

Modell-ID

uncensored

Erste Anfrage

Testen Sie Ihre Verbindung mit einer einfachen Chat-Vervollständigungsanfrage. Dies bestätigt, dass Ihr Schlüssel gültig ist und der Endpunkt antwortet. Der Anfragekörper folgt dem Standard-OpenAI-Chat-Vervollständigungs-Schema. Ersetzen Sie YOUR_API_KEY durch Ihren tatsächlichen Schlüssel.

Methode: POST · Endpunkt: /v1/chat/completions · Modell: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Dieser Endpunkt unterstützt Streaming und Tool-Calling, aber diese grundlegende Anfrage demonstriert die Kernfunktionalität Text-ein, Text-aus. Wenn Sie eine Antwort erhalten, ist Ihr Client erfolgreich mit dem Dolphin LLM-Service verbunden.

Python SDK

Verwenden Sie die offiziene OpenAI Python-Bibliothek, um mit der API zu interagieren. Konfigurieren Sie den Client mit der benutzerdefinierten Basis-URL und Ihrem API-Schlüssel. Dieser Ansatz funktioniert mit jedem Code, der bereits für OpenAI geschrieben wurde, sodass Sie den Anbieter wechseln können, ohne Ihre Logik neu schreiben zu müssen.

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Die Modell-ID ist uncensored. Übergebe den vollständigen Konversationsverlauf in messages.

Node SDK

Für Node.js-Anwendungen übernimmt das openai npm-Paket die Integration. Legen Sie die baseURL auf unseren Endpunkt fest und geben Sie Ihren Schlüssel an. Dies gewährleistet die Kompatibilität mit bestehenden Node.js-Projekten, die auf der Struktur von OpenAI basieren.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Die API unterstützt Standardparameter wie max_tokens and temperature. Passe diese an, um die Kreativität und Länge der Ausgabe zu steuern.

Streaming-Antworten (SSE)

Streaming aktivieren, indem Sie die stream Parameter auf true in Ihrem Anfragekörper setzen. Die API gibt Server-Sent Events (SSE) zurück, sodass Sie Tokens verarbeiten können, während sie generiert werden. Dies reduziert die wahrgenommene Latenz für Endbenutzer.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Der Stream verwendet Standard-OpenAI-Ereignistypen, daher funktionieren die meisten SSE-Parser damit. Die Token-Nutzung wird im letzten Datenframe vor data: [DONE].

Ratenbegrenzungen und Einschränkungen

Die API erzwingt ein Limit von 300 Anfragen pro Minute und 8 parallelen Anfragen pro Schlüssel (Testschlüssel: 60 und 2). Die Größe des Anfragekörpers ist auf 8 MB begrenzt. Wenn Sie diese Limits überschreiten, erhalten Sie einen 429-Fehler.

Authentifizierungsfehler geben 401 zurück, wenn der Schlüssel fehlt oder ungültig ist. Zahlungsfehler geben 402 zurück, wenn Ihr Guthaben leer ist. Das Kontextfenster beträgt 64.000 Tokens für Prompt und Completion zusammen; halten Sie Ihre Eingaben innerhalb dieses Limits.