Dolphin LLM: ganti klien Anda dalam tiga baris

URL Dasar dan autentikasi

API kami dirancang sebagai pengganti langsung untuk integrasi OpenAI standar. Anda tidak memerlukan SDK baru atau file konfigurasi yang rumit. Cukup perbarui base_url di klien Anda agar mengarah ke endpoint kami, dan berikan kunci API Anda di header Authorization standar.

Daftar akun gratis untuk menerima kunci Anda segera. Tidak ada kartu yang diperlukan untuk kredit uji coba, sehingga mudah untuk memverifikasi konektivitas. Base URL untuk semua permintaan adalah https://new.dolphinllm.com/v1. Ini memastikan bahwa alat, pustaka, atau aplikasi apa pun yang sudah dikonfigurasi untuk OpenAI dapat mengarahkan lalu lintas ke model kami dengan hambatan minimal.

URL Dasar

https://new.dolphinllm.com/v1

Header Auth

Authorization: Bearer YOUR_API_KEY

ID Model

uncensored

Permintaan pertama

Uji koneksi Anda dengan permintaan penyelesaian chat sederhana. Ini mengonfirmasi bahwa kunci Anda valid dan endpoint responsif. Body permintaan mengikuti skema penyelesaian chat OpenAI standar. Ganti YOUR_API_KEY dengan kunci aktual Anda.

Metode: POST · Endpoint: /v1/chat/completions · Model: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Endpoint ini mendukung streaming dan pemanggilan alat, tetapi permintaan dasar ini menunjukkan kemampuan inti teks masuk, teks keluar. Jika Anda menerima respons, klien Anda telah terhubung dengan layanan Dolphin LLM.

SDK Python

Gunakan pustaka Python resmi openai untuk berinteraksi dengan API. Konfigurasikan klien dengan URL dasar kustom dan kunci API Anda. Pendekatan ini berfungsi dengan kode apa pun yang sudah ditulis untuk OpenAI, memungkinkan Anda mengganti penyedia tanpa menulis ulang logika Anda.

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ID model adalah uncensored. Kirimkan riwayat percakapan lengkap dalam messages.

SDK Node

Untuk aplikasi Node.js, paket npm openai menangani integrasi. Atur baseURL ke endpoint kami dan berikan kunci Anda. Ini memastikan kompatibilitas dengan proyek Node.js yang ada yang mengandalkan struktur OpenAI.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

API mendukung parameter standar seperti max_tokens and temperature. Sesuaikan ini untuk mengendalikan kreativitas dan panjang output.

Respons streaming (SSE)

Aktifkan streaming dengan mengatur stream parameter menjadi true dalam body permintaan Anda. API mengembalikan Server-Sent Events (SSE), memungkinkan Anda memproses token saat dihasilkan. Ini mengurangi latensi yang dirasakan oleh pengguna akhir.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Stream menggunakan tipe event OpenAI standar, sehingga sebagian besar parser SSE dapat bekerja dengannya. Penggunaan token muncul dalam frame data terakhir sebelum data: [DONE].

Batas laju dan batasan

API menerapkan batas 300 permintaan per menit dan 8 permintaan paralel per kunci (kunci trial: 60 dan 2). Ukuran body permintaan dibatasi hingga 8 MB. Jika Anda melebihi batas ini, Anda akan menerima error 429.

Kesalahan autentikasi mengembalikan 401 jika kunci tidak ada atau tidak valid. Kesalahan pembayaran mengembalikan 402 jika saldo Anda kosong. Jendela konteks adalah 64.000 token untuk prompt dan penyelesaian gabungan; pertahankan input Anda dalam batas ini.