Dolphin LLM: เปลี่ยนไคลเอนต์ของคุณในสามบรรทัด

URL ฐานและการตรวจสอบสิทธิ์

API ของเราได้รับการออกแบบมาให้สามารถแทนที่การผสานรวม OpenAI มาตรฐานได้ทันที คุณไม่จำเป็นต้องใช้ SDK ใหม่หรือไฟล์การกำหนดค่าที่ซับซ้อน เพียงอัปเดต base_url ในไคลเอนต์ของคุณให้ชี้ไปยังจุดปลายของเราและระบุคีย์ API ในส่วนหัว Authorization มาตรฐาน

สมัครบัญชีฟรีเพื่อรับคีย์ของคุณทันที ไม่มีข้อกำหนดการใช้บัตรเครดิตสำหรับเครดิตทดลอง ทำให้การตรวจสอบการเชื่อมต่อทำได้ง่าย URL พื้นฐานสำหรับคำขอทั้งหมดคือ https://new.dolphinllm.com/v1สิ่งนี้ทำให้เครื่องมือ ไลบรารี หรือแอปพลิเคชันใดๆ ที่กำหนดค่าสำหรับ OpenAI อยู่แล้ว สามารถเปลี่ยนเส้นทาง traffic ไปยังโมเดลของเราได้อย่างราบรื่น

URL ฐาน

https://new.dolphinllm.com/v1

ส่วนหัวการตรวจสอบสิทธิ์ (Auth header)

Authorization: Bearer YOUR_API_KEY

รหัสโมเดล

uncensored

คำขอครั้งแรก

ทดสอบการเชื่อมต่อของคุณด้วยการขอ chat completion แบบง่าย ซึ่งยืนยันว่าคีย์ของคุณใช้งานได้และ endpoint ตอบสนองได้ โครงร่างของคำขอเป็นไปตามมาตรฐาน OpenAI chat completions schema แทนที่ YOUR_API_KEY ด้วยคีย์จริงของคุณ

เมธอด: POST · Endpoint: /v1/chat/completions · Model: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

เอนด์พอยต์นี้รองรับการสตรีมและการเรียกใช้เครื่องมือ แต่คำขอพื้นฐานนี้แสดงความสามารถหลักในการรับข้อความเข้าและส่งข้อความออก หากคุณได้รับคำตอบ แสดงว่าไคลเอนต์ของคุณเชื่อมต่อเข้ากับบริการ Dolphin LLM ได้สำเร็จ

Python SDK

ใช้ไลบรารี Python ทางการของ OpenAI เพื่อโต้ตอบกับ API กำหนดค่าไคลเอนต์ด้วย URL พื้นฐานแบบกำหนดเองและคีย์ API ของคุณ วิธีนี้เข้ากันได้กับโค้ดที่เขียนไว้สำหรับ OpenAI แล้ว ทำให้คุณสามารถเปลี่ยนผู้ให้บริการโดยไม่ต้องเขียนตรรกะใหม่

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

โมเดล ID คือ uncensored. ส่งประวัติการสนทนาทั้งหมดใน messages.

Node SDK

สำหรับแอปพลิเคชัน Node.js แพ็กเกจ npm openai จัดการการเชื่อมต่อ ตั้งค่า baseURL เป็น endpoint ของเราและระบุคีย์ของคุณ สิ่งนี้ทำให้มั่นใจถึงความเข้ากันได้กับโปรเจกต์ Node.js ที่มีอยู่ซึ่งพึ่งพาโครงสร้างของ OpenAI

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

API รองรับพารามิเตอร์มาตรฐานเช่น max_tokens and temperature. ปรับค่าเหล่านี้เพื่อควบคุมความสร้างสรรค์และความยาวของผลลัพธ์

การตอบสนองแบบสตรีม (SSE)

เปิดใช้งานการสตรีมโดยตั้งค่า stream ตั้งค่าเป็น true ใน request body ของคุณ API ส่งคืน Server-Sent Events (SSE) ทำให้คุณสามารถประมวลผลโทเค็นได้ทันทีที่สร้าง ซึ่งช่วยลดเวลาแฝงที่ผู้ใช้ปลายทางรู้สึก

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

stream ใช้ประเภทเหตุการณ์มาตรฐานของ OpenAI ดังนั้น parsers ส่วนใหญ่ของ SSE จึงใช้งานได้กับการใช้งานนี้ การใช้ token จะปรากฏในเฟรมข้อมูลสุดท้ายก่อน data: [DONE].

อัตราจำกัดและข้อจำกัด

API กำหนดขีดจำกัด 300 requests ต่อนาที และ 8 parallel requests ต่อ key (trial keys: 60 และ 2) ขนาดของ request body ถูกจำกัดไว้ที่ 8 MB หากเกินขีดจำกัดเหล่านี้ คุณจะรับ error 429

ข้อผิดพลาดในการตรวจสอบสิทธิ์จะส่งสถานะ 401 หากคีย์หายไปหรือไม่ถูกต้อง ข้อผิดพลาดในการชำระเงินจะส่งสถานะ 402 หากยอดเงินของคุณว่างเปล่า ขนาดหน้าต่างบริบทคือ 64,000 โทเค็นสำหรับทั้งอินพุตและเอาต์พุตรวมกัน; โปรดจำกัดอินพุตของคุณภายในขีดจำกัดนี้