Dolphin LLM: Chuyển đổi máy khách của bạn chỉ trong ba dòng

URL cơ sở và xác thực

API của chúng tôi được thiết kế để thay thế trực tiếp cho các tích hợp OpenAI tiêu chuẩn. Bạn không cần SDK mới hay tệp cấu hình phức tạp. Chỉ cần cập nhật base_url trong client của bạn để trỏ đến endpoint của chúng tôi và cung cấp API key trong header Authorization tiêu chuẩn.

Đăng ký tài khoản miễn phí để nhận khóa API ngay lập tức. Không cần thẻ cho khoản tín dụng dùng thử, giúp dễ dàng xác minh kết nối. URL cơ sở cho tất cả các yêu cầu là https://new.dolphinllm.com/v1. Điều này đảm bảo bất kỳ công cụ, thư viện hoặc ứng dụng nào đã được cấu hình cho OpenAI đều có thể định tuyến lưu lượng đến mô hình của chúng tôi với ít trở ngại nhất.

URL cơ sở

https://new.dolphinllm.com/v1

Tiêu đề Auth

Authorization: Bearer YOUR_API_KEY

ID mô hình

uncensored

Yêu cầu đầu tiên

Kiểm tra kết nối của bạn bằng một yêu cầu chat completion đơn giản. Điều này xác nhận khóa API của bạn hợp lệ và endpoint có phản hồi. Thân yêu cầu tuân theo schema chat completions tiêu chuẩn của OpenAI. Thay thế YOUR_API_KEY bằng khóa thực tế của bạn.

Phương thức: POST · Endpoint: /v1/chat/completions · Model: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Điểm cuối này hỗ trợ streaming và gọi công cụ, nhưng yêu cầu cơ bản này minh họa khả năng cốt lõi: đầu vào văn bản và đầu ra văn bản. Nếu bạn nhận được phản hồi, ứng dụng của bạn đã kết nối thành công với dịch vụ Dolphin LLM.

Python SDK

Sử dụng thư viện Python chính thức của OpenAI để tương tác với API. Cấu hình client với URL cơ sở tùy chỉnh và khóa API của bạn. Cách tiếp cận này hoạt động với bất kỳ mã nào đã được viết cho OpenAI, cho phép bạn chuyển đổi nhà cung cấp mà không cần viết lại logic của mình.

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ID mô hình là uncensored. Truyền toàn bộ lịch sử hội thoại vào messages.

SDK Node

Đối với ứng dụng Node.js, gói npm openai xử lý tích hợp. Đặt baseURL thành điểm cuối của chúng tôi và cung cấp khóa của bạn. Điều này đảm bảo tương thích với các dự án Node.js hiện có dựa trên cấu trúc của OpenAI.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

API hỗ trợ các tham số tiêu chuẩn như max_tokens and temperature. Điều chỉnh các tham số này để kiểm soát độ sáng tạo và độ dài của đầu ra.

Phản hồi theo luồng (SSE)

Bật chế độ streaming bằng cách đặt stream tham số thành true trong body yêu cầu của bạn. API trả về Server-Sent Events (SSE), cho phép bạn xử lý token khi chúng được tạo ra. Điều này giảm độ trễ cảm nhận đối với người dùng cuối.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Streaming sử dụng các loại sự kiện tiêu chuẩn của OpenAI, vì vậy hầu hết các trình phân tích SSE đều hoạt động với nó. Việc sử dụng token xuất hiện trong khung dữ liệu cuối cùng trước data: [DONE].

Giới hạn tốc độ và ràng buộc

API áp dụng giới hạn 300 yêu cầu mỗi phút và 8 yêu cầu song song mỗi khóa (khóa dùng thử: 60 và 2). Kích thước thân yêu cầu được giới hạn ở 8 MB. Nếu vượt quá các giới hạn này, bạn sẽ nhận được lỗi 429.

Lỗi xác thực trả về 401 nếu khóa không có hoặc không hợp lệ. Lỗi thanh toán trả về 402 nếu số dư của bạn bằng không. Cửa sổ ngữ cảnh là 64.000 token cho cả prompt và kết hợp hoàn thành; hãy giữ đầu vào của bạn trong giới hạn này.