Dolphin LLM: змініть клієнт за три рядки

Базовий URL та автентифікація

Наш API розроблено як пряму заміну стандартним інтеграціям OpenAI. Вам не потрібен новий SDK або складний конфігураційний файл. Просто оновіть `base_url` у вашому клієнті, щоб він вказував на наш ендпоінт, та надайте свій API-ключ у стандартному заголовку `Authorization`.

Зареєструйте безкоштовний акаунт, щоб одержати свій ключ миттєво. Для пробного кредиту не потрібна банківська карта, що полегшує перевірку з'єднання. Базовий URL для всіх запитів: https://new.dolphinllm.com/v1. Це забезпечує сумісність будь-якого інструменту, бібліотеки або додатку, вже налаштованого для OpenAI, з нашою моделлю з мінімальними зусиллями.

Базовий URL

https://new.dolphinllm.com/v1

Заголовок Auth

Authorization: Bearer YOUR_API_KEY

Ідентифікатор моделі

uncensored

Перший запит

Перевірте своє з'єднання за допомогою простого запиту chat completion. Це підтверджує, що ваш ключ дійсний, а кінцева точка відповідає. Тіло запиту відповідає стандартній схемі chat completions OpenAI. Замініть YOUR_API_KEY на ваш фактичний ключ.

Метод: POST · Ендпоінт: /v1/chat/completions · Модель: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Цей ендпоінт підтримує потокову передачу (streaming) та виклик інструментів (tool calling), але цей базовий запит ілюструє основну функціональність «текст на вхід — текст на вихід». Якщо ви отримали відповідь, ваш клієнт успішно підключений до сервісу Dolphin LLM.

Python SDK

Використовуйте офіційну бібліотеку Python для OpenAI для взаємодії з API. Налаштуйте клієнт, вказавши власну базову URL-адресу та свій API-ключ. Цей підхід працює з будь-яким кодом, написаним раніше для OpenAI, дозволяючи змінити постачальника без переписування логіки.

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ідентифікатор моделі uncensored. Передавайте повну історію розмови в messages.

Node SDK

Для додатків на Node.js пакет npm openai забезпечує інтеграцію. Встановіть baseURL на нашу кінцеву точку та надайте свій ключ. Це гарантує сумісність із існуючими проектами Node.js, які покладаються на структуру OpenAI.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

API підтримує стандартні параметри, такі як max_tokens and temperature. Налаштуйте ці параметри, щоб керувати креативністю та довжиною виводу.

Потокові відповіді (SSE)

Увімкніть потокове передавання, встановивши stream встановіть параметр у true в тілі запиту. API повертає Server-Sent Events (SSE), що дозволяє обробляти токени по мірі їх генерації. Це зменшує сприйняту затримку для кінцевих користувачів.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Потік використовує стандартні типи подій OpenAI, тому більшість парсерів SSE працюють з ним. Використання токенів надходить у останньому кадрі даних перед data: [DONE].

Ліміти частоти та обмеження

API встановлює ліміт 300 запитів на хвилину та 8 паралельних запитів на ключ (тестові ключі: 60 та 2). Розмір тіла запиту обмежено 8 МБ. Якщо ви перевищите ці ліміти, ви отримаєте помилку 429.

Помилки автентифікації повертають 401, якщо ключ відсутній або недійсний. Помилки оплати повертають 402, якщо ваш баланс порожній. Контекстне вікно становить 64 000 токенів для запиту та відповіді разом; тримайте свої вхідні дані в межах цього ліміту.