Dolphin LLM: altere seu cliente em três linhas

URL base e autenticação

Nossa API foi projetada como uma substituição direta para integrações padrão com OpenAI. Você não precisa de um novo SDK ou de um arquivo de configuração complexo. Basta atualizar o base_url no seu cliente para apontar para nosso endpoint e fornecer sua chave de API no cabeçalho Authorization padrão.

Cadastre-se para uma conta gratuita e receba sua chave imediatamente. Não é necessário cartão para o crédito de teste, facilitando a verificação de conectividade. A URL base para todas as requisições é https://new.dolphinllm.com/v1. Isso garante que qualquer ferramenta, biblioteca ou aplicativo já configurado para OpenAI possa direcionar o tráfego para nosso modelo com o mínimo de atrito.

URL base

https://new.dolphinllm.com/v1

Cabeçalho Auth

Authorization: Bearer YOUR_API_KEY

ID do Modelo

uncensored

Primeira solicitação

Teste sua conexão com uma solicitação simples de conclusão de chat. Isso confirma que sua chave é válida e que o endpoint está responsivo. O corpo da solicitação segue o esquema padrão de conclusões de chat da OpenAI. Substitua YOUR_API_KEY pela sua chave real.

Método: POST · Endpoint: /v1/chat/completions · Modelo: uncensored

curl https://new.dolphinllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Este endpoint suporta streaming e chamada de ferramentas, mas esta solicitação básica demonstra a capacidade central de entrada e saída de texto. Se você receber uma resposta, seu cliente está conectado com sucesso ao serviço Dolphin LLM.

SDK Python

Use a biblioteca oficial openai em Python para interagir com a API. Configure o cliente com a URL base personalizada e sua chave de API. Esta abordagem funciona com qualquer código já escrito para OpenAI, permitindo que você altere o provedor sem reescrever sua lógica.

from openai import OpenAI

client = OpenAI(base_url="https://new.dolphinllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

O ID do modelo é uncensored. Passe o histórico completo da conversa em messages.

SDK Node

Para aplicações Node.js, o pacote npm openai cuida da integração. Defina o baseURL para o nosso endpoint e forneça sua chave. Isso garante compatibilidade com projetos Node.js existentes que dependem da estrutura da OpenAI.

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://new.dolphinllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

A API suporta parâmetros padrão como max_tokens and temperature. Ajuste esses valores para controlar a criatividade e o comprimento da saída.

Respostas em streaming (SSE)

Ative o streaming configurando o stream defina o parâmetro como true no corpo da sua solicitação. A API retorna Server-Sent Events (SSE), permitindo que você processe tokens conforme são gerados. Isso reduz a latência percebida para os usuários finais.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

O streaming usa tipos de eventos padrão da OpenAI, portanto, a maioria dos parsers SSE funciona com ele. O uso de tokens aparece no último quadro de dados antes data: [DONE].

Limites de taxa e restrições

A API impõe um limite de 300 solicitações por minuto e 8 solicitações paralelas por chave (chaves de teste: 60 e 2). O tamanho do corpo da solicitação é limitado a 8 MB. Se você exceder esses limites, receberá um erro 429.

Erros de autenticação retornam 401 se a chave estiver ausente ou inválida. Erros de pagamento retornam 402 se seu saldo estiver vazio. A janela de contexto é de 64.000 tokens para prompt e conclusão combinados; mantenha suas entradas dentro desse limite.