Szybki start z Uncensored-llm.vercel.app

Wymagania wstępne: Klucz API i Base URL

Zacznij od uzyskania pojedynczego klucza API z pulpitu nawigacyjnego. Wspieramy logowanie przez Google lub rejestrację e-mail bez weryfikacji telefonu. Twój klucz uwierzytelnia wszystkie żądania do bazowego adresu URL: HTTPS://api.uncensoredllmvercelapp.com/v1. Ten punkt końcowy działa z dowolną biblioteką klienta kompatybilną z OpenAI. Nie musisz zarządzać wieloma punktami końcowymi dla różnych typów modeli.

Wysyłanie twojego pierwszego żądania

Wykonaj żądanie POST do /v1/chat/completions z ID modelu "uncensored". System akceptuje standardowe parametry, takie jak temperatura i top_p. Możesz wysyłać do 8 żądań jednocześnie na klucz. Każde ciało żądania musi mieścić się w 8 MB. Błędy nie zużywają Twoich kredytów z góry.

Copycurl https://api.uncensoredllmvercelapp.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France"}]
  }'

To proste wywołanie demonstruje bezpośrednią zdolność tekst-w-wejście, tekst-wy- wyjście. Odpowiedź zawiera wygenerowaną treść oraz statystyki użycia tokenów. Możesz dostosować okno kontekstowe do 100,000 tokenów dla promptu i uzupełnienia łącznie.

Strumieniowanie odpowiedzi z SSE

Włącz strumieniowanie, ustawiając stream na true w żądaniu. Serwer zwraca zdarzenia wysyłane serwerowo (SSE), gdy stają się dostępne tokeny. Zmniejsza to postrzeganą opóźnienie dla długich wyjść. Możesz przeanalizować ostatni fragment, aby uzyskać całkowite liczniki tokenów. Strumieniowanie działa identycznie jak standardowy format OpenAI.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

To podejście jest idealne dla aplikacji działających w czasie rzeczywistym. Model uncensored obsługuje wysokie obciążenie podczas strumieniowania. Zachowujesz kontrolę nad procesem generowania, nie czekając na pełną odpowiedź.

Wywoływanie funkcji i tryb JSON

Użyj parametru tools dla możliwości wywoływania funkcji. API obsługuje tool_choice i strukturalne dane wyjściowe JSON poprzez response_format. Ustaw response_format na json_object dla ścisłej zgodności z JSON. Zapewnia to niezawadne parsowanie w Twoich aplikacjach. Możesz zdefiniować wiele funkcji dla złożonych przepływów pracy.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.uncensoredllmvercelapp.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tryb JSON jest przydatny do zadań ekstrakcji danych. Wywoływanie funkcji pozwala modelowi zwracać dane strukturalne. Obie funkcje działają w ramach okna kontekstowego uncensored. Zachowujesz pełną kontrolę nad formatem wyjścia modelu.

Obsługa tokenów i limitów

Monitoruj zużycie tokenów, aby skutecznie zarządzać kosztami. Tokeny wejściowe kosztują $0.15 za milion, a tokeny wyjściowe $0.50 za milion. Kredyty są opłacane z góry i nie wygasają. Możesz wygenerować do 16,000 tokenów w jednym żądaniu. Okno kontekstowe obsługuje łącznie 100,000 tokenów.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.uncensoredllmvercelapp.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ograniczenia częstotliwości pozwalają na 300 żądań na minutę na klucz. Upewnij się, że twoja aplikacja obsługuje ograniczenia częstotliwości w sposób elegancki. Liczenie tokenów pomaga dokładnie przewidzieć koszty. System nalicza opłaty tylko za pomyślne ukończenia żądań.

Obsługa błędów i odmowy

Obsłuż standardowe kody błędów HTTP do rozwiązywania problemów. 401 wskazuje na nieprawidłowy klucz API. Odpowiedź 402 oznacza, że Twoja zaliczka została wyczerpana. Błąd 429 sygnalizuje przekroczenie limitu szybkości. Te błędy nie zużywają Twoich tokenów.

API rzadko odmawia treści, ale istnieją drobne wyjątki. Żądania dotyczące małoletnich są zawsze odmawiane. Wszystkie inne prawne treści dla dorosłych przechodzą. Zapewnia to niezawodne wyniki dla Twoich przypadków użycia. Sprawdź ciało odpowiedzi, aby uzyskać szczegółowe komunikaty o błędach.