Szybki start z API LLM bez cenzury

Bazowy URL i autoryzacja

Podstawowy adres URL dla wszystkich żądań to https://api.storyunfiltered.com/v1. Dołącz swój klucz API do Authorization nagłówek jako token Bearer. Każde konto generuje jeden aktywny klucz; jego zastąpienie unieważnia poprzedni. Nie jest wymagany numer telefonu do rejestracji, a uwierzytelnienie można przeprowadzić za pomocą poświadczeń Google lub e-mail, aby natychmiast pobrać klucz.

Przykładowy nagłówek:

• Authorization: Bearer YOUR_API_KEY

Pierwsze żądanie

Wyślij żądanie POST do /v1/chat/completions z identyfikatorem modelu uncensored. API przyjmuje standardowe parametry takie jak temperature i stop. Odpowiedzi są zwracane w formacie JSON, zawierając wygenerowany tekst w message.content pole.

Przykładowe żądanie:

• model: uncensored
• messages: Tablica wiadomości użytkownika/pomocnika

Lista modeli i konfiguracja

Pobierz dostępne modele, wysyłając żądanie GET do /v1/models. Dostępny jest tylko jeden model. uncensored, model open-weight dostrojony do nieograniczonej treści. Obsługuje wywoływanie funkcji, tryb JSON i strumieniowanie za pomocą Wydarzeń Wysyłanych Serwerowo (SSE). Skonfiguruj parametry takie jak top_p i seed kontrolować różnorodność wyjścia.

Przykładowa odpowiedź:

• id: uncensored
• object: model

Odpowiedzi strumieniowe z SSE

Włącz strumieniowanie, ustawiając stream: true w Twoim żądaniu. API zwraca strumień zdarzeń wysłanych przez serwer, gdzie każdy fragment zawiera częściową odpowiedź. Ostatni fragment zawiera statystyki użycia tokenów do celów rozliczeniowych. To podejście redukuje postrzeganą opóźnienie przy generowaniu treści długich.

Przykładowy strumień:

• event: message
• data: Chunk JSON z delta treść

Wywoływanie Narzędzi i Tryb JSON

Korzystaj z tools parametr definiujący schematy funkcji dla Twojej aplikacji. Model zwróci strukturalne wywołania narzędzi, gdy będzie to odpowiednie. Aby uzyskać ścisły format JSON, ustaw response_format do {"type": "json_object"}. Zapewnia to, że odpowiedź jest poprawnym JSON-em bez dodatkowego formatowania markdown. Parametry takie jak tool_choice pozwala wymusić konkretne użycie narzędzi.

Przykładowy schemat narzędzia:

• name: get_weather
• description: Get current weather

Limity tokenów i limity szybkości

Okno kontekstowe obsługuje do 100 000 tokenów dla promptu i uzupełnienia łącznie. Maksymalna ilość wyjściowa na żądanie wynosi 16 000 tokenów, lub 2 048, jeśli max_tokens jest nieustawione. Limity szybkości to 300 żądań na minutę i 8 jednoczesnych żądań na klucz. Ciała żądań nie mogą przekraczać 8 MB. Błędy i odrzucenia nie zużywają kredytu.

Przykładowe limity:

• max_tokens: 16,000
• rate_limit: 300 RPM

cURL

Copycurl https://api.storyunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.storyunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.storyunfiltered.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)