Швидкий старт API Нецензурована LLM

Базова URL-адреса та аутентифікація

Базовий URL для всіх запитів є https://api.storyunfiltered.com/v1. Додайте свій API-ключ до Authorization header як Bearer-токен. Кожен обліковий запис генерує один активний ключ; його заміна анулює попередній. Для реєстрації не потрібен номер телефону, а аутентифікацію можна здійснити за допомогою облікових даних Google або електронної пошти, щоб миттєво отримати ключ.

Приклад заголовка:

• Authorization: Bearer YOUR_API_KEY

Перший запит

Надішліть POST-запит на /v1/chat/completions за допомогою ідентифікатора моделі uncensored. API приймає стандартні параметри, такі як temperature та stop. Відповіді повертаються у форматі JSON, що містить згенерований текст у message.content поле.

Приклад запиту:

• model: uncensored
• messages: Масив повідомлень користувача/асистента

Перелік моделей та конфігурація

Отримайте доступні моделі, надіславши GET-запит до /v1/models. Доступна лише одна модель. uncensored, модель з відкритими вагами, налаштована для необмеженого контенту. Вона підтримує виклик функцій, режим JSON та потокову передачу через події надсилання сервером (SSE). Налаштуйте такі параметри, як top_p та seed для контролю різноманітності виводу.

Приклад відповіді:

• id: uncensored
• object: model

Потокові відповіді з SSE

Увімкніть потокову передачу, встановивши stream: true у вашому запиті. API повертає потік подій, надісланих сервером, де кожен фрагмент містить часткову відповідь. Останній фрагмент містить статистику використання токенів для цілей розрахунку вартості. Цей підхід зменшує сприйняту затримку при генерації довгого тексту.

Приклад потокового передавання (Stream):

• event: message
• data: JSON-фрагмент з delta контент

Виклик інструментів та режим JSON

Використовуйте tools параметр для визначення схем функцій для вашої програми. Модель повертатиме структуровані виклики інструментів, коли це доречно. Для суворих виводів JSON встановіть response_format до {"type": "json_object"}. Це забезпечує, що відповідь є дійсним JSON без додаткового форматування markdown. Параметри, такі як tool_choice дозволяє вам примусово використовувати конкретні інструменти.

Приклад схеми інструменту (Tool Schema):

• name: get_weather
• description: Get current weather

Ліміти токенів та обмеження швидкості

Вікно контексту підтримує до 100 000 токенів для сумарного запиту та відповіді. Максимальний об’єм відповіді за один запит становить 16 000 токенів, або 2 048, якщо max_tokens не встановлено. Ліміти швидкості становлять 300 запитів на хвилину та 8 одночасних запитів на ключ. Розмір тіла запиту не повинен перевищувати 8 МБ. Помилки та відмови не споживають кредит.

Приклад лімітів:

• max_tokens: 16,000
• rate_limit: 300 об/хв

cURL

Copycurl https://api.storyunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the capital of France?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.storyunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.storyunfiltered.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)