Rychlý start nekorigovaného API
Připojte svého klienta k naší hostované, OpenAI-compatible API pomocí základní URL a vašeho API klíče. Tento návod pokrývá základní endpointy, streamování a parametry pro rychlou integraci.
Autentizace a základní URL
Začněte nastavení vašeho SDK na naši základní URL a předání vašeho klíče v autorizační hlavičce. Poskytujeme přímou službu s jedním modelem bez poplatků za směrování proxy. Použijte standardní Authorization: Bearer schéma pro ověřování požadavků. Váš klíč je vygenerován ihned po registraci přes Google nebo e-mail. Ujistěte se, že nahradíte zástupný klíč v konfiguraci klienta tím, který je zobrazen na vašem dashboardu. Základní URL je https://api.uncensoredmodelsollama.com/v1. Tento endpoint podporuje klienty kompatibilní s OpenAI, což vám umožňuje přepínat poskytovatele bez přepisování logiky aplikace. Chraňte svůj klíč, protože uděluje přístup k zůstatku vašeho předplaceného kreditu.
Endpoint Chat Completions
Odesílejte textové požadavky na /v1/chat/completions endpoint pro generování odpovědí. Tento endpoint zpracovává standardní historie konverzací a systémové prompty. Musíte specifikovat ID modelu jako uncensored v těle požadavku. API vrací JSON formátované odpovědi obsahující vygenerovaný text a statistiky o využití tokenů. Chyby, jako je nedostatečný kredit nebo neplatné klíče, jsou vráceny s příslušnými HTTP status kódy. Použijte tento endpoint pro všechny standardní úkoly generování textu. Nepodporuje embeddings, obrázky ani fine-tuning. Udržujte svůj payload pod 8 MB, aby bylo zajištěno spolehlivé zpracování. Model zpracovává vstupní a výstupní tokeny v rámci sdíleného kontextového okna.
Streamované odpovědi
Povolte streamování nastavením stream parameter na true ve vašem požadavku. API vrací události odesílané serverem (SSE) obsahující inkrementální části textu. Tento přístup snižuje vnímanou latenci pro uživatele čekající na dlouhé výstupy. Informace o využití tokenů obdržíte v poslední části streamu. Implementujte handler streamu ve vašem klientovi pro efektivní zpracování těchto událostí. Streamování je ideální pro chat rozhraní a aplikace v reálném čase. Ujistěte se, že vaše knihovna klienta podporuje parsování SSE pro správné zpracování nepřetržitého toku dat. Celkové kontextové okno zůstává 100,000 tokenů bez ohledu na režim streamování.
Volání funkcí a režim JSON
Použijte tools parametr pro povolení schopností volání funkcí. Definujte své funkce v těle požadavku, abyste umožnili modelu vracet strukturovaná data. Nastavte response_format na {"type": "json_object"} pro přísný výstup JSON. Tato funkce je užitečná pro extrakci dat nebo generování strukturovaných payloadů. Model podporuje parametry výběru nástrojů k řízení chování volání funkcí. Použijte tyto funkce k integraci API do automatizovaných pracovních postupů. Ujistěte se, že definice funkcí odpovídají očekávané vstupní schématu pro spolehlivé výsledky. API vrací volání nástrojů ve standardním formátu OpenAI pro snadné parsování.
Parametry a limity rychlosti
Upravte chování generování pomocí parametrů jako temperature, top_p, a seed. Nastavte max_tokens omezit délku výstupu, výchozí hodnota je 2 048, pokud není uvedeno jinak. API vynucuje limit rychlosti 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na 8 na klíč. Pokud tyto limity překročíte, API vrátí stavový kód 429. Požadavky se účtují na základě skutečného využití tokenů, chyby a odmítnutí jsou zdarma. Úvěr nevyprší a předplacené částky jsou transparentní. Klíče spravujte pečlivě, protože každý účet podporuje pouze jeden aktivní klíč najednou.
Limity, chyby a kontext
Okno kontextu podporuje 100 000 tokenů pro kombinovaný vstup a výstup. Požadavky přesahující limit těla 8 MB selžou. Časté chyby zahrnují 401 pro neplatné klíče a 402 pro nedostatečný kredit. Tyto chyby ošetřete v logice vaší aplikace API odmítá požadavky obsahující sexuální obsah s nezletilými bez ohledu na jiná nastavení. Ostatní obsah je bez cenzury pro zákonné použití dospělými. Sledujte spotřebu tokenů, abyste předešli neočekávaným poplatkům. Systém předplaceného kreditu zajišťuje, že platíte pouze za to, co skutečně použijete. Žádné předplatné ani skryté poplatky nezatíží vaši integraci.
cURL
curl https://api.uncensoredmodelsollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List all available models in the ollama library."}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredmodelsollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uncensoredmodelsollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamování
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Často kladené otázky
Jaká je základní URL adresa Ollama bez omezení?
Základní URL je HTTPS://api.uncensoredmodelsollama.com/v1. Použijte tento endpoint s jakýmkoli SDK kompatibilním s OpenAI aktualizací konfigurace base_url. Tato URL poskytuje přímý přístup k jedinému modelu bez omezení bez směrování přes proxy.
Jak řešit odpovědi ve formátu streamování v Pythonu?
Nastavte parametr stream na true ve svém požadavku. API vrací Server-Sent Events obsahující inkrementální textové části. Zpracujte tyto události pomocí stream handleru vaší SDK pro zobrazení výstupu v reálném čase. Data o využití tokenů jsou poskytnuta v poslední části streamu.
Co se stane, pokud překročím limit rychlosti?
API vrací stavový kód 429, když překročíte 300 požadavků za minutu nebo 8 souběžných požadavků. Klíč zůstává aktivní, další požadavky však budou selhávat, dokud se okno limitu neobnoví. Sledujte své využití, aby nedošlo k přerušení pracovního postupu vaší aplikace'.
Získejte svůj klíč v jednom kroku.
Zaregistrujte se, zkopírujte klíč, aktualizujte svou základní URL. Hotovo.