Uncensored AI Integrační průvodce

Proč přepnout na API bez cenzury?

Hlavním důvodem, proč vývojáři přecházejí, je eliminace libovolných odmítnutí obsahu, která narušují tvůrčí pracovní postupy nebo scénáře roleplay. Běžné modely často blokují neškodné požadavky kvůli příliš agresivnímu ladění bezpečnosti. API bez cenzury obsluhuje jeden model vyladěný k odpovědím bez těchto umělých omezení. Tento přístup zajišťuje konzistentní chování napříč různými podněty. Získáte vyhrazený endpoint spíše než směrovanou proxy, která by mohla neočekávaně přepínat modely. Fakturace je předplacená, takže přesně víte, za co platíte. Nejsou žádná měsíční předplatná ani skryté poplatky. Chyby nespotřebují vaše kredity. Tato transparentnost je zásadní pro vývojáře citlivé na rozpočet, kteří potřebují předvídatelné náklady. Vyhněte se složitosti správy více endpointů modelů. Zaměření na jeden model znamená, že optimalizujete své podněty pro jeden konkrétní vzor chování. To snižuje čas ladění při vzniku problémů. Zachováváte si plnou kontrolu nad stylem výstupu a hranicemi obsahu.

Nastavení vašeho prostředí

Začněte instalací oficiálního SDK OpenAI pro váš preferovaný jazyk. To zajišťuje kompatibilitu se standardními strukturami koncových bodů. Vytvořte nový účet pro generování klíče API. Proces vyžaduje pouze e-mailovou adresu nebo přihlášení přes Google. Pro základní přístup není vyžadováno ověření telefonním číslem. Obdržíte okamžitý zkušební kredit pro otestování koncového bodu. Klíč se zobrazí jednou a musí být bezpečně uložen. Použijte proměnné prostředí, abyste klíč udrželi mimo verzovací systém. Jedná se o běžnou praxi při nasazování do produkce. SDK automaticky zpracovává autentizaci, když klíč předáte. Nemusíte ručně upravovat strukturu hlaviček. Knihovna klienta efektivně spravuje HTTP požadavky. Toto nastavení funguje jak pro lokální vývoj, tak pro cloudové servery. Klíč udržujte v bezpečí, abyste předešli neoprávněnému používání. Zkušební kredit vám umožní ověřit připojení před nákupem dalších prostředků.

Konfigurace základní URL

Nasměrujte klienta k vyhrazené základní URL pro službu bez omezení. Tato URL nahrazuje výchozí koncovou adresu OpenAI ve vaší konfiguraci. Musíte aktualizovat pole základní URL v instanci klienta vaší knihovny SDK. Standardní ID modelu je nastaveno na „uncensored“. To říká serveru, který konkrétní model má spustit. Koncová adresa podporuje standardní parametry dokončení chatu. Můžete upravit teplotu a top_p pro řízení náhodnosti. Okno kontextu podporuje až 100,000 tokenů celkem. To umožňuje dlouhé konverzace nebo zpracování velkých dokumentů. Výstup je omezen na 16,000 tokenů na požadavek. Můžete odesílat standardní zprávy ve vyžadovaném formátu. API vrací textové odpovědi konzistentní s tréninkem modelu. Streamování je výchozí pro zpětnou vazbu v reálném čase. Toto nastavení zajišťuje kompatibilitu s existujícími kódovými základnami. Nemusíte přepisovat celou logiku integrace. Přechod je minimální a převážně automatický.

Vytvoření prvního požadavku

Pošlete jednoduchou žádost o dokončení chatu a ověřte nastavení. Použijte standardní formát zpráv s uživatelským podnětem. Odpověď bude obsahovat přímo vygenerovaný text. Zkontrolujte využití tokenů v metadatech odpovědi. Tím potvrdíte, že fakturace správně sleduje vaše využití. Model reaguje na legální obsah pro dospělé bez odmítnutí. Okamžitě můžete otestovat různé tóny a styly. Koncový bod zpracovává inferenci na vyhrazených serverech. Výsledek obdržíte prostřednictvím standardní HTTP odpovědi. Pro základní generování textu nejsou vyžadovány žádné další hlavičky. Proces je totožný s voláním jakékoli služby kompatibilní s OpenAI. Tato konzistence snižuje křivku učení pro nové týmy. Tuto integraci můžete do svých existujících aplikací zavést rychle. Předplacený kredit se odečte pouze za úspěšné vygenerování tokenů. Selhané požadavky nespotřebují váš zůstatek. To činí testování nákladově efektivním a předvídatelným.

Zvládání streamovaných odpovědí

Povolte streamování pro příjem tokenů v okamžiku jejich generování. To zlepšuje uživatelský zážitek u interaktivních aplikací. Server odesílá částečné odpovědi prostřednictvím Server-Sent Events. Váš klient tyto události parsovat a zobrazuje text postupně. Poslední fragment obsahuje podrobnosti o celkovém využití tokenů. To umožňuje sledovat náklady v reálném čase. Streamování snižuje vnímanou latenci pro koncové uživatele. Můžete přerušit generování, pokud uživatel přestane psát. SDK automaticky zpracovává parsování událostí. Nemusíte spravovat spojení ručně. Stream se po síťových přerušeních plynule obnoví. Tato funkce je zásadní pro chatová rozhraní. Poskytuje dynamičtější a poutavější interakci. Model generuje text token po tokenu. Tento přístup je standardem pro moderní aplikace LLM. Streamování lze kombinovat s voláním funkcí pro složité úlohy. Datový tok je efektivní a spolehlivý.

Použití Function Calling

Definujte schémata funkcí v datové části požadavku pro povolení používání nástrojů. Model vrací strukturovaná data, když jsou splněny podmínky. Můžete specifikovat více nástrojů pro různé úkoly. API podporuje jak tool_choice, tak automatický výběr. To umožňuje přesnou kontrolu chování modelu. Dostanete výstup JSON, který odpovídá vašemu schématu. Zpracování chyb je součástí formátu odpovědi. Můžete ověřit výstup před spuštěním funkce. To je zásadní pro automatizované pracovní postupy a agenty. Model jasně rozumí popisům funkcí. Nemusíte ručně parsovat volný text. Struktura zajišťuje konzistenci napříč různými podněty. Schémata můžete dynamicky aktualizovat pro různé kontexty. Tato funkce podporuje komplexní vícekrokové procesy. API řeší směrování výsledků nástrojů zpět k modelu. Máte plnou viditelnost procesu rozhodování.

Spravování tokenů a nákladů

Sledujte využití tokenů, abyste zůstali v rozpočtu předplacených kreditů. Vstupní tokeny se účtují za $0.15 za milion. Výstupní tokeny se účtují za $0.50 za milion. Rozdíl odráží výpočetní náklady na generování. Náklady můžete vypočítat před odesláním velkých požadavků. API vrací počty tokenů v každé odpovědi. To umožňuje přesné předpovídání výdajů. Chyby a odmítnutí jsou zdarma, takže platíte pouze za hodnotu. Žádné měsíční poplatky ani závazky z předplatného. Kredity můžete doplnit pomocí kryptoměn kdykoli. Kredit nevyprší, takže můžete pozastavit využití. Tato flexibilita je ideální pro projekty s proměnlivou poptávkou. Vyhněte se placení za nevyužitou kapacitu. Model předplacených kreditů zajišťuje transparentnost a kontrolu. Víte přesně, kolik utratíte, než to uděláte. To je zvláště užitečné pro vývojáře citlivé na rozpočet.

Běžné otázky týkající se Ollama vs API

Ollama spouští modely lokálně na vašem stroji, což vyžaduje vlastní hardware. API spouští modely na vzdálených serverech, což vyžaduje pouze připojení k internetu. Lokální inference závisí na kapacitě vaší GPU a RAM. API poskytuje konzistentní výkon bez ohledu na vaše zařízení. Nemusíte spravovat stahování ani aktualizace modelů. API podporuje větší kontextové okno než většina lokálních nastavení. Můžete škálovat využití bez nutnosti vylepšování hardwaru. API je lepší pro produkční prostředí s vysokými nároky na dostupnost. Lokální Ollama je ideální pro použití citlivé na soukromí nebo offline. Vyberete podle své infrastruktury a požadavků na latenci. Oba přístupy slouží stejné základní architektuře modelu. API nabízí jednodušší integraci s existujícími cloudovými službami. Vyhněte se složitosti správy lokálních závislostí. Volba závisí na vašich specifických omezeních nasazení.

Řešení limitů rychlosti

Na klíč máte limit 300 požadků za minutu. Pokud tento limit překročíte, API vrátí chybu 429. Musíte implementovat logiku opakování s exponenciálním backoffem. Souběžné požadky jsou omezeny na 8 na klíč. To zabraňuje přetížení serveru paralelními úlohami. Souběžnost můžete upravit podle svých potřeb. Limit platí na klíč, takže můžete vytvořit další klíče. Každý účet podporuje jeden aktivní klíč najednou. Nahraďte starý klíč, abyste získali nový limit. Velikost těla požadku je omezena na 8 MB. Velké vstupy mohou tento limit překročit. Pokud je to nutné, rozdělte data na menší části. Sledování vašeho využití vám pomůže zůstat v mezích. API poskytuje jasné chybové zprávy pro ladění. Rychlost můžete upravit podle zátěže vaší aplikace. To zajišťuje stabilní výkon během špičkových období. Plánujte svůj provoz, abyste předešli omezení.