Uncensored AI Integration Guide

為什麼要切換到無審查 API？

開發人員切換的主要原因在於消除會中斷創意工作流程或角色扮演情境的任意內容審查。標準模型常因過度積極的安全調整而拒絕無害的請求。無審查 API 提供單一經過調整的模型，使其能在無這些人為限制的情況下進行回答。這種方法確保了不同提示詞下行為的一致性。您獲得的是專屬端點，而非可能意外切換模型的代理伺服器。計費方式為預付制，因此您能清楚知道所付費用。沒有月費訂閱或隱藏費用。錯誤不會消耗您的信用額度。這種透明度對於需要可預測成本的預算型開發人員至關重要。您無需管理多個模型端點的複雜性。專注於單一模型意味著您可以針對特定的行為模式最佳化提示詞。當出現問題時，這能減少除錯時間。您能完全掌控輸出風格和內容邊界。

設定您的環境

首先為您偏好的語言安裝官方的 OpenAI SDK。這可確保與標準端點結構的相容性。建立新帳戶以產生您的 API 金鑰。該過程僅需電子郵件地址或 Google 登入。基本存取不需要電話號碼驗證。您會收到即時的試用額度以測試端點。金鑰僅顯示一次，必須安全儲存。使用環境變數將金鑰排除在版本控制之外。這是生產環境部署的標準做法。當您傳遞金鑰時，SDK 會自動處理驗證。您無需手動修改標頭結構。客戶端函式庫會有效率地管理 HTTP 請求。此設定適用於本地開發與雲端伺服器。請妥善保管您的金鑰以防止未經授權的使用。試用額度可讓您在購買更多額度之前驗證連線。

配置基礎 URL

將您的客戶端指向無審查服務的專用基礎 URL。此 URL 取代了您設定中的預設 OpenAI 端點。您必須更新 SDK 客戶端實例中的基礎 URL 欄位。標準模型 ID 設定為 "uncensored"。這告訴伺服器運行哪個特定模型。該端點支援標準的聊天補全參數。您可以調整 temperature 和 top_p 以控制隨機性。上下文視窗總共支援高達 100,000 個 token。這允許進行長對話或處理大型文件。每次請求的輸出限制為 16,000 個 token。您可以按照要求的格式發送標準訊息。API 返回與模型訓練一致的文本回應。預設啟用串流以獲得即時反饋。此設定確保與現有程式碼庫的相容性。您無需重寫整個整合邏輯。過渡非常簡化且 largely automatic。

進行首次請求

發送簡單的聊天完成請求以驗證設定。使用標準的訊息格式並附上使用者提示。回應將直接包含生成的文字。請檢查回應中繼資料中的 token 使用量。這可確認計費系統正確追蹤您的使用情況。該模型會針對合法的成人內容作出回應而不會拒絕。您可以立即測試各種語氣和風格。該端點在專用伺服器上處理推論。您會透過標準 HTTP 回應接收結果。基本文字生成不需要額外的標頭。此流程與呼叫任何 OpenAI 相容服務相同。這種一致性降低了新團隊的學習曲線。您可以快速將此功能整合至現有應用程式。預付信用額僅在成功生成 token 時扣除。失敗的請求不會消耗您的餘額。這使得測試具有成本效益且可預測。

處理串流回應

啟用串流以在產生時接收權杖。這改善了互動式應用程式的使用者體驗。伺服器透過伺服器傳送事件傳送部分回應。您的客戶端解析這些事件以增量方式顯示文字。最後一個區塊包含總權杖用量詳細資訊。這允許您即時追蹤成本。串流降低了終端使用者的感知延遲。如果使用者停止輸入，您可以中止生成。SDK 自動處理事件解析。您無需手動管理連線。網路中斷後，串流會順利恢復。此功能對於聊天介面至關重要。它提供了更動態且具參與感的互動體驗。模型逐權杖產生文字。這種方法是現代大型語言模型應用程式的標準做法。您可以將串流與函式呼叫結合以處理複雜任務。資料流程高效且可靠。

使用函數調用

在請求載入中定義函數結構以啟用工具使用。當條件滿足時，模型會返回結構化資料。你可以為不同任務指定多個工具。API 支援 tool_choice 和自動選擇。這允許對模型行為進行精確控制。你收到的 JSON 輸出符合你的結構。錯誤處理已內建於回應格式中。你可以在執行函數之前驗證輸出。這對於自動化工作流程和代理程式至關重要。模型能清楚理解函數描述。你不需要手動解析自由文本。結構確保了不同提示之間的一致性。你可以根據不同情境動態更新結構。此功能支援複雜的多步驟流程。API 處理工具結果回傳給模型的路由。你完全掌握決策過程。

管理令牌與成本

監控您的 Token 使用情況以保持在預付預算範圍內。輸入 Token 每百萬收費 $0.15。輸出 Token 每百萬收費 $0.50。這種差異反映了生成的計算成本。您可以在發送大型請求前計算成本。API 會在每個回應中返回 Token 計數。這允許準確預測支出。錯誤與拒絕請求均免費，因此您只需為獲得的價值付費。沒有月度費用或訂閱鎖定。您可以隨時使用加密貨幣充值。信用額度永不過期，因此您可以暫停使用。這種靈活性非常適合需求波動的项目。您無需為閒置容量付費。預付模式確保了透明度與控制力。您在花費前就知道確切的支出金額。這對於注重預算的開發者特別有用。

Ollama 與 API 的常見問題

Ollama 在您的本機機器上執行模型，需要您自行準備硬體。API 則在遠端伺服器上執行模型，只需具備網路連線即可。本機推理效能取決於您的 GPU 與 RAM 容量。API 提供一致的效能，不受您的裝置影響。您無需管理模型的下載或更新。API 支援的上下文視窗比大多數本機設定更大。您可以擴展使用量，而無需升級硬體。API 更適合需要高可用性的生產環境。本機 Ollama 適合對隱私敏感或離線使用的場景。您可以根據基礎設施與延遲需求進行選擇。兩種方式都服務於相同的底層模型架構。API 提供更輕鬆的現有雲端服務整合。您無需處理管理本機相依性的複雜性。選擇取決於您的特定部署限制。

除錯速率限制

每支金鑰每分鐘限 300 次請求。若超過此限制，API 將返回 429 錯誤。您必須實作帶有指數退避的重試邏輯。每支金鑰的並行請求限制為 8 個。這可防止平行任務壓垮伺服器。您可以根據需求調整並行請求。該限制是針對金鑰的，因此您可以建立更多金鑰。每個帳戶一次支援一個活躍金鑰。替換舊金鑰以獲得新限制。請求主體大小限制為 8 MB。大型輸入可能超過此限制。如有必要，請將資料分割成較小的區塊。監控您的使用量可幫助您保持在限制範圍內。API 提供清晰的錯誤訊息以供除錯。您可以根據應用程式負載調整速率。這可確保高峰時期的穩定效能。規劃您的流量以避免節流。