Hướng dẫn bắt đầu nhanh API không kiểm duyệt
Kết nối ứng dụng của bạn với API tương thích OpenAI được lưu trữ bằng cách sử dụng URL cơ sở và khóa API của bạn. Hướng dẫn này bao gồm các điểm cuối thiết yếu, chế độ streaming và các tham số để tích hợp nhanh chóng.
Xác thực và Base URL
Bắt đầu bằng cách trỏ SDK của bạn vào URL cơ sở của chúng tôi và chuyển khóa của bạn trong tiêu đề ủy quyền. Chúng tôi cung cấp một dịch vụ mô hình trực tiếp, đơn lẻ mà không có phí định tuyến proxy. Sử dụng tiêu chuẩn Authorization: Bearer scheme để xác thực các yêu cầu. Khóa của bạn được tạo ngay sau khi đăng ký thông qua Google hoặc email. Đảm bảo bạn thay thế khóa giữ chỗ trong cấu hình máy khách của bạn bằng khóa được hiển thị trên bảng điều khiển của bạn. URL cơ sở là https://api.uncensoredmodelsollama.com/v1. Điểm cuối này hỗ trợ các client tương thích OpenAI tiêu chuẩn, cho phép bạn chuyển đổi nhà cung cấp mà không cần viết lại logic ứng dụng của mình. Giữ khóa của bạn an toàn, vì nó cấp quyền truy cập vào số dư tín dụng trả trước của bạn.
Endpoint Hoàn thành Trò chuyện
Gửi các yêu cầu văn bản đến /v1/chat/completions endpoint để tạo phản hồi. Endpoint này xử lý lịch sử hội thoại tiêu chuẩn và các hệ thống prompt. Bạn phải chỉ định ID mô hình là uncensored trong thân yêu cầu. API trả về các phản hồi định dạng JSON chứa văn bản được tạo và thống kê sử dụng token. Các lỗi như không đủ tín dụng hoặc khóa không hợp lệ được trả về với các mã trạng thái HTTP phù hợp. Sử dụng điểm cuối này cho tất cả các nhiệm vụ tạo văn bản tiêu chuẩn. Nó không hỗ trợ embedding, hình ảnh hoặc tinh chỉnh. Giữ payload của bạn dưới 8 MB để đảm bảo xử lý đáng tin cậy. Mô hình xử lý các token đầu vào và đầu ra trong một cửa sổ ngữ cảnh chia sẻ.
Phản hồi luồng
Bật chế độ streaming bằng cách đặt stream tham số thành true trong yêu cầu của bạn. API trả về Các sự kiện do máy chủ gửi (SSE) chứa các khối văn bản tăng dần. Phương pháp này giảm độ trễ cảm nhận được cho người dùng đang chờ đầu ra dài. Bạn nhận được thông tin sử dụng token trong khối cuối cùng của luồng. Triển trình xử lý luồng trong máy khách của bạn để xử lý các sự kiện này một cách hiệu quả. Truyền dữ liệu theo luồng lý tưởng cho các giao diện trò chuyện và các ứng dụng thời gian thực. Đảm bảo thư viện máy khách của bạn hỗ trợ phân tích cú pháp SSE để xử lý luồng dữ liệu liên tục một cách chính xác. Cửa sổ ngữ cảnh tổng cộng vẫn là 100,000 token bất kể chế độ truyền dữ liệu theo luồng.
Function Calling và chế độ JSON
Sử dụng tools tham số để kích hoạt khả năng gọi hàm. Xác định các hàm của bạn trong thân yêu cầu để cho phép mô hình trả về dữ liệu có cấu trúc. Đặt response_format để {"type": "json_object"} cho đầu ra JSON nghiêm ngặt. Tính năng này hữu ích để trích xuất dữ liệu hoặc tạo các tải trọng có cấu trúc. Mô hình hỗ trợ các tham số chọn công cụ để kiểm soát hành vi gọi hàm. Sử dụng các tính năng này để tích hợp API vào các quy trình làm việc tự động. Đảm bảo các định nghĩa hàm của bạn khớp với lược đồ đầu vào dự kiến để có kết quả đáng tin cậy. API trả về các lệnh gọi công cụ theo định dạng OpenAI tiêu chuẩn để dễ dàng phân tích cú pháp.
Tham số và Giới hạn tốc độ
Điều chỉnh hành vi tạo bằng các tham số như temperature, top_p, và seed. Đặt max_tokens để giới hạn độ dài đầu ra, mặc định là 2.048 nếu không chỉ định. API áp dụng giới hạn tốc độ là 300 yêu cầu mỗi phút mỗi khóa. Các yêu cầu đồng thời được giới hạn ở 8 mỗi khóa. Nếu bạn vượt quá các giới hạn này, API sẽ trả về mã trạng thái 429. Các yêu cầu được tính phí dựa trên việc sử dụng token thực tế, với các lỗi và từ chối miễn phí. Tín dụng không bao giờ hết hạn, và số tiền trả trước được minh bạch. Hãy quản lý khóa của bạn cẩn thận, vì mỗi tài khoản chỉ hỗ trợ một khóa hoạt động tại một thời điểm.
Giới hạn, Lỗi và Ngữ cảnh
Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho tổng đầu vào và đầu ra. Các yêu cầu vượt quá giới hạn body 8 MB sẽ bị lỗi. Các lỗi phổ biến bao gồm 401 cho khóa không hợp lệ và 402 cho số dư không đủ. Hãy xử lý các lỗi này một cách khéo léo trong logic ứng dụng của bạn. API từ chối các yêu cầu chứa nội dung khiêu dâm liên quan đến trẻ vị thành niên, bất kể các cài đặt khác. Các nội dung khác vẫn không bị kiểm duyệt cho mục đích người trưởng thành hợp pháp. Theo dõi việc sử dụng token để tránh các khoản phí không mong muốn. Hệ thống tín dụng trả trước đảm bảo bạn chỉ trả tiền cho những gì mình sử dụng. Không có phí đăng ký hoặc chi phí ẩn áp dụng cho tích hợp của bạn.
cURL
curl https://api.uncensoredmodelsollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List all available models in the ollama library."}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredmodelsollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.uncensoredmodelsollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Phát trực tiếp
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Câu hỏi thường gặp
URL cơ sở mô hình ollama không kiểm duyệt?
URL cơ sở là HTTPS://api.uncensoredmodelsollama.com/v1. Sử dụng điểm cuối này với bất kỳ SDK tương thích OpenAI nào bằng cách cập nhật cấu hình base_url. URL này phục vụ trực tiếp mô hình uncensored duy nhất mà không có định tuyến proxy.
Làm thế nào để xử lý các phản hồi phát trực tuyến trong Python?
Đặt tham số stream thành true trong yêu cầu của bạn. API trả về Server-Sent Events chứa các chunk văn bản tăng dần. Xử lý các sự kiện này bằng trình xử lý luồng của SDK' của bạn để hiển thị đầu ra theo thời gian thực. Dữ liệu sử dụng token được cung cấp trong chunk cuối cùng của luồng.
Điều gì xảy ra nếu tôi vượt quá giới hạn tốc độ?
API trả về mã trạng thái 429 khi bạn vượt quá 300 yêu cầu mỗi phút hoặc 8 yêu cầu đồng thời. Khóa của bạn vẫn hoạt động, nhưng các yêu cầu tiếp theo sẽ thất bại cho đến khi cửa sổ giới hạn tốc độ được làm mới. Hãy theo dõi mức sử dụng để tránh gián đoạn quy trình làm việc của ứng dụng của bạn.