Uncensored AI Integration Guide

무검열 API로 전환해야 하는 이유?

개발자가 전환하는 주요 이유는 창의적 워크플로우나 역할극 시나리오를 방해하는 임의의 콘텐츠 거부를 제거하기 위함입니다. 표준 모델은 과도한 안전 튜닝으로 인해 무해한 요청도 차단하는 경우가 많습니다. 무검열 API는 이러한 인공적 제약 없이 답변하도록 조정된 단일 모델을 제공합니다. 이 접근 방식은 다양한 프롬프트에 걸쳐 일관된 동작을 보장합니다. 예상치 못하게 모델이 변경될 수 있는 라우팅 프록시가 아닌 전용 엔드포인트를 얻습니다. 선불 청구 방식을 사용하므로 정확히 무엇을 위해 지불하는지 알 수 있습니다. 월 구독료나 숨겨진 수수료가 없습니다. 오류가 발생해도 크레딧이 소모되지 않습니다. 이러한 투명성은 예측 가능한 비용이 필요한 예산 민감형 개발자에게 중요합니다. 여러 모델 엔드포인트를 관리하는 복잡성을 피할 수 있습니다. 단일 모델에 집중함으로써 특정 동작 패턴에 프롬프트를 최적화할 수 있습니다. 이는 문제가 발생했을 때 디버깅 시간을 줄여줍니다. 출력 스타일과 콘텐츠 경계에 대한 완전한 제어권을 유지합니다.

환경 설정하기

선호하는 언어에 대한 공식 OpenAI SDK를 설치하세요. 이는 표준 엔드포인트 구조와의 호환성을 보장합니다. 새 계정을 생성하여 API 키를 생성하세요. 이 과정에는 이메일 주소 또는 Google 로그인만 필요합니다. 기본 액세스에는 전화번호 인증이 필요하지 않습니다. 엔드포인트를 테스트할 수 있는 즉시 사용 가능한 체험 크레딧이 제공됩니다. 키는 한 번만 표시되며 안전하게 저장해야 합니다. 환경 변수를 사용하여 키를 버전 관리에서 제외하세요. 이는 프로덕션 배포의 표준 관행입니다. 키를 전달하면 SDK가 인증을 자동으로 처리합니다. 헤더 구조를 수동으로 수정할 필요가 없습니다. 클라이언트 라이브러리는 HTTP 요청을 효율적으로 관리합니다. 이 설정은 로컬 개발과 클라우드 서버 모두에서 작동합니다. 무단 사용을 방지하려면 키를 안전하게 보관하세요. 체험 크레딧을 통해 추가 구매 전에 연결을 확인할 수 있습니다.

베이스 URL 구성

클라이언트를 uncensored 서비스의 전용 베이스 URL로 연결하세요. 이 URL은 구성에서 기본 OpenAI 엔드포인트를 대체합니다. SDK 클라이언트 인스턴스의 베이스 URL 필드를 업데이트해야 합니다. 표준 모델 ID는 "uncensored"로 설정됩니다. 이는 서버에 특정 모델을 실행하라는 지시를 전달합니다. 엔드포인트는 표준 채팅 완성 매개변수를 지원합니다. 무작위성을 제어하기 위해 temperature와 top_p를 조정할 수 있습니다. 컨텍스트 창은 총 100,000개의 토큰을 지원합니다. 이는 긴 대화나 대규모 문서 처리를 가능하게 합니다. 출력은 요청당 16,000개로 제한됩니다. 필요한 형식으로 표준 메시지를 보낼 수 있습니다. API는 모델 학습과 일치하는 텍스트 응답을 반환합니다. 스트리밍은 실시간 피드백을 위해 기본적으로 활성화됩니다. 이 구성은 기존 코드베이스와의 호환성을 보장합니다. 통합 로직 전체를 다시 작성할 필요가 없습니다. 전환이 매우 간단하고 대부분 자동화됩니다.

첫 번째 요청하기

설치 확인을 위해 간단한 채팅 완료 요청을 보내세요. 사용자 프롬프트가 포함된 표준 메시지 형식을 사용하세요. 응답에는 생성된 텍스트가 직접 포함됩니다. 응답 메타데이터에서 토큰 사용량을 확인하세요. 이는 청구가 사용량을 올바르게 추적하고 있음을 확인합니다. 이 모델은 합법적인 성인 콘텐츠에 대해 거부 없이 응답합니다. 다양한 어조와 스타일을 즉시 테스트할 수 있습니다. 엔드포인트는 전용 서버에서 추론을 처리합니다. 표준 HTTP 응답을 통해 결과를 받습니다. 기본 텍스트 생성에는 추가 헤더가 필요하지 않습니다. 이 프로세스는 모든 OpenAI 호환 서비스 호출과 동일합니다. 이러한 일관성은 새로운 팀의 학습 곡선을 줄여줍니다. 기존 애플리케이션에 빠르게 통합할 수 있습니다. 선불 크레딧은 성공적인 토큰 생성 시에만 차감됩니다. 실패한 요청은 잔액을 소모하지 않습니다. 이는 테스트 비용을 효율적이고 예측 가능하게 만듭니다.

ストリーミングレスポンスの処理

스트리밍을 활성화하여 토큰이 생성되는 대로 수신하세요. 이는 대화형 애플리케이션의 사용자 경험을 향상시킵니다. 서버는 서버 전송 이벤트를 통해 부분 응답을 보냅니다. 클라이언트는 이러한 이벤트를 구문 분석하여 텍스트를 점진적으로 표시합니다. 마지막 청크에는 전체 토큰 사용량 세부 정보가 포함되어 있습니다. 이를 통해 실시간으로 비용을 추적할 수 있습니다. 스트리밍은 최종 사용자에게 지각된 지연 시간을 줄여줍니다. 사용자가 입력을 중단하면 생성을 중단할 수 있습니다. SDK는 이벤트 구문 분석을 자동으로 처리합니다. 연결을 수동으로 관리할 필요가 없습니다. 네트워크 중단 후 스트림이 원활하게 재개됩니다. 이 기능은 채팅 인터페이스에 필수적입니다. 더 역동적이고 몰입감 있는 상호 작용을 제공합니다. 모델은 토큰 단위로 텍스트를 생성합니다. 이 접근 방식은 현대적인 LLM 애플리케이션의 표준입니다. 복잡한 작업을 위해 스트리밍과 함수 호출을 결합할 수 있습니다. 데이터 흐름은 효율적이고 신뢰할 수 있습니다.

함수 호출 사용 중

요청 페이로드에 함수 스키마를 정의하여 도구 사용을 활성화하십시오. 모델은 조건이 충족될 때 구조화된 데이터를 반환합니다. 서로 다른 작업을 위해 여러 도구를 지정할 수 있습니다. API는 tool_choice와 자동 선택을 모두 지원합니다. 이를 통해 모델 동작을 정밀하게 제어할 수 있습니다. 스키마와 일치하는 JSON 출력을 받습니다. 오류 처리는 응답 형식에 내장되어 있습니다. 함수를 실행하기 전에 출력을 검증할 수 있습니다. 이는 자동화된 워크플로우와 에이전트에 중요합니다. 모델은 함수 설명을 명확하게 이해합니다. 자유 텍스트를 수동으로 파싱할 필요가 없습니다. 이 구조는 서로 다른 프롬프트 간에 일관성을 보장합니다. 서로 다른 컨텍스트에 따라 스키마를 동적으로 업데이트할 수 있습니다. 이 기능은 복잡한 다단계 프로세스를 지원합니다. API는 도구 결과를 모델로 다시 라우팅합니다. 의사 결정 과정의 전체 가시성을 유지합니다.

토큰 및 비용 관리

선불 예산 내에서 머무르려면 토큰 사용량을 모니터링하세요. 입력 토큰은 100만 토큰당 $0.15에 청구됩니다. 출력 토큰은 100만 토큰당 $0.50에 청구됩니다. 이 차이는 생성의 계산 비용을 반영합니다. 큰 요청을 보내기 전에 비용을 계산할 수 있습니다. API는 모든 응답에 토큰 수를 반환합니다. 이를 통해 지출을 정확하게 예측할 수 있습니다. 오류 및 거절은 무료이므로 가치에 대해서만 지불합니다. 월 요금이나 구독 잠금이 없습니다. 언제든지 암호화폐로 충전할 수 있습니다. 크레딧은 만료되지 않으므로 사용량을 일시 중단할 수 있습니다. 이러한 유연성은 변동형 수요를 가진 프로젝트에 이상적입니다. 유휴 용량에 대한 비용을 지불하지 않습니다. 선불 모델은 투명성과 통제력을 보장합니다. 지출하기 전에 정확히 얼마를 쓰는지 알 수 있습니다. 이는 예산에 민감한 개발자에게 특히 유용합니다.

Ollama vs API 관련 일반적인 질문

Ollama는 로컬 머신에서 모델을 실행하므로 자체 하드웨어가 필요합니다. API는 원격 서버에서 모델을 실행하므로 인터넷 연결만 필요합니다. 로컬 추론은 GPU 및 RAM 용량에 따라 달라집니다. API는 기기와 무관하게 일관된 성능을 제공합니다. 모델 다운로드나 업데이트를 관리할 필요가 없습니다. API는 대부분의 로컬 환경보다 더 긴 컨텍스트 윈도우를 지원합니다. 하드웨어 업그레이드 없이 사용량을 확장할 수 있습니다. API는 높은 가용성이 필요한 프로덕션 환경에 적합합니다. 로컬 Ollama는 프라이버시가 중요하거나 오프라인 환경에서 이상적입니다. 인프라와 지연 시간 요구 사항에 따라 선택하십시오. 두 접근 방식 모두 동일한 기본 모델 아키텍처를 제공합니다. API는 기존 클라우드 서비스와의 통합이 더 쉽습니다. 로컬 종속성 관리의 복잡성을 피할 수 있습니다. 선택은 특정 배포 제약 조건에 달려 있습니다.

속도 제한(Rate Limits) 문제 해결

키당 분당 요청 수는 300개로 제한됩니다. 이를 초과하면 API가 429 오류를 반환합니다. 지수 백오프와 함께 재시도 로직을 구현해야 합니다. 동시 요청은 키당 최대 8개로 제한됩니다. 이는 병렬 작업으로 서버에 과부하가 걸리는 것을 방지합니다. 필요에 따라 동시성을 조정할 수 있습니다. 이 제한은 키별로 적용되므로 추가 키를 생성할 수 있습니다. 각 계정은 동시에 하나의 활성 키만 지원합니다. 새 제한을 받으려면 이전 키를 교체하세요. 요청 본문 크기는 8MB로 제한됩니다. 큰 입력은 이 제한을 초과할 수 있습니다. 필요한 경우 데이터를 더 작은 청크로 분할하세요. 사용량을 모니터링하면 제한 내에 머무를 수 있습니다. API는 디버깅을 위한 명확한 오류 메시지를 제공합니다. 애플리케이션 부하에 따라 속도를 조정할 수 있습니다. 이는 피크 시간 동안 안정적인 성능을 보장합니다. 스로틀링을 피하기 위해 트래픽을 계획하세요.