API로 필터 없는 AI 채팅봇 만들기

"필터 없음"이 의미할 수 있는 것과 할 수 없는 것

필터 없는 채팅봇을 원하는 검색자는 보통 한 가지를 의미합니다: 합법적인 주제이고 사용자가 성인일 때 경고, 도덕적 교훈 또는 거절로 대화를 방해하지 않는 채팅봇을 원한다는 것입니다. 이는 픽션, 동반자 앱, 다크 유머, 토론 연습 및 솔직한 조언 대화에 합당한 요구입니다.

이 API의 모델은 독립적인 제공업체가 실행하는 하나의 오픈 웨이트 모델이며, 합법적인 성인 이용에 대해 콘텐츠 거부 없이 응답하도록 조정되었습니다. Meta, Mistral, Qwen, DeepSeek, OpenAI, xAI, Google 또는 Anthropic의 공식 API가 아닙니다. 프롬프트로 변경할 수 없는 하나의 엄격한 제한 사항이 있습니다: 미성년자가 관련된 성적 콘텐츠는 금지됩니다. 앱을 구축하는 사람으로서 모델이 당신 대신 수행할 수 없는 의무(예: 사용자가 성인인지 확인하고 운영 지역의 법률 준수)도 수행해야 합니다.

이 가이드의 나머지 부분은 "무검열"을 의도적인 디자인 선택으로 취급합니다. 채팅봇은 시스템 프롬프트와 사용자의 요청에 따라 동작하므로 봇의 품질은 주로 프롬프트와 주변 코드의 품질에 달려 있습니다.

경로 선택: 코드 사용 또는 코드 없음

경로	최적의 용도	시간
커스텀 엔드포인트가 있는 프론트엔드 (SillyTavern 또는 유사한 도구)	개인 사용, 캐릭터 채팅, 프롬프트 빠른 테스트	5분
OpenAI SDK가 있는 작은 스크립트	학습, 명령줄 봇, Discord 또는 Telegram 봇	20분
자체 백엔드 및 웹 UI	다른 사람들이 사용하는 제품	주말 이상

세 가지 경로 모두 동일한 재료가 필요합니다: 키, 베이스 URL 및 모델 ID입니다. Google 또는 이메일과 비밀번호로 가입한 후 API 키 페이지에서 키를 얻습니다. 신규 사용자는 한 번의 클릭으로 7일 유효, 결제 불필요한 $0.50 체험 크레딧을 청구할 수 있습니다. 이후 충전은 암호화폐로만 가능합니다: TRC20의 USDT 또는 Base의 USDC.

Node로 작동하는 채팅봇 만들기

공식 OpenAI 패키지를 설치하고 키를 환경 변수로 설정한 후 이를 bot.mjs로 저장하세요. .mjs 확장자는 추가 구성 없이 import를 사용할 수 있게 해줍니다.

Copy# base URL https://api.nofilterapi.com/v1, model uncensored
npm install openai
export NOFILTER_API_KEY="YOUR_API_KEY"
node bot.mjs

Copyimport OpenAI from "openai";
import readline from "node:readline/promises";
import { stdin as input, stdout as output } from "node:process";

const client = new OpenAI({
  baseURL: "https://api.nofilterapi.com/v1",
  apiKey: process.env.NOFILTER_API_KEY,
});

const history = [
  {
    role: "system",
    content:
      "You are Dex, a blunt, funny late-night radio host. Speak plainly, " +
      "keep replies under 120 words, and never lecture. All users are adults.",
  },
];

const rl = readline.createInterface({ input, output });

while (true) {
  const text = await rl.question("you> ");
  if (text.trim() === "") break;
  history.push({ role: "user", content: text });

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: history,
    temperature: 0.8,
    max_tokens: 400,
    stream: true,
  });

  let reply = "";
  process.stdout.write("dex> ");
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    reply += piece;
    process.stdout.write(piece);
  }
  process.stdout.write("\n");
  history.push({ role: "assistant", content: reply });
}
rl.close();

이것이 봇의 전부입니다. history 배열은 대화 메모리입니다. API 자체는 호출 간에 아무것도 저장하지 않기 때문입니다. 각 턴은 전체 배열을 보내므로 모델은 이전에 발생한 모든 것을 볼 수 있습니다. 스트리밍은 생성되는 대로 응답을 출력하고, 사용량 숫자는 스트림의 끝에 도착합니다.

이것을 웹 페이지 뒤에 배치하려면 키를 서버에 보관하세요. 사용자의 메시지를 수신하고 해당 사용자의 이력에 추가한 다음 API를 호출하여 응답을 반환하는 작은 엔드포인트를 구축하세요. 브라우저 JavaScript에 키를 배치하면 개발자 도구를 여는 누구나 키를 읽을 수 있으며 크레딧도 함께 유출됩니다. 문서에는 엔드포인트가 허용하는 모든 매개변수가 나열되어 있습니다.

봇에게 일관된 페르소나 부여하기

무검열 모델도 여전히 지시가 필요합니다. 지시가 없으면 평평하고 중립적인 목소리로 응답합니다. 채팅봇을 위한 좋은 시스템 프롬프트는 짧은 다섯 부분으로 구성됩니다:

1. 정체성. 이름, 역할, 하나 또는 두 가지 특징적인 특성.
2. 어조. 문장 길이, 어휘, 유머, 격식. 예시 문장을 제공하세요.
3. 선택한 경계. 이 캐릭터가 피할 주제 (있는 경우). 이는 당신의 제품 결정입니다.
4. 형식. 응답 길이, 목록 사용 여부, 1인칭 유지 여부.
5. 사실. 봇이 사용자 또는 세계에 대해 기억해야 할 모든 사항.

약 400단어 미만으로 유지하세요. 긴 프롬프트가 더 강력한 프롬프트는 아니며, 매번 입력의 일부이므로 모든 요청에 대해 비용을 지불합니다. 1M 입력 토큰당 $0.15의 가격으로 600토큰 시스템 프롬프트는 호출당 $0.00009가 들며, 이는 한 번의 채팅에는 작지만 100,000회 호출 시 $9로 눈에 띕니다.

샘플링도 중요합니다. 0.7에서 0.9 사이의 온도는 대화에 적합합니다. 매개변수 top_p, stop, seed 및 빈도 및 존재 패널티는 모두 모델에 전달되므로 트릭 없이 반복을 조정할 수 있습니다.

SillyTavern의 코드 없는 경로

SillyTavern은 캐릭터 대화를 위해 인기 있는 무료 자체 호스팅 채팅 프론트엔드이며 OpenAI 호환 엔드포인트를 추가할 수 있습니다. API 연결 패널을 열고 채팅 완료 유형을 선택한 다음 사용자 지정 또는 OpenAI 호환 소스를 선택하세요. 입력:

• 엔드포인트 또는 베이스 URL: https://api.nofilterapi.com/v1
• API 키: 내 계정에서 생성한 키
• 모델: uncensored

메뉴 레이블은 버전마다 다르므로 이 세 가지 값을 사용하고 버전의 자체 프롬프트를 따르세요. 연결되면 캐릭터를 생성하거나 가져와 설명에 페르소나를 작성한 후 대화를 시작하세요. 다른 커뮤니티 프론트엔드도 일반적으로 사용자 지정 OpenAI 엔드포인트 또는 프록시라고 표시된 유사한 옵션을 가지고 있습니다.

경로를 선택하기 전에 이 서비스가 데이터를 어떻게 처리하는지 이해하려면 No Log AI API: 흔한 오해 vs 사실을 읽으세요. 저희 측의 한 가지 사실은 간단합니다. 프롬프트는 학습에 사용되지 않습니다.

메모리: 100,000토큰 창 및 처리 방법

컨텍스트 창은 프롬프트와 완료를 합쳐 100,000토큰입니다. 이는 매우 긴 대화에 충분하지만, 이력을 다시 보내는 비용은 그와 함께 증가합니다. 10,000토큰의 이력과 300토큰의 응답이 있는 턴은 10,000 x $0.15 / 1M + 300 x $0.50 / 1M가 들며, 이는 $0.0015 + $0.00015, 즉 $0.00165입니다. $0.50 체험 크레딧은 약 303개의 이러한 턴을 커버합니다.

실용적인 메모리 설계는 두 레이어를 사용합니다. 마지막 15~20개 메시지를 그대로 유지하고, 시스템 프롬프트에 장기 사실의 간소화된 목록을 유지하세요. JSON 모드를 사용하여 모델이 해당 목록을 유지하도록 할 수 있으며, 이는 출력을 유효한 JSON으로 제한합니다:

Copycurl https://api.nofilterapi.com/v1/chat/completions \
  -H "Authorization: Bearer $NOFILTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "response_format": {"type": "json_object"},
    "messages": [
      {"role": "system", "content": "Extract durable facts about the user from the chat. Reply as JSON: {\"facts\": [string]}."},
      {"role": "user", "content": "User: I work night shifts at a bakery and my cat is called Biscuit."}
    ]
  }'

최신 메시지에 대해 10~20번의 턴마다 이를 실행하고, 새로운 사실을 저장된 목록에 병합한 후 목록을 시스템 프롬프트에 넣으세요. 모델의 작업이 작게 유지되고 봇이 수개월의 대화를 기억하는 것처럼 보입니다.

비용, 제한 사항 및 공개

가격은 선불 크레딧 기준 1M 토큰당 입력 $0.15, 출력 $0.50이며 구독은 없습니다. $20부터 $500까지 정액으로 충전할 수 있으며, $50부터는 +5%, $100부터는 +10%, $200부터는 +15% 보너스를 제공합니다. 크레딧은 만료되지 않으며 실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 가격 페이지에서 전체 내용을 확인하세요.

하루에 30개의 메시지를 보내는 200명의 사용자를 가진 봇의 경우, 위의 $0.00165 기준 비용으로 6,000회의 호출을 수행하며 하루 약 $9.90이 소모됩니다. 대화 기록이 짧으면 입력 데이터가 주를 이루기 때문에 비용이 빠르게 줄어듭니다.

봇이 확장되면 제한 사항을 준수하세요. 전체 키는 최대 8개의 동시 요청과 분당 300개의 요청을 허용합니다. 이를 초과하면 API는 코드 rate_limited 또는 concurrency와 함께 HTTP 429를 반환하며, 일시적 과부하 시 Retry-After: 5가 포함된 429를 반환합니다. OpenAI SDK는 기본적으로 429 응답을 재시도하며, maxRetries 클라이언트 옵션으로 재시도 횟수를 늘릴 수 있습니다. 스트리밍 응답은 완료될 때까지 동시 요청 슬롯을 유지하므로, 급증하는 트래픽이 예상되면 키별로 들어오는 메시지를 큐에 저장하세요.

자신만의 코드에 사용자별 일일 사용 한도를 추가하세요. 이는 메시지를 지나치게 많이 보내는 사용자나 스크립트로부터 크레딧을 보호하며, 구현 비용은 단 열 줄입니다.

더 많은 가이드

• Janitor AI에는 필터가 있나요? 선택지
• No Log AI API: 비공개 텍스트 생성에 대한 흔한 오해와 사실