Skip to main content

Safety Guidelines & Moderation Policy

이 문서는 Vivid AI 서비스의 법적 안전성과 지속 가능성을 보장하기 위한 콘텐츠 관리 정책 및 기술적 필터링 명세를 정의합니다.

핵심 원칙:

  1. Web3 Payment: 결제는 탈중앙화된 암호화폐(USDT)로 이루어지므로 PG사의 검열에서 자유롭습니다.
  2. Legal Compliance: 그러나 서비스 운영 주체의 법적 보호를 위해 **대한민국 법령(성폭력처벌법, 아청법, 정보통신망법)**을 엄격히 준수합니다.

1. Content Policy Levels (수위 등급 정책)​

서비스 내 생성물의 허용 범위를 명확히 규정합니다.

🔴 Red Zone (절대 불가 - 즉시 차단 및 영구 정지)​

형사 처벌의 대상이 될 수 있는 영역으로, 시스템 차원에서 원천 봉쇄합니다.

  1. CSAM (Child Sexual Abuse Material):
    • 실제 아동/청소년 또는 "아동으로 명백히 인식될 수 있는(Virtual)" 캐릭터의 성적 묘사.
    • 키워드: child, loli, shota, underage 등.
  2. Deepfake (Non-Consensual Sexual Imagery):
    • **실존 인물(연예인, 지인 등)**의 얼굴을 합성한 성적 허위 영상물.
    • 특정인의 신원을 식별할 수 있는 프롬프트 사용 금지.
  3. Hardcore Obscenity (법적 음란물):
    • 성기(Genitals)의 직접적인 노출.
    • 구체적이고 적나라한 성행위(Penetration 등)의 묘사.

🟡 Yellow Zone (조건부 허용)​

성인 유저(19세 이상)의 창작 자유를 보장하는 영역입니다.

  1. Soft NSFW:
    • 수영복, 란제리, 바디슈트 등 노출이 심한 복장.
    • 성적 매력을 강조한 포즈(Pin-up style).
    • 주의: 유두(Nipples) 노출은 원칙적으로 가림(Fogging) 처리하거나 불투명하게 묘사되도록 유도합니다.
  2. Artistic Nudity:
    • 예술적 맥락의 나체 석상, 회화 스타일 등은 허용하되, 성적 의도가 뚜렷한 경우 필터링 대상이 될 수 있습니다.

🟢 Green Zone (전체 이용가)​

  • 일반적인 풍경, 사물, 옷을 입은 인물, 추상화 등.

2. Technical Safeguards (기술적 방어막)​

정책을 강제하기 위해 3단계 기술적 장치를 도입합니다.

2.1. Input Filtering (프롬프트 검열)​

사용자가 입력한 텍스트 프롬프트를 1차적으로 검사합니다.

  • Banned Word List:
    • 금지 단어 포함 시 생성 요청 자체를 거부(400 Bad Request).
    • 예: rape, child, teen, student, ...
  • Mandatory Negative Prompt (백엔드 강제 주입):
    • 사용자가 무엇을 입력하든, 백엔드에서 전송 시 다음 프롬프트를 항상 추가합니다.
    • nsfw, nude, genitals, uncensored, nipples, child, underage, loli, shota

2.2. Process Controls (모델/워크플로우 제어)​

  • Model Safety: 실사(Realistic) 모델 사용 시 검열 강도를 높이고, 애니메이션(2.5D) 모델은 상대적으로 관대하게 적용할 수 있습니다.
  • Face ID Check (Future): 추후 얼굴 학습(LoRA) 기능 도입 시, 유명인 얼굴과의 유사도를 측정하여 일정 수치 이상이면 거부하는 로직 고려.

2.3. Output Filtering (결과물 검수)​

생성 완료 후, 이미지를 사용자에게 보여주기 전에 AI가 판별합니다.

  • NSFW Classifier:
    • HuggingFace SafeDiffusion 등의 분류기를 사용하여 이미지의 NSFW Score를 계산.
    • Action:
      • Score < 0.3: 통과 (공개)
      • 0.3 < Score < 0.7: Blur 처리 (클릭해야 보임, 'Warning' 태그 부착)
      • Score > 0.7: 이미지 삭제 및 경고 메시지 ("규정 위반 이미지가 감지되어 삭제되었습니다.")

3. Enforcement (제재 정책)​

  • 1차 위반: 경고 알림 및 해당 생성물 삭제.
  • 2차 위반: 24시간 생성 차단.
  • 중대 위반 (CSAM/Deepfake 시도): 즉시 계정 영구 정지(Ban) 및 남은 Credits 몰수 (환불 불가).

4. Disclaimer (면책 조항)​

서비스 이용 약관에 다음 내용을 명시합니다.

"Vivid AI는 AI 생성 도구를 제공할 뿐이며, 생성된 결과물에 대한 모든 민/형사상 법적 책임은 해당 프롬프트를 입력하고 생성한 사용자 본인에게 있습니다. 회사는 수사 기관의 적법한 영장 제시가 있을 경우 로그 정보를 제공할 수 있습니다."