Omni기반 End-to-End Voice Interaction Demo

• 스트리밍 시작 전 코덱이 미리 받아야 할 프레임 수입니다.
• 0 → 첫 프레임부터 즉시 전송 (가장 빠른 응답, 초기 음질 저하 가능)
• 1 이상 → 그만큼 버퍼링 후 전송 (초기 음질·연속성 개선, 지연 소폭 증가)

샘플링의 무작위성(창의성)을 조절합니다.

• 0.0 — greedy 디코딩, 항상 동일한 결과
• 낮을수록 — 일관되고 안정적인 출력
• 높을수록 — 다양하고 창의적이나 불안정할 수 있음

누적 확률 상위 P% 이내의 토큰만 후보로 사용합니다.

• 1.0 — 실질적으로 비활성 (전체 어휘 사용)
• 0.9 — 누적 확률 90% 이내 토큰만 고려
• Top-K와 함께 사용 시 두 조건 모두 만족해야 선택됨

확률 상위 K개의 토큰만 후보로 제한합니다.

• -1 — 비활성 (전체 어휘 사용)
• 1 — greedy와 동일, 가장 높은 확률의 토큰만 선택
• 50 — 상위 50개 토큰 중에서 샘플링

한 번의 추론에서 생성할 최대 토큰 수입니다.

• Thinker와 Talker 각각에 별도로 적용됩니다.
• 값이 클수록 긴 응답이 가능하나 지연 시간이 늘어납니다.

이미 생성한 토큰이 다시 선택될 확률을 낮춥니다.

• 1.0 — 패널티 없음
• 1.0 초과 — 반복 억제, 값이 클수록 강하게 억제
• 너무 높으면 문법적으로 어색한 출력이 생길 수 있음

난수 생성기의 초기값입니다.

• 동일한 seed + 동일한 입력 → 재현 가능한 결과
• 디버깅 및 실험 비교 시 고정해두면 유용합니다.

생성된 토큰을 텍스트 문자열로 디코딩할지 여부입니다.

• true — 텍스트로 변환하여 스트리밍 (Thinker에서 사용)
• false — 토큰 ID 그대로 반환 (오디오 코덱 토큰 전달 시 사용)

이 토큰 ID가 생성되면 즉시 생성을 중단합니다.

• 151645 — Qwen3 텍스트 EOS(End-of-Sequence) 토큰
• 2150 — 오디오 코덱 EOS 토큰
• 쉼표로 구분하여 여러 개 입력 가능

VAD가 **무음**이라고 판단할 최소 지속 시간입니다. 사용자가 말을 멈추고 일정 시간(여기선 700 ms)동안 소리가 없으면 현재 발화를 끝내고 서버에 전송합니다.

• 값을 작게(예: 300 ms) → 말이 잠시 멈춰도 바로 끝남 → 반응성이 빨라짐, 잡음에 민감해질 수 있음.
• 값을 크게(예: 1500 ms) → 사용자가 잠시 멈춰도 계속 듣는다 → 자연스러운 대화 가능하지만 응답이 늦어질 수 있음.