AI Tools••EN

AgentScope 실시간 음성 에이전트 — 3가지 음성 AI 앱 직접 만들기

음성 챗봇, AI 동시통역기, 음성 CS 봇 — RealtimeAgent + Gradio로 3가지 실전 음성 앱 직접 구축.

AgentScope 실시간 음성 에이전트 — 3가지 음성 AI 앱 직접 만들기

AgentScope 실시간 음성 에이전트 — 3가지 음성 AI 앱 직접 만들기

텍스트 에이전트는 타이핑이 필요합니다. 음성 에이전트는 말로 소통합니다 — 핸즈프리, 자연스럽고, 빠르게. 이번 포스트에서는 이론에서 실제 작동하는 3가지 음성 애플리케이션까지 만들어봅니다:

  1. 음성 챗봇 — RealtimeAgent + Gradio로 만드는 첫 번째 음성 앱
  2. AI 동시통역기 — 영어-스페인어 실시간 음성 번역
  3. 음성 고객상담 봇 — 주문 조회, 환불 처리까지 하는 도구 호출 CS 에이전트
🔒

이어서 읽으려면 로그인이 필요합니다

무료 회원가입으로 전체 콘텐츠를 확인하세요.

로그인 / 회원가입

관련 포스트

TurboQuant vLLM, A100 한 장에서 실측 — 8B 모델에서 프리셋 4개의 용량·속도·정확도
Models & Algorithms

TurboQuant vLLM, A100 한 장에서 실측 — 8B 모델에서 프리셋 4개의 용량·속도·정확도

vLLM 0.28, Qwen3-8B bf16, A100 80GB: bf16·fp8·TurboQuant 프리셋 4개의 KV 용량, 배치 처리량, 32K 디코드, needle-in-haystack, GSM8K를 직접 쟀습니다. vLLM 연구가 다루지 않은 8B 크기입니다.

TurboQuant를 실제 KV 텐서 위에서 밑바닥부터 — 3비트의 진짜 비용, 그리고 포크가 논문 레이아웃을 이기는 이유
Models & Algorithms

TurboQuant를 실제 KV 텐서 위에서 밑바닥부터 — 3비트의 진짜 비용, 그리고 포크가 논문 레이아웃을 이기는 이유

PolarQuant를 PyTorch 60줄로 구현해 Llama-3.2-1B·Qwen3-8B의 실제 KV에 적용. 3비트는 +10%, k8v4는 +0.2%, QJL은 저비트에서만 유효, 블록-32 레이아웃이 포크 우위의 절반을 설명합니다.

TurboQuant llama.cpp CUDA 포크, A100에서 실측 — turbo4는 q4_0급, turbo3는 긴 컨텍스트에서 무너진다
Models & Algorithms

TurboQuant llama.cpp CUDA 포크, A100에서 실측 — turbo4는 q4_0급, turbo3는 긴 컨텍스트에서 무너진다

Qwen3-8B Q4_K_M, A100 한 장, KV 타입 6종: perplexity·프리필·깊이별 디코드·VRAM 실측. turbo4는 q4_0과 품질 동급에 깊은 컨텍스트에선 q8_0보다 2.5배 빠르고, turbo3는 32K에서 PPL이 세 배로 뜁니다.