82M 파라미터 Kokoro TTS, CPU만으로 로컬에서 고품질 음성 합성 구현

Key findings

• Kokoro는 8200만 파라미터의 소형 모델임에도 영어, 중국어, 힌디어 등 다국어로 자연스러운 음성을 생성하며 약 50가지 음성을 제공한다.
• Kokoro-FastAPI라는 사전 제작된 컨테이너 이미지를 사용하면 podman이나 docker 명령어 하나로 간단히 로컬 TTS 서버를 구축할 수 있으며, 이미지 크기는 약 5GB이다.
• 이 서버는 OpenAI 음성 API와 호환되는 인터페이스를 제공해 기존 OpenAI TTS 연동 프로그램을 쉽게 전환할 수 있다.
• 12년 전 출시된 Intel Core i7-4770K에서도 짧은 문단 음성 생성이 4.7초 만에 완료되어 구형 CPU로도 충분히 실용적인 성능을 보였고, AMD Ryzen 7 8745HS에서는 1.5초로 더 빠르게 처리됐다.
• Whisper 음성인식 기능까지 결합하고 싶다면 Speaches라는 대안 컨테이너 서비스를 사용할 수 있으며, 이는 로컬 LLM과 결합해 답변을 읽지 않고 들을 수 있게 해준다.