Block, 텍스트 없이 인간 음성만으로 학습한 풀듀플렉스 음성 모델 Dessa 공개
- Block이 텍스트나 사전학습 모델 없이 인간 대화 음성만으로 처음부터 학습한 풀듀플렉스 음성 모델 Dessa를 공개하고 대기 명단을 받고 있음
- 오디오 입력에 오디오 출력만 쓰는 speech-to-speech 모델로, 말하는 동시에 듣고 끼어들기와 추임새("yeah!", "got it!")를 넣을 시점을 스스로 정함
- 추론이 실시간보다 빨라 대기 시간이 없고, MacBook Pro M4 Max 이상에서 로컬로 돌아감
- 언어를 익히는 데 LLM보다 수백 배 적은 단어를 썼고, 텍스트로 바꾸지 않고 억양·호흡·비꼼·웃음 같은 음성 정보를 그대로 다룸
- 공개된 데모는 사람이 Dessa와 실제로 대화한 녹음이며, ChatGPT Live 모델과 주고받은 대화 샘플도 포함됨
Hacker News 의견들
홈페이지 샘플 들어봤는데 솔직히 끔찍하던데. 억양도 리듬도 대화 구조도 하나도 편하게 안 들리고 사람처럼 들리기는 완전히 멀었다고 봄
대안들 써보긴 했어? 대화가 물 흐르듯 이어지는 건 이게 확실히 훨씬 낫던데. 학습 데이터도 적고 컴퓨트도 적은 걸 감안하면 놀랍다고 봄
나도 살짝 어색하다고 느꼈는데 그래도 지금까지 들어본 AI 목소리 중엔 제일 사람 같더라
풀듀플렉스 데모는 늘 과장돼 보임. 첫 예시에서 "winter" 답변 뒤에 웃음이 왜 필요했는지 모르겠고, 사람이 문장 하나를 끝내지도 못하게 계속 말을 가로채더라
실제 사람이 내 말 끊어도 짜증나서 의자 집어던질 판인데 AI 상담원이 그러면 진짜 못 참겠음
OpenAI도 advanced voice mode에서 그 짓 해서 걍 껐어. 문장 중간에 "uh huh" 넣으니까 사고 흐름이 끊겨서 사람이 아니라 멍청한 AI랑 말하는 느낌이더라
다음 단계는 텍스트와 오디오 공동 학습일 텐데, 말투 사실감은 좋은데 지능은 확실히 2024년 수준임
첫 클립에서도 균열 보이던데. 목소리 키워달라고 하니까 잠깐 커지다가 원래대로 돌아가고 방금 한 말도 잊어버려서 사람이 다시 주제를 끌고 가야 했음
"How's the winter stuff?" 같은 문장은 사람이 안 씀. 추임새랑 끊어 말하기도 얼굴 없는 데서 들으면 오히려 기괴하고
나는 꽤 자연스럽고 친구랑 통화하는 느낌이라 소름 돋았음. 목소리만으로 학습해서 감정을 배운다는 게 제일 흥미로운 부분임
이 정도면 노인층 보이스피싱에 바로 악용될 텐데 좀 무섭더라. 듣고 AI인지 구분하는 건 거의 불가능할 듯
가중치는? API는? OpenRouter에는 언제 올라옴? 지금은 그냥 데모만 던져놓고 어디로 가는 건지 모르겠음
GB200 NVL72 한 대로 학습했다는 부분이 진짜 미친 것 같은데, LLM은 1000배 컴퓨트가 필요한 걸 텍스트 쪽에서도 이렇게 뽑을 수 있나
C++ 디버깅하고 사물 분류하고 생일 선물 골라주는 모델을 원한다면 그런 효율은 안 나올 거라고 봄
AI 여자친구 말고 게임 NPC에 넣으면 진짜 좋겠던데. 플롯은 챙기면서 자연스럽게 대화하는 NPC라니
"LLMs also have to learn C++ and whatever the hell Angular is" 이 문장에서 웃었는데, 요즘은 이게 사람이 쓴 글인지도 확신이 안 서더라