Loading video...

Video Failed to Load

Go Home

Livekit推出一个开源的精准语音轮次检测模型 可精准识别用户是否说完话 目前AI语音最难解决的问题之一是回合结束检测,也就是要么: 过早响应:用户只是停顿思考,系统却以为用户说完了 过晚响应:用户已经完成发言,但系统未及时反应 Livekit模型能精准判断“用户是否说完话”,然后才开始响应。 传统方法主要依赖 语音活动检测(VAD),但 VAD 只关注语音信号的存在与否,忽略了语义层面的信息,因此容易受到停顿和背景噪声的干扰。 Livekit 通过结合 Transformer 模型 和传统的 语音活动检测(VAD),来改进对“轮次结束检测”(End of Turn Detection, EOT)的判断。以更好地判断用户是否完成发言。 用来改进语音人工智能(比如语音助手、客服机器人)在对话中判断“用户是否说完话”的能力。这种技术相比传统方法更加准确和智能。

17,345 views • 1 year ago •via X (Twitter)

6 Comments

小互's profile picture
小互1 year ago

测试结果: 错误打断减少了 85%,也就是说,语音助手变得更加自然和不容易误判。 特别适合需要人机对话的场景,比如语音客服、智能问答机器人。 看看演示: Livekit 模型能让AI 代理理解所询问的信息,并会等待用户完成所有信息再提供回答。

小互's profile picture
小互1 year ago

详细介绍: GitHub:

chrwu's profile picture
chrwu1 year ago

我的方法是用硬键中断ai语音,继续提问

Jason Chen's profile picture
Jason Chen1 year ago

好,这个点很准确

⚜️这届人类不行⚜️'s profile picture
⚜️这届人类不行⚜️1 year ago

这除了要关注语言内容,还要关注语气语调和肢体语言。

币安交易所高返佣注册(Parody)'s profile picture
币安交易所高返佣注册(Parody)1 year ago

技术进步

Related Videos

NVIDIA 发布了类似豆包语音聊天的大模型 NVIDIA 放出了 PersonaPlex-7B-V1, 一个 7B 参数的全双工实时语音对话模型, 你可以理解为开源版的豆包语音聊天! 这玩意儿最牛的地方在于: 真正的全双工, 也就是说它能一边说一边听. 你打断它? 没问题, 它能立刻停下来听你说. 你俩同时说话? 也能处理. 这就是为啥叫 "Full Duplex" (全双工), 跟打电话一样自然. 技术上怎么实现的? 采用双流配置架构, 监听流和说话流同时运行. 模型基于 Moshi 架构魔改, 用 Mimi 编码器把语音压缩成神经编解码器 Token, 然后 7B 的 Transformer 同时预测文本和音频 Token, 最后 Mimi 解码器输出语音. 整个过程是流式的, 延迟极低. 还有个骚操作: 双重提示条件化. 你可以给它一段声音样本当 "声音提示", 它就能模仿那个声音风格说话; 再给个文本提示定义角色人设, 比如 "你是一个耐心的客服", 它就按这个人设来对话. 声音 + 人设, 都能定制. 跑分成绩: 在 FullDuplexBench 基准测试上, 平滑轮换成功率 90.8%, 用户打断处理成功率高达 95%, 响应延迟只有 170ms, 打断延迟 240ms. 官方说在对话动态、延迟、任务一致性上都优于其他开源和商业系统. 限制嘛: 目前只支持英语, 推荐硬件是 A100 80GB 或 H100, 不是一般人能跑得起的. 看了下训练数据用的是 Fisher English 数据集, 不到 1 万小时. 好消息是采用 NVIDIA Open Model License, 商用可用! 模型地址:

karminski-牙医

25,426 views • 5 months ago

OpenAI 今天发布 GPT-Live,用全双工架构(full-duplex)取代 ChatGPT 原有的语音模式。同声传译的演示效果很惊艳。 两个型号 GPT-Live-1 和 GPT-Live-1 mini,分别面向付费和免费用户,今天起在 iOS、Android 和网页端全球推出。 这是 ChatGPT 语音的第三代技术。之前的语音模式本质上是"对讲机"模式,你说完它才说,中间稍微停顿一下就可能被打断。GPT-Live 改成了全双工,可以一边听你说一边自己说,每秒做多次交互决策,判断该说话、该闭嘴、该打断还是该调用工具。对话中它会像真人一样插入"mhmm""got it"之类的回应,表示在听。 架构上有一个比较有意思的变化:GPT-Live 把语音交互层和推理层拆开了。日常对话它自己处理,遇到需要联网搜索、深度推理的问题,就后台交给 GPT-5.5 去干活,自己继续跟你聊着。等结果出来了再无缝带回对话。OpenAI 说以后出了更新的模型会持续替换后端,前端语音模型不用重新训练。这个设计对做语音智能体的开发者可能比较有吸引力,也给了 OpenAI 一个把语音产品和模型迭代解耦的机制。 用户端还加了三档推理强度可选:Instant(快速回答)、Medium 和 High(需要想一会儿的复杂问题),九个语音角色也重新录制过。语音对话中还能显示天气、股票、体育比分等可视化卡片。 不过上线第一天用户反馈就出现了一个有点讽刺的问题:那些设计来让对话更自然的回应词,实际用起来让不少人觉得烦。社交媒体上已经有用户吐槽 GPT-Live 的"mhmm"太频繁,声音直接闯入注意力的感受和文字不同,AI 的热情过了头反而成了干扰。TechCrunch 在报道中也提到,演示中展示印地语实时翻译时,模型带着明显的美式口音,措辞偏书面,效果并不理想。OpenAI 说"针对最常用语言做了优化",但没有公布具体支持哪些语言。 另外,GPT-Live 上线时不支持视频通话和屏幕共享,需要这些功能的用户得切回旧版。API 也还没开放,开发者只能先登记排队。 每周有超过 1.5 亿人使用 ChatGPT 的语音和听写功能。OpenAI 显然把语音视为下一个主力交互界面,ChatGPT Voice 产品负责人 Atty Eleti 说自己散步时经常跟它聊三四十分钟。至于全双工到底是一次真正的体验升级,还是又一个演示很惊艳、日常用起来还得调的产品,可能还得看接下来几周用户怎么说。 官方介绍:

宝玉

76,508 views • 8 days ago