你的语音 Agent 又抢话了。
你的语音 Agent 又抢话了。
用户说"我想订那个……就是上次去过的那家……"，话还没说完，AI 已经兴冲冲回了一句"好的，请问您想订什么？"
"帮我查一下那个……"——一秒的停顿，AI 拿着半句话就开始生成回复了。
更荒谬的是：用户咳嗽了一声，AI 开始正经回答一个不存在的问题。用户清了下嗓子，AI 说"好的，我来帮您处理"。旁边有人关了一下门，AI 又开口了。
这些问题的根源不是你的大模型不够聪明，而是系统根本不知道什么时候该接话——更准确地说，系统分不清哪些声音是"话"，哪些根本不是。
现有方案为什么不行
目前主流语音 Agent 的判停逻辑是 VAD + 静音阈值——检测到 N 毫秒没声音，就认为用户说完了。但这个方案有两个致命问题。
第一，它分不清停顿和说完。 人说话会思考、会犹豫，1 秒的沉默不代表一句话结束。
第二，它分不清人声和噪声。 VAD 检测的是"有没有声音活动"，而不是"有没有语言意图"。咳嗽、叹气、清嗓子、甚至环境中的碰撞声，都可能被 VAD 标记为语音活动，经过 ASR 后产生幻觉文本，触发大模型生成一个莫名其妙的回复。在真实部署环境中，这类噪声误触发的频率远比你想象的高——特别是车载、开放办公、户外等场景。
行业开始转向模型判停——用深度学习模型判断用户是否说完。但现有方案存在一个三角困境：精度、成本、速度，最多满足两个。
7B 参数的方案精度不错、延迟也低，但需要 GPU，部署成本高。850M 参数的方案精度好，但推理延迟接近 200ms，同样需要 GPU。8M 参数的轻量方案能跑在 CPU 上，但 F1 只有 70% 出头，生产环境不可用。
而且，这些方案几乎都只解决"说完 vs 没说完"的二分类问题，对非语义声音（咳嗽、叹气、噪声）没有专门的处理能力——要么当做"说完了"误触发回复，要么依赖前置的 ASR 转写结果间接判断，链路长且不可控。
如果你想要一个不依赖 GPU、精度还能打、同时能拦住噪声的判停方案，目前没有选择。
TurnSense：不用 GPU 也能打，噪声一条不漏
今天，百融 Baiji Team 开源了 TurnSense——一个 47M 参数的语音判停模型，直接以语音为输入，在纯 CPU 环境下跑出了与 7B GPU 方案持平甚至略超的精度。
它回答一个问题：
用户这段语音，是说完了、没说完、还是无需回复？
三种输出，三种系统行为：
● Complete → 立即响应。用户表达了完整的意图。
● Incomplete → 继续等待。用户还在组织语言，只是停顿了。
● Invalid → 静默忽略。咳嗽、叹气、清嗓子、打哈欠、环境碰撞声……一切不构成对话意图的声音，系统当它不存在。
这个三分类设计不是锦上添花，而是解决了一个工程上的关键痛点。传统方案中，非语义声音要经过 VAD → ASR → 文本判断的完整链路才能被过滤（如果能被过滤的话）。TurnSense 在语音层就直接拦截，不给下游任何误触发的机会。整条链路的噪声抑制从"末端补救"变成了"源头拦截"。
关于 Invalid 的边界：如果用户说了一声"嗯"作为回应，TurnSense 怎么判？判断依据是这段语音是否携带需要 AI 响应的意图。纯粹的反馈性语气词（"嗯"、"啊"）在单独出现时归为 Invalid，不会触发 AI 回复。如果"嗯"后面紧跟着内容（"嗯，我想问一下……"），VAD 会把它作为一整段语音送入，模型会根据整段判断为 Incomplete 或 Complete。
在 728 条非语义声音测试中，TurnSense做到了 Invalid 类的 precision 100%——咳嗽永远不会触发一次 AI 回复。零次。
直接看数据
在 300 条真实中文对话数据（easyturn_real_test_ZH）上的语义判停能力：
在 728 条非语义声音测试（non_semantic_test）上的噪声拦截能力：
几个值得注意的点：
语义判停方面，TurnSense 的 F1 比 Easy-Turn 高了约 0.3 个百分点，比 TEN-Turn 高了约 3 个百分点。0.3 个点的优势不算碾压，但它是在 CPU 上跑出来的。 Easy-Turn 需要 GPU 且延迟是 TurnSense 的 3 倍多。同等精度下，部署成本差了一个数量级。
噪声拦截方面，其他三个模型根本没有这个能力——它们只做二分类（说完/没说完），遇到咳嗽声只能硬猜一个。TurnSense 是目前唯一在模型层面具备非语义声音识别能力的判停方案。
TEN-Turn 的延迟确实比 TurnSense 低（17ms vs 54ms），但它需要一张 GPU。如果你有充足的 GPU 预算且并发量不高，TEN-Turn 是合理选择。但如果你需要部署在端侧、需要支撑高并发、或者不想为判停单独买 GPU——TurnSense 是目前唯一精度达到生产标准的纯 CPU 方案。
为什么 47M 能打赢 7B？
判停是一个极窄的任务——输入是一段几秒的语音，输出是三选一的分类。它不需要世界知识，不需要长链推理，不需要理解上下文。用 7B 模型做这件事，就像开卡车去送一封信，99% 的运力是浪费的。
但"小模型做窄任务"不是新思路，Smart-Turn 也只有 8M，为什么 F1 只有 70%？差距在哪？
两个方面。
第一是训练数据。 TurnSense 使用了大规模中英文真实对话语音作为训练数据，覆盖了口语中大量的犹豫、停顿、重复、自我修正等现象。同时，训练集中包含了大量真实环境录制的非语义声音样本——各种咳嗽、叹气、环境噪声、设备杂音——让模型学会了区分"人在说话"和"只是有声音"。Smart-Turn 的训练数据以朗读式语音为主，遇到真实口语场景和噪声环境泛化能力不足。
第二是模型容量的甜点。 8M 太小，无法充分编码语音中的韵律模式和语义完整性特征。7B 太大，大量参数被浪费在这个任务用不到的能力上。47M 是团队经过多轮实验找到的平衡点——足够大到覆盖判停所需的全部信号（包括区分语义内容和非语义噪声的能力），又足够小到每个参数都在干活。
这不是一个靠灵感找到的魔法数字，是几十次对照实验的结果。
快速使用
接入路径： VAD 检测到语音段结束 → 提取音频特征 → 送入 TurnSense → 根据结果决定响应/等待/忽略。
注意这里和传统链路的关键区别：传统方案中，所有经过 VAD 的音频都会送入 ASR，ASR 的幻觉文本可能触发下游误响应。接入 TurnSense 后，Invalid 的音频直接被丢弃，根本不会进入 ASR 环节，从源头切断噪声误触发链路，同时节省了 ASR 的算力开销。
因为 TurnSense 直接处理语音，它和 ASR 是并行关系。你可以在 TurnSense 做判停的同时让 ASR 开始转写，两者同时跑。TurnSense 返回"Complete"时，ASR 大概率也出结果了，整体响应延迟取两者最大值而非累加。TurnSense 返回"Invalid"时，直接丢弃 ASR 结果，不浪费下游算力。
模型以标准 ONNX 格式提供（FP32 / INT8），不绑定任何训练框架。Python、C++、Java、Rust——你的技术栈是什么就用什么。INT8 版本约 50MB，一台普通云服务器就能跑生产流量，也能打包进车机、手机、IoT 设备。
从 git clone 到第一个推理结果，3 分钟：
git clone https://github.com/Bairong-Xdynamics/TurnSense.git
cd TurnSense
pip install -U numpy onnxruntime torch librosa soundfile pandas scikit-learn huggingface_hub
首次运行自动从 Hugging Face 下载模型。
git lfs install
git clone https://huggingface.co/brgroup/TurnSense
推理
python infer.py
实际效果
我们将 TurnSense 接入一个开源语音 Agent 框架做了内部初步测试（100 轮对话，涵盖闲聊、任务指令、多轮问答三类场景，测试环境包含正常室内和模拟车载噪声）：
样本量不大，仅供参考方向性趋势，后续会放出更大规模的评测报告。但三个方向性的结论应该是稳的：误打断大幅减少；噪声误触发从 11 次降到 0 次，Invalid 拦截能力在工程上验证了实验室指标；因为不再需要固定等 500ms 静音窗口，判停与 ASR 并行后实际响应反而更快。
噪声误触发归零这一点对特定场景的意义尤为突出：车载场景中路噪和乘客对话频繁；智能客服场景中用户的叹气和清嗓子是高频事件；智能音箱场景中电视声、孩子玩闹声随时存在。这些场景下，一次误触发就可能打断用户体验。
它不能做什么
不处理多轮上下文。 TurnSense 只看当前这一段语音，不参考对话历史。大多数场景下单段音频的韵律和内容信息已经足够判断，但确实存在需要结合上下文才能判断的边界 case。
中英文为主。 当前训练数据和评测以中英文为主，其他语种的效果尚未充分验证。
不替代 VAD。 TurnSense 是语义层判停，仍需前置的 VAD 做语音端点检测。VAD 告诉你"这段声音停了"，TurnSense 告诉你"这段话说完了没"以及"这段声音是不是话"。
音频质量有下限。 极端噪声环境或严重失真的音频可能影响判断。正常通话质量和设备录音没问题。
关于百融 Baiji Team
百融 Baiji Team 专注语音交互基础设施，让语音 Agent 在真实环境中真正好用。核心成员来自国内头部语音 AI 公司，有多年对话系统工程与研究经验。TurnSense 是团队的首个开源项目，后续还会在语音交互的其他关键模块持续输出。
链接
● 许可证：Apache License 2.0
● 评测框架和数据均随代码开源，支持一键复现所有指标
● 问题反馈和讨论：GitHub Issues / Discussions
Apache 2.0，商用免费。用了觉得好，GitHub 给个 star；用了遇到问题，提个 issue，我们会跟。
来源：互联网
