AREX Feed Article
OpenAI 还在语音全双工,字节跳动 SeedRealtime 已让 AI 边看边听边说
"边看边听边说",这一次 AI 真的长眼睛了
8 月 5 日,字节跳动 Seed 团队正式推出原生音视频全双工大模型 SeedRealtime,随即在豆包 App 全量上线。
用户将豆包更新至最新版本,在对话框选择"打电话"即可进入视频通话——屏幕那头的 AI 不再只是语音助手,它同时在接收画面、声音与文本,并在恰当的时机开口说话。
字节跳动称,这是在业界率先实现音视频全双工技术的规模化落地。
TestingCatalog 一条推文 7 万围观,评论区追问"开源吗"
消息最先由 AI 资讯账号 TestingCatalog(@testingcatalog,7.2 万粉丝)在 X 平台引爆。其推文称 SeedRealtime 以统一架构融合音频、视频与文本,并标注"已在豆包 App 免费上线"。
该推文获得 7 万次浏览、665 次点赞、56 次转发,评论区有用户追问"开源吗?"。
科技简报 TLDR Newsletter(12.2 万粉丝)随后跟进报道,指出该模型已上线豆包视频通话模式。 第一财经(@yicaichina,20.7 万粉丝) 与 TechNode 分别发布了中英文报道。
X 用户 @blockphd7(1.9 万粉丝)在体验后写道:"今天豆包打了一下午电话,非常丝滑。每天可以跟它讨论 AI,可以跟它练英语,可以跟它做职业规划。"
GPT-Live 前脚发布,微软后脚测试,字节跳动抢了先
全双工交互在过去一个月骤然升温。
7 月 8 日,OpenAI 发布全双工语音模型 GPT-Live,支持同时听和说,取代了此前依赖轮次检测器的语音方案,并于 7 月 23 日登陆 macOS 与 Windows 桌面端。 GPT-Live 是纯语音模型,不处理视频输入。
8 月 2 日,TestingCatalog 发现微软在 MAI Playground 中隐藏了一款名为 MAI Realtime 的全双工语音模型,支持十多种语言的双向实时对话,目前仍处于受限测试阶段。
仅仅三天后,字节跳动直接跳过了"纯语音全双工"这一站——SeedRealtime 将音频和视频同时纳入统一架构,并且不是发一篇技术报告就了事,而是直接全量上线了豆包 App。
统一架构取代级联系统,对话节奏问题减半
SeedRealtime 的核心改变在架构层面。传统音视频交互依赖级联方案:ASR 转写语音 → VLM 理解画面 → LLM 生成回复 → TTS 合成语音,模块之间延迟叠加、信息逐级损耗。
SeedRealtime 的做法是将声音、画面、时序与表达统一到一个端到端模型中,让感知、理解、决策与生成在同一个网络里同步进行。由此带来三个直接效果:
音视频联合理解上,模型不再先转写文字再理解画面,而是让视觉信息与语音在同一个模型中对齐。遇到同音词或模糊语音时,画面可以直接参与消歧;用户说"这个怎么弄",模型结合手势、视线与画面判断"这个"指向什么。
主动交互方面,模型持续观察画面变化,在关键目标出现时自主提醒,不必等待用户开口。官方演示中,用户在博物馆交代"看到错金银铜虎噬鹿屏座就提醒我",模型在镜头扫过该展品时出声叫停并讲解。
流畅的对话节奏是另一个直接收益。字节跳动官方端到端人工评测显示,SeedRealtime 的音视频对话节奏问题较级联模型减少一半——"话未说完被抢断、话音已落却回应迟缓、被背景杂音误触发"等卡壳现象显著减少,单次对话顺畅完整交流的概率也有明显提升。
全双工竞赛从语音升级为音视频,谁先落地谁定义规则
此前,全双工交互的竞争集中在语音维度。GPT-Live 在追求更自然的语音对话节奏,MAI Realtime 同样聚焦语音双向通话。视频理解在这些方案中仍然依赖外挂模块——画面需要先转成文字再被"看到"。
SeedRealtime 的不同之处在于,它将视频从辅助信号升级为原生模态。画面直接进入模型的实时决策流,而不需要经过一道文本转换。
这让 AI 能够基于视觉状态变化实时纠错:用户把整粒咖啡豆倒进手柄,模型立即指出"得先磨成细粉",而非等用户开口问"我做得对吗"。
更关键的变量是落地速度。SeedRealtime 发布即全量上线豆包 App,而 GPT-Live 仍在逐步铺开,MAI Realtime 甚至尚未官宣。
当 AI 学会"看",对话就不再是回合制游戏
SeedRealtime 的发布,将全双工大模型的竞争推进到了音视频融合阶段。当 AI 开始实时理解画面、把握时机、主动介入,人与机器的交互便不再是轮次分明的问答。
字节跳动官方博客写道:"我们希望,AI 交互不再局限于清晰轮次中的问答,而是能在连续变化的真实场景中理解上下文、敏锐把握时机,并在合适的时候提供帮助。" 这一愿景的兑现程度,最终要看豆包用户实际使用中给出的答案。