本期编辑:@ 三水 @ 鲍勃

01 有话题的技术

1、世界模型公司 Odyssey 开放 14B 实时交互世界模型 Odyssey-3:支持实时探索生成场景,免费公众预览已上线

世界模型公司 Odyssey 开放 Odyssey-3 的免费公众研究预览。这是一款拥有 14B 参数 的实时交互世界模型,可以根据文本提示生成可探索的虚拟环境,并在用户移动、切换视角或触发事件时,持续预测和生成后续画面。此次开放的是 Odyssey-3 Flash 在线体验版本,开发者可另外申请 API 接入。

Odyssey-3 目前开放浏览器在线体验,模型权重尚未开源,面向机器人、自动驾驶等领域的开发者可联系官方申请接入。

https://odyssey.systems/meet-odyssey-3

2、全双工语音加速框架 DiffuPlex:滚动掩码扩散减少逐帧推理,运行速度提升最高 1.59 倍

研究者 Heeseung Kim 提出全双工语音对话加速框架 DiffuPlex ,通过滚动掩码扩散技术,在单次模型计算中同时预测多个未来的用户与 AI 语音帧,减少传统自回归模型逐帧推理带来的计算开销。在保持 80ms 语音交互帧间隔 的条件下,DiffuPlex 实现最高 1.59 倍部署运行速度提升,同时保留实时打断、轮次切换等全双工交互能力。

https://diffuplex.github.io/

3、研究团队 PhAI Labs 开源世界模型自我改进框架 RSI-Anything:代码修复成功率从 26.3% 提升至 31.2%,GUI 操作减少 39.4%

研究团队 ** PhAI Labs ** 发布并开源 RSI-Anything,一种基于 JEPA-Anything 的递归自我改进框架。它利用世界模型预测不同操作可能产生的结果,筛选值得实际执行的方案,再根据真实反馈更新智能体策略或工作流程,并在必要时调整世界模型。经过验证的改进会保留到下一轮任务中,使智能体能够持续利用此前积累的经验。

目前 RSI-Anything 已开放论文、代码及实验资源,涵盖代码修复、GUI 交互、实验室规划和反应优化等任务。

https://phai-labs.com/papers/rsi-anything/

4、香港科技大学、音频 AI 公司 Noiz 等开源世界模型音频生成框架 WorldSonus:100ms 流式生成立体声,支持实时调整音效与空间对齐

香港科技大学、Noiz AI、MetaX 和上海交通大学的研究者联合提出并开源 WorldSonus ,一种面向世界模型的实时交互式视频转音频框架。它可以根据持续生成的视频画面同步合成空间立体声,并在生成过程中响应新的声音指令,让环境音效随场景变化和摄像机移动实时更新。在单张 NVIDIA H100 GPU 上,模型生成 100ms 音频片段平均耗时 41.2ms,实时因子(RTF)为 0.41。

目前 WorldSonus 已开放论文、推理代码和模型权重,支持开发者使用 CUDA GPU 在本地运行。项目采用 CC BY-NC 4.0 许可证,仅允许非商业用途;当前尚未集成至 Noiz Studio,公开代码的实际推理延迟也可能因硬件和运行环境而有所不同。

https://noizai.github.io/WorldSonus/

02 有亮点的产品

1、多模态大模型公司模思智能完成超 10 亿元 Pre-A 轮融资:即将推出全模态实时交互系统 MOSS Live

10 月 12 日,模思智能宣布完成超 10 亿元 Pre-A 轮融资 ,由华控基金领投,国开科创、上海科创基金、新微资本、徐汇资本等参投,元禾控股、上海科创集团等老股东继续投资。本轮资金将用于全模态实时交互智能的研发与全球商业化落地。公司同时披露即将发布的实时交互系统 MOSS Live,通过前端交互模型与后端任务执行模型协同,让 AI 在持续理解语音、视频和环境信息的同时,处理复杂推理与任务。

模思智能于 2024 年底孵化自复旦大学邱锡鹏教授带领的 OpenMOSS 团队。邱锡鹏担任公司创始人兼首席科学家,团队此前参与 MOSS、SpeechGPT、AnyGPT 等语言、语音及多模态模型研究。

(@ 模思智能)

2、xAI 开发者 Evan Bacon 演示 Grok Bot 自主开发 Apple Vision Pro 应用:可将语音交互机器人放置在真实空间中

10 月 12 日,xAI 开发者、Expo Router 作者 Evan Bacon 展示了一款由 Grok Bot 辅助开发的 Apple Vision Pro 空间交互应用。他要求 Grok Bot 为自己构建一款 visionOS 应用,最终实现将多个虚拟机器人放置在公寓的真实空间中,并直接通过语音与它们交流。Evan Bacon 随后公开了用于构建该应用的 Vision Pro Bot,供其他开发者尝试。

https://x.com/Baconbrix/status/2109406594241060901

3、Google DeepMind 向全球公众开放 AI 内容检测工具 SynthID Detector:支持图片、视频和音频水印检测,覆盖 OpenAI、NVIDIA 等合作伙伴

10 月 7 日,Google DeepMind 宣布将 AI 内容验证工具 SynthID Detector 从此前面向媒体专业人士的有限测试扩大至全球公众,用户可通过 synthid.com 免费上传图片、视频或音频文件,检测其中是否包含 SynthID 隐形数字水印。新版检测范围同时扩展至 OpenAI、NVIDIA、Kakao 等合作伙伴的 AI 生成内容,目前已在全球开放英文版本。

SynthID Detector 仅能识别已嵌入相应水印的内容,未检测到水印不代表内容一定由人类创作,也无法覆盖所有 AI 生成模型。

https://synthid.com/

03 有态度的观点

1、PolyAI CTO Shawn Wen:语音 AI 尚未迎来自己的「ChatGPT 时刻」,全双工之后仍需突破推理速度瓶颈

企业语音 AI 平台 PolyAI 首席技术官 Shawn Wen 近日在 HumanX 大会上表示,尽管语音 AI 已经取得显著进展,甚至出现了能够同时听取用户讲话并生成语音回应的全双工模型,但整个行业仍未迎来类似 ChatGPT 发布时的突破性时刻。

Wen 认为,全双工模型的出现是一个重要技术里程碑,但下一阶段的核心挑战是让模型能够更快地完成推理、检索答案并作出回应,使实时对话真正接近人与人之间的自然交流。 当前的语音模型已经能够生成越来越逼真的声音,但语音自然度的提升并不意味着模型能够准确理解用户需求、及时给出有效答案。

他以企业客服场景为例指出,语音智能体需要在前两三轮对话中让用户感受到它具备解决问题的能力。当用户逐渐建立信任,并确认 AI 能够处理自己的需求时,才可能愿意继续与其交流,甚至不再要求转接人工客服。语音智能体能否获得广泛应用,取决于它在真实交互中解决问题的能力,以及由此建立的用户信任。

Wen 同时提到,自动语音识别(ASR)仍存在漏掉重要关键词的问题,这可能导致模型无法准确获取完整上下文,进而影响后续理解和回应。对于需要连续交流的语音智能体而言,前端识别错误、推理响应速度和最终解决问题的能力,都会影响用户对整个系统的信任。

( @Techcrunch)

阅读更多 Voice Agent 学习笔记:了解最懂 AI 语音的头脑都在思考什么

写在最后:

我们欢迎更多的小伙伴参与 「RTE 开发者日报」 内容的共创,感兴趣的朋友请通过开发者社区或公众号留言联系,记得报暗号「共创」。

对于任何反馈(包括但不限于内容上、形式上)我们不胜感激、并有小惊喜回馈,例如你希望从日报中看到哪些内容;自己推荐的信源、项目、话题、活动等;或者列举几个你喜欢看、平时常看的内容渠道;内容排版或呈现形式上有哪些可以改进的地方等。

作者提示: 个人观点,仅供参考


↙↙↙阅读原文可查看相关链接,并与作者交流