SynCity 3000:从单个物体到整座城市,3D生成终于跨越场景级门槛
基于已整理草稿生成的网页版文章,适合先稳定落地,再做局部润色与发布检查。
导语
7月6日,牛津大学视觉几何组(VGG)发布 SynCity 3000——一个能从文字提示生成任意规模、全局连贯3D场景的框架。此前3D生成模型只能做"单个物体",场景级生成要么拼接出明显网格痕迹,要么细节崩坏。SynCity 3000 用卷积扩散替代分块拼接,配合合成数据引擎解决训练数据稀缺,输出可直接浏览的 Gaussian Splat 场景。论文已被 ECCV 2026 接收。
3D生成的"物体墙"
过去两年,image-to-3D 生成取得了巨大进步——给一张图,模型能生成高质量的单个3D资产。但一旦你想生成"一条街""一座公园""一片废墟",问题就来了。
现有方案主要是"分块生成再拼":把场景切成网格,每格独立生成3D,然后拼到一起。结果就是——你能看到明显的网格边界,相邻区块的建筑物和地面接不上,整体像乐高积木而非有机世界。3DTown 等同期工作也未能根本解决这个连贯性问题。
核心瓶颈有两个:一是3D场景训练数据极度稀缺(不像2D图像有海量互联网数据),二是分块独立生成天然破坏全局一致性。
卷积扩散:不是拼图,是整幅画
SynCity 3000 的核心创新是把 image-to-3D 生成器改造成"卷积算子"。
传统分块方案:每个区块独立跑一遍扩散模型,生成完再拼。SynCity 3000 的做法:在扩散过程的每一步去噪中,生成器都以卷积方式在重叠窗口上联合运行——就像画一幅壁画,不是画完一块再画下一块,而是整面墙同时推进,相邻区域互相参考。
这个灵感来自2D领域的 MultiDiffusion 技术,但 SynCity 3000 是首次将其成功扩展到3D场景生成。效果是:场景中的道路、河流、建筑群自然延伸,没有拼接缝,全局结构有机连贯。
两阶段流水线
整个框架分两步:
第一阶段:2D模板生成。 从文字提示生成一张高分辨率等距视角(dimetric)的场景俯视图。同样采用重叠窗口联合扩散,确保2D模板本身全局一致。用户还可以通过布局约束精确控制特定元素的位置——比如"左边放教堂,右边放市场"。
第二阶段:2D转3D场景。 将2D模板转换为完整的3D Gaussian Splat 场景。关键在于:生成器在去噪当前区域时,会接收周围区域的上下文信息,确保几何和语义的跨区域连贯。模型在32万程序化生成的场景级样本上微调,解决了3D场景训练数据稀缺的问题。
合成数据引擎:自己造训练数据
3D场景数据稀缺是行业级难题。SynCity 3000 的解法是建了一个合成数据引擎,程序化生成大量场景级训练样本——包含各种布局、建筑类型和地形。32万样本的规模远超现有3D场景数据集,让模型学到了足够丰富的场景先验。
这个数据引擎本身也是一个贡献:它证明了在3D场景生成领域,"合成数据+微调"可以绕过真实数据稀缺的瓶颈,思路可能被其他3D生成工作借鉴。
效果对比
论文报告了与此前方法 SynCity(前代)和 3DTown(同期工作)的用户研究对比:
- 布局控制偏好:100% 用户更偏好 SynCity 3000(vs SynCity)
- 生成场景偏好:63% 用户更偏好 SynCity 3000(vs SynCity)
- 59.3% 用户更偏好 SynCity 3000(vs 3DTown)
从项目页展示的示例看,SynCity 3000 能生成郊区街景、主题公园、雪山湖泊、南极破冰船、沙漠修道院、古代废墟等多种场景,规模和复杂度远超此前工作。
输出格式:Gaussian Splat
生成的3D场景以 Gaussian Splat 格式输出,这意味着可以直接在浏览器和主流3D查看器中实时浏览,不需要额外转换。对游戏开发、虚拟制作和建筑可视化等下游应用来说,这是目前最实用的3D场景表示之一。
局限
- 论文阶段,无开源代码/模型:目前只有论文和项目页,代码和模型权重尚未发布,无法自行复现或部署。
- 用户研究规模未披露:100%/63%/59.3% 的偏好数据来自用户研究,但参与人数和具体设置未在项目页公开。
- 场景类型偏"俯瞰":等距视角的2D模板决定了生成场景更适合鸟瞰/中远景浏览,室内近景和第一人称视角的效果未展示。
- 依赖合成数据:合成数据虽然解决了量的问题,但与真实场景的分布差异可能影响某些场景类型的真实感。
对谁有用
- 游戏开发者:快速生成大规模场景原型,替代手工白盒搭建
- 虚拟制作/影视预览:低成本生成场景级3D环境用于镜头预演
- 建筑/城市规划可视化:从文字描述快速生成城市级3D概念图
- 3D生成研究者:卷积扩散+合成数据引擎的思路可迁移到其他3D生成任务
更大的图景
3D生成正在经历和2D图像生成类似的路径:从"能生成"到"生成得好"到"生成得大"。单个物体的3D生成已经相当成熟,但场景级3D生成一直是空白。SynCity 3000 证明了一个关键假设——把物体级生成器改造为卷积算子,配合足够多的合成训练数据,可以跨越从物体到场景的鸿沟。
如果这个方向被验证和扩展,3D生成的下一个里程碑可能是"交互式场景编辑"——不只是生成一座城市,而是实时修改其中的建筑、道路和植被。那将是3D创作工具的真正质变。
---
*基于 arXiv 预印本 arXiv:2607.05392 及项目页整理,论文由牛津大学 VGG 组 Paul Engstler、Iro Laina、Christian Rupprecht、Andrea Vedaldi 于 2026 年 7 月 6 日提交,已被 ECCV 2026 接收。*
参考来源
说明:该页面由基础模板稳定生成,后续可继续局部润色样式或补充模块,再进入发布检查。