随着5G产业链的进一步成熟,沉浸式媒体技术迎来了发展红利期,点云技术在各类沉浸式媒体解决方案中有着广泛的应用前景,比如VR 看房,数字文博及互动教育等。然而,需求持续增长的背景下,点云建模、压缩、渲染等技术在学术界和工业界却仍有着相当大的挑战:
1
采集设备昂贵、操作复杂
长久以来,三维点云的获取方式主要是依靠LiDAR (激光雷达),结构光深度相机以及双目立体视觉深度相机等,这意味着想要获取点云需要特殊设备支持。另外,对于采集的环境也有较高要求,搭建采集棚工期长,需要耗费大量人力物力财力,操作相对复杂。
2
建模效果不理想、消耗资源高
三维重建存在许多难以攻克的问题——结构不准确、建模空洞、计算复杂度高、资源消耗大等。近年来,通过深度学习的景深估计方法能够取得结果,但是深度学习通常需要收集大量训练数据和人工标注,并且对于精细的物体难以实现重建,整体效果较差。
3
传输数据量大
点云数据量庞大,2M稠密动态点云需要占用3.4Gbps的带宽,对点云数据的存储和传输都提出了很大的挑战。这意味只有具备更高性能的压缩与传输技术,才能够保障三维点云数据在实际带宽下的高效传输。
针对这些情况,腾讯多媒体实验室推出点云系统及相应解决方案,通过点云采集、处理、压缩传输、播放渲染等技术模块实现搭建端到端完整系统链路。
《
腾讯多媒体实验室针对点云建模进行算法自研,实现对空间、通用物体、静态、动态等多种场景建模,提供适配普通商用化设备如深度摄像头、全景相机、单反甚至手机数据采集方案,并进行重建算法性能优化,大大降低整体建模成本,高效构建现实世界物体的3D孪生模型,打造数字意义上的“平行世界”。
不仅如此,腾讯多媒体实验室提出的算法能够实现高效且快速的点云数据压缩,在主观效果有限损失条件下,针对稠密动态点云,相比其他开源软件压缩率提升高达20倍。解码速度可达实时,正在优化编码速度接近实时。
与此同时,腾讯多媒体实验室深度参与国际国内三维点云数据压缩标准的制定,多项技术提案被标准接收。
目前腾讯多媒体·点云已被广泛运用于数字文博、自动驾驶、VR看房、智慧零售、沉浸式展厅、全真视讯、沉浸式课堂、沉浸式导览等领域,而这项技术所属的沉浸式媒体,通过实现物理世界和虚拟世界的融合共生,将会成为改变未来生活和工作方式的颠覆性趋势之一。
未来,腾讯多媒体实验室将持续在点云相关标准制定上,为推动沉浸式媒体技术的发展贡献腾讯智慧。
作者:Xinya 张意晗
编辑:Xinya 张意晗