最近光场相机范畴静态频频,在前几天 谷歌发布多个光场视频 后,国际一家公司也拿出了他们的光流相机和支持6DoF的光场视频。
这家公司是杭州西顾视频科技无限公司(FXG-Video),成立于2017年5月,从事深度沉溺式内容与技术研发制造,有软硬件技术和处理方案,提供产品拍摄到内容前期制造与播放一体化流程效劳。目前其已有3D VR和2D VR摄影机产品。
为理解其支持6DoF的3DVR摄影机,雷锋网特意与其CTO李文松停止了深化访谈。
上图这台设备是其产品ET-2 3DVR摄影机,被称为"光流VR摄影机"。据引见,这个相机的功用有:
· 支持超近间隔(≤30CM)拍摄和完满拼接
· 可以捕捉360度视频深度信息并提供六自在度(6DoF)追踪才能
· 八目距离式摄像头阵列,单目 240度千万级像素镜头
· 光流技术,可以在重播时完成,改动地位、景深、子弹工夫等特效
· 16K 3DVR电影级画质
· 全电子同步,一键开关机,一键拍摄
· 实时监看(VIVE/CV1)和直播
· 无线遥控
这个相机是一个圆柱型,下面是镜头,上面是主机。
由于现场条件不允许,雷锋网编辑没有直接体验到西顾的6DoF视频,从头显内录屏的视频看来,用户可以在其用相机拍摄的视频内挪动,这个挪动的范围有7-10cm。
(西顾6Dof视频体验Demo)
虽然没有体验到6DoF视频,但是雷锋网 (大众号:雷锋网) 编辑体验了西顾高清3DVR视频。在数十个3DVR视频中,雷锋网体验了其中的大局部内容:近程生日宴会、舞者、China Joy现场等。从体验来看,这些视频很明晰,颜色饱和,3D效果好,沉溺感不错。据称,西顾采用了本人研发播放器以及八面体投影格式来进步分辨率。
超近间隔拍摄,延长平安间隔
令人印象深入的是这些视频里,体验者与内容之间的间隔可以靠的很近,不会发作内容的畸变和拼接错误,也就是他们强调的超近间隔拍摄效果(≤30CM)。在近程生日宴会这个视频中,雷锋网编辑体验到了这种拍摄间隔带来的益处。
在戴上头显后,我呈现在了美国的一个住宅中,环顾周围,有食物还有交谈的人群,这显然是一个小型公家派对现场。然后一个男人拿着鸡尾酒向我走近,对我说生日高兴,然后他旁边的人也开端靠过去,他逐个引见这些人给我看法,这些人也众说纷纭对我说着生日祝愿。我脑子里晓得这是虚拟场景,但是可以逼真地感遭到现场气氛。我低下头,能看到桌子上的事物,每团体在我身边摩肩接踵。这些人最近的时分离我似乎只要一步路的间隔,也就是平常密切冤家交流时最短的间隔,近处只要几十厘米甚至十几厘米。
超近的平安间隔是西顾ET-2 3DVR摄影机的一大特征,从技术完成来说,这有什么价值呢?
我们都晓得,全景相机采用多镜头(大于等于2)采集,再将采集到的画面经过算法停止拼接。而相机镜头之间光学节点不是重合的,这个间隔被称为相机“节点间隔”,间隔越大,拍摄到的画面越容易发生畸变和拼接错误:远处物领会呈现"重影"、近处的画面会发生缺失。
2D全景相机的节点成绩处理比拟复杂,就是让镜头构造尽量紧凑,比方理光的双目折返式棱镜专利,李文松在几年前也研发了交织式背靠背镜头,用来处理2D相机间隔的成绩。
八目距离式摄像头阵列,光流插值算法
但3DVR和6DoF相机的节点成绩比2D要复杂许多,目前市面上的全景相机、光学相机都采用了不同的相机阵列。有Lytro Immerge这样像一堵墙的超大相机阵列方案、也有像谷歌展现的放在旋转台上的16个相机阵列。不同的相机阵列会发生一模一样的拍摄效果。
(Lytro Immerge)
李文松引见到,要了解西顾的八目距离式摄像头阵列,需求了解一个概念,他称之为: 视节比 。也就是相机的平面视差间隔和镜头节点间隔的比例。由于全景相机是要模仿人的双眼成像,所以都会采用多个相机的形式,两个相机的间隔被称为视点差。人的双眼是有瞳距的,视点差的最好间隔是6-8cm,不能过小也不能过大。 全体来说,相机的视差要接近人眼瞳距,同时镜头节点间隔要尽能够小。
(西顾ET-2 3DVR摄影机)
他谈到几代3D VR相机在"视节比"上的开展,"第一代的3DVR相机把多组发生双目视差的左右镜头成对放置,然后将左右镜头各自拼接起来,这个时分相机的节点间隔很大,且一定大于视差,所以视节比小于1。第二代的3D全景相机的一个镜头可以同时当作左右眼,然后再将不同相机的左右眼区域拼接起来,这时视点和节点是一样大的,例如谷歌JUMP、FB的Surround 360。李文松将西顾的光流VR相机采用的办法称之为第三代,他采用了距离式的镜头拼接办法,可以选取距离1-3个相机拍摄出的图像停止拼接,这样相机之间的节距可以十分紧凑,视差间隔变大很多。视节比远远大于1,目前市面上仅有三星的Beyond相机视节比大于1约为1.2,而这台ET-2相机的视节比为 2.4。"
采用八个相机阵列和距离式拼接法后,李文松解释到,他可以拼接出4-5个完好的全景画面,每个画面分辨率都达8K,而目前其他3DVR相机只能拼接出2个完好的全景画面,也就是说光流相机取得了更多的信息。为理解释这种距离式拼接算法,李文松向雷锋网编辑演示了一个图形化小工具,在输出相机数量、镜头度数后可以计算出能失掉多少个全景画面。
除此之外,拍摄进程中还用到了光流算法。李文松解释到,在相机拍摄之后,基于上述4-5个完好物理全景视图,可以用软件虚拟插值出上百个镜头视角(依赖计算速度),复原空间内全部光线 。他们然后采用专门的MVS和Parallex插值算法取得比普通双目平面算法更为完好准确的多层6DoF深度信息。这样完成的6DoF视频可以完成传统光流相机一切功用(6DoF运动、重新对焦、自定义光圈), 但在存储格式远远小于Lytro和谷歌等那种基于物理多镜头矩阵的数据格式,只比普通3DVR视频添加2倍不到的数据带宽。西顾视频如今曾经基于这种6DoF视频数据格式研收回了公用6DoF视频播放器,并在不远的将来可以完成6DoF VR视频直播。
(西顾VR8视频格式引见)
6DoF视频的机遇与应战
自2015年来,全景视频就是影视技术开展的一个重要趋向,其可以为VR提供沉溺式内容。全景视频的开展阅历了三个阶段:2D全景、3D VR全景、6DoF全景。西顾视频目前次要专注于后两个阶段。
李文松谈到, 2017年多个支持6DoF的VR一体机发布并将在2018年上市,包括HTC Vive Focus、Pico Neo一体机等,而目前,6DoF的视频内容非常缺乏。电脑CG的方式绝对昂贵,视频拍摄的方式可以让6DoF内容消费更快更廉价。目前6DoF视频技术现状,大致有由外向外(Lytro、谷歌、FB的方案)和由内向内(Intel的方案)这两类方案,西顾方案属于前者即由外向外,这种6DoF技术方案部署和拍摄容易,将来可以发生普通消费者消费内容(UGC)形式,而有内向内技术的6DoF技术必需搭建公用影棚,只能由专业团队制造(PGC),但挪动自在度和精度更好,尤其合适拍摄人物角色。
当然,6Dof视频刚刚起步,将来也还有很多应战。例如6Dof视频内可挪动范围需求进一步扩展,用像谷歌、西顾这样的从里到外的拍摄办法发生的6Dof视频,目前可挪动范围都无限。假如可挪动范围足够大,视频内的运动不只可以提升沉溺感,还可以在实践拍摄的场景里设计交互,开展为虚拟与真实交融的游戏。
相关文章:
Magic Leap、Lytro声称的“光场”究竟是个什么鬼?
Lytro 地下 Immerge 2.0 光场相机:效率、画质大跃进
蓬勃发展的行业不仅给从业者提供了巨大的发展机遇,也带来了全新的挑战。
详解谷歌最新光场视频,体验VR头显里的光场世界
。