Google Pixel 相机背后的故事:如何做出手机中最好的相机?
一年前,提起拍照好的智能手机,大家可能会首先想到的是 iPhone 和 Galaxy(或许还有遗忘在历史长河中的 Lumia)。
不过从去年年底开始,在这个名单中还得再加上一个名字:Google Pixel。
Google Pixel 的相机到底有多少呢? 在法国著名影像实验室 DxO 旗下的 DxOMark 评分中,Google Pixel 得到了 89 的高分 ,这是智能手机在 DxOMark 中得到的最高分数,并且直到现在也没有手机可以超越。
在 Google Pixel 优秀的成像品质背后,有三个地方值得关注。
第一是它采用的 索尼 IMX378 传感器 ,高达 1/2.3 英寸的尺寸和 1.55 微米的大像素为成像提供了优秀的硬件基础。
第二是 骁龙 821 内置的 ISP 和 DSP ,相比上一代骁龙 810 有了长足的进步。
第三是 HDR+ 功能 ,这也是 Pixel 拍照「魔法」的核心,毕竟用 IMX378 和骁龙 821 的不是只有 Pixel,却没有手机可以拍得 Pixel 一样好。不过有趣的是,HDR+ 这个在手机上大放异彩的功能,最初居然是为 Google Glass 而研发的。
以下内容编译自 The Team at X,原文地址: https://blog.x.company/meet-gcam-the-x-graduate-that-gave-us-a-whole-new-point-of-view-3ee86657d6c9
有些时候,Google X 的团队决定去做一件事件,不过后来发现这些技术的应用场景远超过了他们最初尝试去解决的问题,Gcam 就是一个这样的例子。
Gcam 成立于 2011 年,那时候 Google X 的负责人 Sebastian Thrun 正在寻找可以放在 Google Glass 的相机解决方案。Google Glass 可以让佩戴者无需拿出相机就能以第一视角来拍摄并分享照片,不过为了让消费者愿意来使用这项功能,Google Glass 的拍照能力至少得要达到同时期智能手机相机的水准才行。
由 Google Glass 拍摄
不过受限于 Google Glass 的产品形态,只能为其配备很小的传感器(具体和智能手机差不多)和镜头模组,这让 Google Glass 的相机在弱光或者明暗反差较大的场景时的成像质量很差。
一个早期的 Google Glass 原型机
由于 Google Glass 必须得做得足够轻并且方便佩戴,设计师无法简单通过配备一个更大、品质更好地相机模组来解决这个问题。面对这个「鱼和熊掌」的问题,Google X 团队开始尝试用另外一种思路来解决问题:与其尝试用更先进的硬件来解决问题,我们能不能用更加智能的软件处理来解决它?
Marc Levoy是斯坦福大学的一名教职员工,同时也是一位计算摄影领域(基于软件的图像捕捉和处理技术)的专家。
2011 年,Marc 在 Google X 中组建了后来被称作 Gcam 的团队,这个团队的任务是在移动设备上通过计算摄影技术来提高成像质量。在 Gcam 试图提高 Google Glass 成像品质的过程中, 他们采用了一种叫做图像融合的方法,这种方法的原理是使用相机连续快速拍摄多张照片,然后合成为一张品质更好地照片,从而让相机可以在弱光下拍出拥有足够多细节、在明暗反差较大的场景拍出更加清晰的照片。
这种图像融合技术于 2013 年首次在 Google Glass 上亮相,不过,很明显这项技术的应用场景将远远不止 Google Glass。
越来越多的消费者选择使用智能手机来取代传统的相机,消费者希望他们手上的智能手机在任何场景和光线下都能拍出优秀的照片。在这个背景下,Gcam 的下一代图像融合技术不再局限于 Google Glass,而是直接内置在了 2013 年 10 月发布的 Nexus 5 和后一年的 Nexus 6 的相机 app 中,这就是大家熟悉的 HDR+。
(编者注:HDR+ 的原理是通过连续拍摄多张 RAW 文件,通过多张合成的方式来获得一张品质更好的 JPEG 文件,这和其他手机的 HDR 功能有所不同,后者的原理通过拍摄三张左右曝光不同的照片来合成一张宽容度更好的 JPEG 文件,HDR 的重点在于合成用的照片曝光是不一样的,应用场景也主要局限在明暗反差较大的场景。)
Marc Levoy 使用 Google Pixel 拍摄
现在,Gcam 的技术已经被应用在 Alphabet 旗下的一系列的 app 和产品中。 2015 年,Gcam 从 Google X 正式毕业,随后加入到 Google Research 中,现在 Gcam 正在参与一系列技术的研发,包括 Android、YouTube、Google Photos 和 360 度 VR 相机 Jump。此外,Gcam 团队的部分成员还参与到了 Google 相机 app 的 Lens Blur 功能(可以理解为 Google 的「先拍照后对焦」功能)以及 Jump 拍摄的 360 度 VR 视频的拼接处理中。
Marc Levoy 使用 Google Pixel 拍摄
在 Google 新推出的 Pixel 手机中,Gcam 开发的 HDR+ 功能被设为了相机的默认模式。
有了这项技术的加持,Pixel 的相机获得了无数的赞誉,有相机评分行业标准之称的 DxOMark 在 2016 年将 Google Pixel 评为「智能手机上有史以来最好的相机」。回顾这段历程,Marc 说:「我们花了 5 年时间才把事情做对……我们非常感谢 Google X 让我们的团队可以不拘泥于眼前的利益,并且给予我们充足的自由,从而做成了这些。」
(编者注:HDR+ 对数据处理能力的要求很高,在 Nexus 5、Nexus 6、Nexus 5X 和 6P 这三代产品上,HDR+ 都只是一个专门的拍照模式,不过在 Pixel 上,随着骁龙 821 内置的 ISP 和 DSP 性能的大幅跃进,相机 app 的 HDR+ 默认就处于「自动启用」的状态。在 DxoMark 的测试中, 打开 HDR+ 后每 3 秒拍一张照片,上一代产品 Nexus 6P 拍到第 4 张相机 app 就会自动关掉 HDR+ 功能,而 Pixel 可以一直拍下去。打开 HDR+ 后每 1 秒拍一张照片,Nexus 6P 的 HDR+ 已经无法启用了,Pixel 也可以连续以 HDR+ 模式拍上 9 张,然后 HDR+ 功能才会被关掉。)
Gcam 的下一步是什么呢?Marc 对 Gcam 的未来感到非常兴奋。
「机器学习是我们正在推动的一个方向」,Marc 解释说,「在现有的基础上,我们依然可以相机上做出很多有创意的东西,比如创造一个训练体系来让照片获得更好的白平衡效果,再比如说对照片背景的处理,我们是应该把它变得模糊,还是把颜色调深或者做其它特别的处理。我们在机器学习领域处于领先的地位,将现实世界和计算摄影世界创造性地融合是一个非常大的机会。」