专访地平线联合创始人 & 副总裁黄畅:AI 芯片的开发周期要能「踩上点」
雷锋网 AI 科技评论按: 作为国内 AI 芯片界的有力选手,地平线一直处在计算革新的最前沿。 4 月份发布 AI on Horizon 战略后,顶着 30 亿美金估值的地平线明显加快了发展步伐。地平线在这过程中对于 AI 芯片研发形成哪些独特的思考?未来又会有哪些计划?我们带着这些问题采访了地平线联合创始人、算法副总裁兼研究院院长黄畅。
雷锋网 AI 科技评论:地平线在底层技术层面上的投入有多大?
黄畅: 具体要看如何定义底层技术,大家的理解也许是不一样的。从做芯片的角度来看, 除了与硬件相关的设计、验证等工作,还包含许多与软件相关的内容,比如原型验证、系统软件、训练工具、编译器、等。类似英伟达这种实力较强的芯片公司,软件工程师比硬件工程师还要多。换句话说,芯片公司的底层技术包含了硬件和软件。如果将芯片及相关底层软件统称为「底层技术」,那么地平线在这块的投入规模大概是四、五百人左右,是相当大的一个规模,说明地平线有着远超许多人对硬件的认知和决心去做这件事情。
雷锋网 AI 科技评论:说明软件研发占更重要的地位?
黄畅: 还有与芯片密切相关的算法研发,由于我们的平台最终是要为人工智能算法及其应用服务的,因此在设计过程中必须充分体现算法的影响力,所以我们的很多算法工程师都会深度参与到芯片底层技术的开发工作中来。整体来看,公司软件研发人员的增速会变得越来越快,因为整个行业目前的趋势是「软件定义硬件」或者说「软件引导硬件」,软件层面需要做的工作比硬件多得多。
雷锋网 AI 科技评论:这能不能理解为做 AI 芯片的门槛?谁在软件这块的进展越快,越有可能成为行业主导。
黄畅: 芯片底层软件一方面在定义芯片,另一方面在连接开发者、使用者与芯片底层硬件。如果要谈决定性因素,我认为不能简单地说软件就比硬件重要,因为两者扮演的角色不同。但要是从发展趋势与规模来看,过去的所有历史经验都表明,一颗强大的芯片,尤其是具有可开发性、可重用性的平台级芯片,在软件上的投入都是远超硬件的。
雷锋网 AI 科技评论:地平线在这方面做了哪些努力?
黄畅: 产出成果还是比较多的,基础的比如系统软件 BSP、HAL 硬件抽象层、系统标准服务等;另外还有针对算法芯片的工具链,包括编译器、训练工具等,都能帮助芯片使用者有效地提升算法和应用上的开发效率。
此外,地平线还有成员专门做算法探索创新,目的是为了更好地把握未来发展趋势,将之与芯片架构的设计充分融合到一起,从而使地平线的人工智能芯片拥有超前的视野。地平线为何着重做这一块?原因很简单,芯片的开发周期长,从立项到量产起码要 2 到 3 年,如果对于芯片用于什么场景、跑什么算法、什么应用都缺乏预判,那么最终产出的芯片只能满足两三年前的需求。
雷锋网 AI 科技评论:除了在自动驾驶领域加注筹码,地平线还关注哪些领域的发展?
黄畅: 地平线之所以更多在谈自动驾驶,是因为从传播的角度而言,它是当下人们较关注的一个前沿概念。然而地平线从成立初期开始就不是将自动驾驶当做唯一聚焦领域,比如我们在近期的上海车展就发布 AI on Horizon 的战略,我们的目标其实是成为一个 AI 平台公司。地平线对外宣传讲得最多的三个场景,一个是自动驾驶;一个是智慧城市;一个是智慧商业,后两者我们现在统称为 AIoT。这三个应用场景是地平线过去两年多一直在密切关注的。
雷锋网 AI 科技评论:您认为地平线的芯片最大优势是什么?
黄畅: 我们会面对未来重要场景的关键算法,与处理器的架构设计和芯片的 SOC 实现充分结合到一起,再经过妥协与优化,得到最佳的平衡。微观的如 BPU 的微架构,宏观的如 SOC 架构,都体现了我们对于算法应用系统和单个算法模块内部计算机制的深入理解。我了解过很多其他的处理器架构,似乎更多是从某一方面出发考虑,而我们的视角会更加综合和超前。
雷锋网 AI 科技评论:地平线的优势可以简化成哪几个评价指标?
黄畅: 一个是性价比,这几乎是所有产品最重要的考核指标,没有之一;一个是功耗,不同场景对于功耗的要求是不一样的,比如嵌入式设备对功耗的要求就非常高,而自动驾驶这种边缘计算场景就可以接受功耗高一些的方案;还有一个是稳定性,这三者是比较传统的评价指标。
另外还有与算法相关的内容,比如算力。前些年算力被曲解得很厉害,大家觉得只要用频率乘以芯片上的乘法器个数,得到一个理论的计算峰值,就是算力。然而真正懂处理器的人都知道,还有一个很重要的概念叫器件利用率。芯片里那么多运算器件和存储器件,是否能以接近百分百的利用率被充分利用起来呢?由于算法是各式各样的,我们无法只针对一种算法找到最优架构,这也是地平线投入大量算法工程师提升对于未来算法发展趋势预判性的一个重要原因。唯有这样,才能使我们的芯片开发周期「踩上点」。过去很多传统的芯片从峰值性来看非常高,但实际跑先进的算法时,器件利用率是很低的,给人的感觉是大马拉小车。这都是因为芯片架构设计上的缺陷所导致的。
另外一个经常被很多人忽视的维度是易用性。这个关系到开发者们的使用成本,比如好不好理解、好不好使用、开发周期有多长等等。简单来说,易用性体现在产品的开发门槛是不是足够低,能不能使大多数平均水平的开发者得以快速上手。
这些是我认为评价芯片五个比较重要的指标,前三个偏传统,后两个则强调算法最终产生的效率。如果你整体上认真去思考,就会发现这一切都可以归结于效率,也就是以多少投入去产生多少价值。
雷锋网 AI 科技评论:地平线平时与学界的交流多吗?
黄畅: 相较一些以算法立身的明星创业公司,地平线相对来说更综合。即便如此,我们依然与学界有很多交流,典型的如发论文,比如今年即将召开的 CVPR 我们就有好几篇优质的论文发表,包括创造条件让实习生和工程师们去解决一些具有挑战性的问题。这几年学术界的文章很多都来自工业界,或者是业界与高校合作的模式。这些论文中讨论的问题规模和复杂程度都是很接近实际应用的。这一点和高校的研究风格有着比较鲜明的区别。此外,我们还经常邀请教授做讲座。我们还设有研究院——南京人工智能高等研究院和硅谷研究院。尤其是硅谷的通用人工智能研究院,研究的课题都是相当超前的。
整体来说,我们的研发体系还是比较丰富的,也比较灵活,可以快速根据项目的节奏进行调整。
雷锋网 (公众号:雷锋网) AI 科技评论:地平线近期主要关注哪些研究课题?
黄畅: 主要还是视觉和语音方面相关的核心技术,尤其聚焦在从二维走向三维、从图像走向视频,从单模走向多模,从信号走向语义,里头有很多技术值得我们去深入探索。
雷锋网 AI 科技评论
。