旷视正式宣布开源深度学习框架天元 降低AI开发门槛
网易科技讯3月25日下午,旷视科技举办线上发布会,宣布开源新一代AI生产力平台Brain++的核心深度学习框架旷视天元(MegEngine)。
据了解,天元的前身是旷视内部自用的算法训练推理引擎MegEngine,由旷视3名实习生在2013年启动研发,并与2014年正式完成上线。这款自研的深度学习框架支撑了旷视6年以来在国际AI竞赛的表现,以及公司产品和业务的落地,目前服务于旷视研究院1400余名AI开发者。
发布会上,旷视联合创始人兼CTO唐文斌正式宣布将MegEngine的代码开源,并指出这是一套训练推理一体化、动静态合一的工业级深度学习框架,中文名字叫做天元。
据介绍,在传统深度学习研发中,产品从原型到生产部署往往需要分开设计和调用训练框架和推理框架两种框架,这就导致模型在训练和推理的转换的过程中出现不明原因的性能或精度损失,需要开发者手工进行优化,而算法在计算平台部署的时候出现各种问题也无法追溯。
天元框架避免了这样的问题,通过训练、推理一体化的机制省去模型转换的过程,可直接将训练后的模型进行推理,并保证跨设备的模型精度对齐,同时天元内置自动模型优化、简化流程,减少因手工操作的机会,降低出错概率。
除此之外,天元配置了 Python 和 C++ 接口,支持动态图、静态图一键转换和混合编程,可使用高级编程语言进行图优化和图编译。在运行时管理环节,天元具备执行流与调度器,采用动态、静态内存分配并存的方式,并通过自动的亚线性内存管理优化器可以得到更好的内存优化效果;在底层设计上,天元的计算内核兼容主流计算设备,且支持多机多卡和分布式训练。而为了解决模型复现困难的问题,天元则支持 PyTorch Module 导入,可针对计算机视觉任务进行优化。
目前,旷视已在中国新一代人工智能开源开放平台OpenI启智社区和开源社区 GitHub 上同步发布了天元 Alpha 版源代码,开发者也可以通过天元官方网站的在线深度学习工具免费调用算力、获取最新数据集和训练脚本,进行简单训练和试用。
与此同时,旷视为天元的开发者准备了算法预训练模型ModelHub,支持开发者开箱即用。据悉,对于天元框架开源后的发展规划,旷视透露将在技术贡献者的帮助下,于6月份推出 Beta 版本。(定西)