蚂蚁数科SOFAStack全新升级 发布大模型服务平台AI Max | 速途网
伴随大模型落地从通用技术进步逐步迈向行业可用,6月28日,蚂蚁数科多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。
该平台兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用,助力企业跑完AI应用业务落地的最后一公里。
蚂蚁数科云原生产品资深总监马振雄介绍,对企业来说,大模型训练耗时耗力耗资源,AI Max不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。
基于SOFAStack多云兼容属性,AI Max具备两层核心特性:
–在资源层,支持多种国产GPU算力平台纳管部署,企业按需灵活使用资源,使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;
–在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过程。
当企业开始构建大模型应用,还需要结合具备行业特性的业务经验。针对金融行业场景,SOFAStack融合金融助理支小助的最佳实践,包含其模型训练、推理能力、智能体研发等方面,可以帮助机构一键生成自身业务特色的智能体应用。目前,SOFAStack已经助力超130家金融机构完成云原生架构转型。
“在大模型时代,SOFAStack可以承担PaaS在多云时代扮演的角色——通过构建AI原生软件服务,成为连接算力与应用的中坚力量。”蚂蚁数科云原生事业部总经理王磊表示。
发布会上,SOFAStack还与谐云科技、行云创新、AutoMQ、联创集团等生态伙伴签约,将共建多云、多模型生态,加速大模型在千行百业落地。
未来,我们还将持续在技术研发、产品创新和生态合作方面不断投入,在大模型时代,为行业提供更智能、更可信、更绿色的云PaaS服务。