超级干货丨360AI搜索如何准确识别用户意图?
导语: AI大模型技术正重塑千行百业,聚焦 营销 的具体场景,AI如何赋能,又有哪些效果?10月17日,360智慧 商业 直播轻分享栏目《超级营响力》举办了《超级干货:AI营销场景落地实战分享》直播,邀请了360集团副总裁、AI应用负责人梁志辉,以《召集国内最强大模型,打造AI超级应用》为题,围绕搜索这一营销高频场景进行了分享。
以下是干货内容:
AI大模型要想充分落地关键要找到明星场景,搜索就是其中之一。今年以来,我们发现不管是OpenAI还是国内的同行都在做AI搜索产品,年初我们也上线了360AI搜索,目前已经成为国内流量最大的AI应用。这个产品的一大特点是“我搜你看,你问我答”,这和以往的搜索产品有很大区别,为此,我们的研发主要围绕以下三方面进行:
1、挑战“不可能三角”,让AI搜索又快、又聪明、成本低
做这个产品的时候我们发现,用户对于AI搜索的需求主要有三点: 速度快、真智能、成本低 ,希望AI搜索能一秒给出答案,同时知识储备丰富,有足够的深度和广度,成本还要越低越好。
但这是一个“不可能三角”,即便得益于算法和硬件上的提升,今年大模型的反应速度提升了,推理成本也降下来了,但仍然没办法在速度、智能、成本三者上达到很好的平衡。
所以我们尝试用开放的思路解题,独创了一种 专家协作模型技术架构CoE ,召集了几乎行业内最强的15家AI大模型品牌,再加上360自研的大模型“360智脑”,共16家品牌的100多个模型作为智能底座,打造了国内最强大模型来支撑AI搜索的能力。
它能够把一个问题拆解,智能调度多个模型和搜索引擎相互配合工作。面对简单问题,可以让小参数模型快速回答,速度快、成本低;面对复杂问题,可以让大参数模型回答,很智能。这样一来,它的性价比就很高了。
2、 构建AI慢思考能力,会思考才能有好答案
大模型的工作原理跟人的思考方式类似,对于1+1等于几这样的简单问题经过快思考就能回答,但对于“2023 年中国的钢产量可以生产多少根孙悟空的金箍棒”这样的复杂问题,就要分成多次搜索,确认结果和逻辑后再生成,这种是慢思考。
但有了这样的能力,大模型就像一个很聪明的人一样,会深度思考你说过的话,再逐步帮你去解答这些问题,得到的答案准确性会远远高于通过快思考方式得到的答案。
今年7月底360AI搜索上线了慢思考能力,通过提升大模型的深度思考能力,让模糊问题和复杂问题迎刃而解。
过去的搜索、聊天机器人产品对用户的要求很高,你如果不会提出问题,就得不到答案,现在AI搜索有了慢思考能力,大模型会像一个很聪明的人一样,深度思考你说过的话,通过自主反思、自主纠错、多方法和调用多模型,输出更全面、更优质、更精准的答案。
3、 赋能广告营销,让AI撬动生意新入口
在360AI搜索开发过程中,我们发现AI也可以来做关键词和用户意图匹配的角色,对营销广告进行优化,把硬广变成软广植入到搜索的问题和答案里。用户即便提问一个含糊不清的问题,AI也能深入猜测用户意图来生成对应答案,过程中可以植入对应产品卖点,以更原生的广告形式延伸品牌内容。
这可以让我们更容易把一些过去很难做商业化的关键词转化为用户的潜在意图,从而匹配上对应的广告,而且它的相关性更好。让搜索广告真正实现从购买“关键词”到购买“用户意图”的转变。
比如用户想搜索旅游攻略,这背后可以转化成景点的搜索、交通的搜索、酒店的预定等多个搜索内容,AI可以在每一个搜索里匹配相应的广告物料,判断哪个东西跟这一次旅行计划相关,搜索结果千人千面,与用户的相关性会更高,用户体验会更好。
针对梁志辉的分享,360商业化市场部总经理、《超级营响力》栏目主理人李佼进行了追问:
1、360AI搜索和行业其他AI搜索产品相比,有什么不同?
梁: 今天在做AI搜索的时候我们会倡导一种新的产品概念,就是AI原生搜索。如果把AI搜索比作人类大脑,以前的AI搜索通过调用第三方API加大模型能力缝合而成,可以理解为将左脑和右脑分别接入了不同的供应商,所以两个大脑很难协同作业,会出现很多错误。
而AI原生搜索基于AI所需的方式重组了搜索引擎库,将其从知识库到搜索匹配再到内容生成的方式、多步推理能力进行了全面提升。以360AI搜索为例,我们把过去积累很多年的搜索结构重构成了AI最容易理解和最容易召回的形式,过程中花费了大量技术成本和运营成本对抓取的数据进行了清洗,让大模型能深度理解每一个数据来源背后的知识,所以才有了今天大家调出AI搜索的效果,这种形式也更受用户欢迎。
2、 那一名小白用户如何知道一个AI搜索产品是传统缝合式的AI搜索还是AI原生搜索?
梁: 可以问一些模糊性的问题,比如:山河四省哪个省会城市的人口最多?这需要搜索引擎能分辨山河四省分别指代哪四个省,以及它们各自的省会城市是什么,再去搜索对应城市的人口。这不是一次简单的搜索,必须要有强大的多步推理能力、反思规划能力和调用工具的能力做支撑才能实现。
而在传统的搜索引擎上直接搜山河四省的省会城市,可能搜不到明确结果,因为往常可能并没有人输入过答案。这也正是今天AI技术的强大之处,它收到一个指令后可以调动不同的搜索引擎或大模型来工作。
360AI搜索接入了16个大模型,相当于我们邀请了16个博士帮用户答题,有的比较擅长化学物理,有的比较擅长历史。当用户问出一个问题之后,AI搜索会调用不同的模型和搜索引擎解答用户各种含糊不清、没办法准确表达的问题。
3、 现在行业都在提“ALL in AI”,如何评估一个企业或员工的“含AI量”,看他们未来的组织竞争力?
梁: 今天我们已经在一些特殊的工种上开始统计含AI量,比如程序员和市场营销人员,主要看几方面:一是有没有让AI参与到传统工作流的各个环节,因为现在很多for程序员和for营销的AI产品已经很成熟了,他们工作的很多环节比如写文案、写PPT都可以用AI进行脑暴,生成标题、内容、金句等等;二是有没有让AI搜索帮你收集不同的数据,研究和分析各种观点。
这两个维度下评估他们有没有充分使用AI工具,可以看他的付费程度,比如360有一个产品叫“AI大会员”,里面集结了文生图、文生文、搜索等多个AI工具,适用于多个工作场景,每年200块,他只需要买一个大会员就能在自己工作的全流程使用相应的AI工具提效。
技术层面,我们会统计员工的AI token消耗数,看每个人是不是每天能够消耗比如10万、100万的token,消耗的token越多,证明你用AI辅助做的工作内容也越多,工作效率也会越高。