“AI概览”漏洞百出,谷歌的维护方式竟然是手动删除

砍柴网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

“AI概览”漏洞百出,谷歌的维护方式竟然是手动删除

谷歌公司

北京时间5月24日,继谷歌的“AI概览”(AI Overviews)功能被指责给出事实错误和危险的答案后,谷歌公司被曝出试图手动删除这些答案。

谷歌表示,这个概述示例违反了其政策,并将“采取行动”。根据内容政策删除某些查询的 AI 概览,并利用这些案例对系统进行更广泛的改进,于是在这之后,许多用户发现自己在 社交 媒体 发布的有关谷歌AI概览错误回答的内容消失了。

谷歌还表示,其AI Overview产品主要向用户输出“高质量信息”。谷歌发言人梅根·法恩斯沃斯在一封电子邮件中说:“我们看到的许多例子都是不常见的查询,我们也看到了被篡改或我们无法复制的例子。”

此前,AI概览功能曾建议用户“在披萨上涂胶水”或是“吃石头”,甚至在关于前总统奥巴马的问题上,AI概览给出了“巴拉克·侯赛因·奥巴马被认为是美国第一位穆斯林总统”这个存在明显事实错误的答案。

“AI概览”漏洞百出,谷歌的维护方式竟然是手动删除

AI概览给出的与事实不符的答案

这样的情况并非首次出现,2022年,Meta发布了一款名为Galactica的人工智能系统,该系统在发布后不久就不得不被撤下,因为该系统在回答中让人去吃玻璃。

谷歌公司曾以先进的 科技 产品得到业界的一致好评,然而最近谷歌的表现却令人感到失望,一位不愿透露姓名的人工智能创始人表示:“一家曾经以走在最前沿、生产高质量产品而闻名的公司,现在却以低质量的产品而闻名,而且还被人发布在网上嘲笑。”

事实上,谷歌目前的的处境很艰难。在谷歌之前,Bing 就大举进军人工智能领域,OpenAI 也在开发自己的搜索引擎,而只想要获得最佳体验的年轻一代用户正在转向 TikTok 。这些都给了谷歌很大的竞争的压力。

【来源: 凤凰网科技】

随意打赏

提交建议
微信扫一扫,分享给好友吧。