谷歌AI Overview上线后遭遇尴尬,社交媒体上出现荒谬建议,公司紧急调整

谷歌AI Overview上线后遭遇尴尬,社交媒体上出现荒谬建议,公司紧急调整谷歌AI Overview上线后遭遇尴尬,社交媒体上出现荒谬建议,公司紧急调整

近日,谷歌的AI Overview功能在社交媒体上遭遇了一系列尴尬事件,该产品在推出后,部分搜索结果给出了诸如“在披萨上涂胶水”或“吃石头”等荒谬建议,这些回答迅速在社交网络上传播开来。面对这一局面,谷歌不得不手动禁用特定搜索的AI Overviews。

谷歌发言人梅根・法恩斯沃思在一份邮件中表示,尽管大部分出问题的案例来自较为罕见的查询,但其中一些例子存在被篡改或无法重现的情况。

谷歌的AI Overview功能是在经过一年多的测试后,于2023年5月作为搜索生成体验的测试版推出的。首席执行官桑达尔・皮查伊曾表示,在测试期间,谷歌已经处理了超过10亿次查询,并成功将AI回答的成本降低了80%,这主要得益于硬件、工程和技术方面的突破。然而,显然这种技术优化可能过于超前,导致了实际应用中的尴尬局面。

人工智能专家加里・马库斯指出,许多AI公司都在向公众“兜售梦想”,即这项技术可以轻易地从80%的准确率提升至100%。但他强调,实现最初的80%准确率相对容易,因为它主要依赖于大量的人类数据模拟,但剩下的20%提升则极具挑战性。这最后的20%可能涉及推理、判断回答的合理性和来源的可信度,这需要AI具备接近人类的智能。

马库斯和Meta的AI主管Yann LeCun都表示,当前的大型语言模型,如谷歌的Gemini和OpenAI的GPT-4,都不太可能创造出人工通用智能。谷歌原本对AI Overview有着宏伟的规划,希望它能够实现多步骤推理、生成AI组织的结果页面、以及Google Lens中的视频搜索等高级功能。但现在,谷歌的首要任务是确保基础功能的准确性和可靠性。

马库斯进一步指出:“这些模型本质上无法对自己的工作进行合理性检查,这正是该行业目前面临的挑战。”谷歌正面临着来自多方面的竞争压力,Bing在人工智能领域已经领先,OpenAI也在开发自己的搜索引擎,而一家新兴的AI搜索初创公司估值已达10亿美元。更年轻的用户则转向TikTok等社交平台寻求更优质的体验。在这样的背景下,谷歌匆忙推出AI Overview无疑增加了其市场压力。

类似的情况也曾在Meta身上发生过。去年,Meta发布了一个名为Galactica的人工智能系统,但很快就因为给出了错误的建议(如建议人们吃玻璃)而被下架。这一事件与谷歌当前的困境有着惊人的相似之处。

谷歌现在需要尽快解决这一尴尬局面,他们希望AI Overview能够继续拓展功能,但当前最重要的是确保基本功能的准确性和可靠性。

ai工具箱
ai导航
免费aigc导航
aigc工具
免费ai工具

相关新闻

联系我们

联系我们

微信747975991

在线咨询:点击这里给我发消息

邮件:1500158347@qq.com

工作时间:周一至周六,8:30-20:30,可以随时留言

扫码加微信
扫码加微信
返回顶部