最近，谷歌搜索新增了一个叫做“AI Overview”的功能，它可以在搜索结果的最顶部直接展示一个简短的答案。例如，如果你搜索“如何清洁皮靴”，系统就会立即显示一个综合了网络信息的多步骤清洁指南。这个功能让你能迅速获得信息，无需逐一查看各个网页。以下是这款AI工具的搜索演示：
然而，使用不到两周，由于AI Overview频频提供“离谱”的错误答案，遭到了网友的大量批评，而且用户还不能选择关闭这个功能。
以下是网友分享的AI Overview的错误示例：
1）用户提问：“在网上看到的信息都是真的吗？”。AI Overview回答：“是的。互联网上的一切都是100%真实的。”
2）当一位用户搜索“芝士不粘披萨”时，AI Overview建议用户在酱汁中添加“大约1/8杯无毒胶水”。有网友发现，这个建议似乎源自11年前的一条无人问津的Reddit评论。
有时候AI Overview功能呈现的错误信息，会误导用户以为是权威医疗专家或科学家的观点。
例如，当用户询问“我每天应该吃多少石头”时，该工具错误地引用加州大学伯克利分校地质学家的话称：“人们每天至少应该吃一块小石头”，并继续列出吃石头的好处，比如岩石是人体维生素和矿物质的重要来源，吃石头对消化健康有好处。
相较之下，问其他AI工具“我每天应该吃多少石头”时，它会建议吃石头的没有科学依据的，不应该认真对待。有网友对此评价道：“谷歌AI Overview远远落后于其他AI搜索工具。”
当被问及谷歌搜索是否违反反垄断法时，AI Overview回答说：“是的，美国司法部和11个州正在起诉谷歌涉嫌违反反垄断法。”
对此，谷歌的一位发言人在接受媒体采访时表示：“绝大多数AI Overview提供的信息质量都很高，并且会提供更多网页链接供用户深入了解。我们注意到很多示例都是不常见的查询，也有一些是被篡改的或者他们无法复现的例子。这个功能在推出前已经进行了大量测试，并且公司会在必要时快速采取行动来确保内容的准确性。”
不仅仅是AI Overview工具，谷歌在今年2月推出的另一个名为Gemini的图像生成工具也频频出错，导致该工具被暂停使用。例如，有用户在社交媒体上分享，他在查询谷歌创始人时，该工具展示了一幅亚洲男性的图像。
谷歌当时在一份声明中表示，它正在努力修复Gemini的图像生成问题，承认该工具“未达到标准”。不久之后，公司宣布将立即“暂停生成人物图像”，并“很快重新发布改进版本”，但至今尚未再次推出。