据报道，Google的AI概述没有对用户搜索做出快速可靠的响应，而是通过提出伪造信息，误解和更不可能的结果来促进“幻觉”。在去年夏天发布之后，Google功能提供了基于各种来源的查询的主题预览，这已成为激烈批评的目标，原因是多种原因。
根据《伦敦时报》的报道，批评者在Google AI概述上列出了“自信错误”的答案，这是一个新的，也许是最令人不安的人，最近加入了名单。
在用户在Google上进行查询之后，这些AI生成的答案本质上汇总了该主题，依靠一系列来源，包括来自Web Publishers的信息和Google的知识图。 Google的Gemini负责将概要介绍以及一些与来源文章的重要链接。
这些幻觉是什么意思？
专家指的是AI生成的文本，将不存在的事实或错误视为“幻觉”。据报道，据报道，Google AI在努力识别真正的短语的同时幻觉。当被问及什么“您不能舔两次”时，该功能将其归类为一个成语，并将其描述为“警告，如果有人被欺骗，他们不太可能再次跌倒同样的技巧。”
除了发明对胡说八道的意义外，概述甚至还建议有人在比萨中添加无毒胶，以使奶酪更粘。
当时，Google的搜索负责人Liz Reid谈到了Google AI搅动的不准确性，他说：“有些奇怪的，不准确或无助的AI概述肯定确实出现了。尽管这些通常是针对人们通常不这样做的查询，但它突出了一些我们需要改善的特定领域。”
Google AI驱使流量远离实际阅读源文章
但是，专家现在认为，AI概述直接远离实际信息来源。 《泰晤士报》报告坚持认为，Google的AI并导致网络用户的数量下降，而不是将用户的重点引向这些合法来源，而是坚持认为Google的AI实际上会读取这些完整的文章。
尽管Alphabet的首席执行官Sundar Pichai来了Google功能的防守，但技术公司的创始人Laurence O’Toole发现AI概述降低了用户在列出的文章中点击40％和60％的速度。
甚至Google AI也轻描淡写了其幻觉率
据信，记者向Google本身提出了大型问题。在搜索AI功能的幻觉速度时，Google AI搜索预览证明了“低幻觉率”的范围在0.7％至1.3％之间。
在某种程度上，答案是正确的，正如AI应用程序公司跟踪数据的AI应用程序所肯定的那样。据说通过Google的双子座应用程序可用的最新型号的幻觉速度为1.8％。
在另一种情况下，还询问Google AI是否偷了艺术。最终，它回应了纯真，并补充说，人工智能“在传统意义上不会窃取艺术”。至于我们应该害怕AI，该功能强调了与AI相关的担忧，只是将恐惧掩盖可能“夸张”。
另一方面，打开AI的内部测试完全显示了不同的图片。据透露，最近的O3和O4-Mini模型比以前的同行是幻觉的受害者。在与有史以来更糟糕的统计数据中出现的情况下，当问题与真实的人有关并且事实正在阅读时，O3的幻觉率为33％。 O4-Mini以48％的幻觉描绘了一个更糟糕的图片，这意味着它不仅赋予了虚假信息，还赋予了虚构的数据。
