谷歌研究员：搜索可被重新想象成用户和语言之间的双向对话
- (Pachai) 告诉我如果我去参观这个星球,我将会看到什么?
- 你会看到一个巨大的峡谷,一些冰山,喷泉和一些陨石坑
- 听起来很美
- 我可以向您保证,这值得参观,但您必须带上外套,因为这里很冷
最后更新：2022-06-22 07:32
在2021年Google I/O会议上(Google的年度开发新组件和技术展览),该公司首席执行官桑达尔·皮查伊(Sunder Pichai)透露了他的公司“自然语言理解的新突破”:一个名为LaMDA的聊天bot可以与人们谈论任何话题。
然后他作了一场示威,让我们LaMDA用自然语言回答关于冥王星的问题.这次 交流 证明 了 获取 信息 的 一 种 方便 的 方法 - - 一种 另类 的 搜索 方法 。LaMDA没有在搜索框中输入内容查询后列出结果,相反,他扮演了一个矮星的角色并参与了对话。
但批评家们开始反驳,认为这种做法是错误的。 用自然语言对计算机的提问和回答可能隐藏了不合理的权威的复杂性。
华盛顿大学(University of Washington)的Chirag Shah说:“我们担心我们能做什么,我们不考虑我们应该做什么。
3 月 14 日， Shah和他的华盛顿大学同事Emily M.Emily M. Bender. Bender研究了计算机语言学和自然语言处理中的伦理问题,发表了一篇题为“现状搜索”的论文。它批评他们亲身目睹的渴望使用自然语言模型来处理自己的不恰当的任务的现象。
他们 特别 关切 使用 语言 模型 进行 搜索 可能 导致 更多 的 错误 信息 和 极化 的 辩论 。
在《星际旅行》的幻想中,你有一个你根本不知道的电脑。你可以问问题，它会给你答案,但实际上不是我们提供的。也不是我们需要的，”本德尔(Bender)说该危险的论文强调了大规模语言模型,最终迫使蒂姆尼特·盖布鲁离开谷歌。
她说:“我认为这种观点有问题,”她说:“说我们获取信息的方式是请专家直接向我们提供信息是幼稚的。”
谷歌已经使用语言模型来改进现有的搜索技术,帮助它更好地解释用户查询。 但有些人认为语言模型可以完全改变搜索的方式,LaMDA只是一个例子。
去年,谷歌研究人员唐·梅兹勒(Don Metzler)和他的同事建议,搜索可以被重新想象为用户和语言模型之间的双向对话,以及计算机可以像人类专家那样回答问题。
谷歌还开发了一种叫做多任务统一模型(MUM)的技术,它基于一种语言模型,旨在通过从不同来源收集信息来响应用户查询。
谷歌搜索团队的通讯经理简·帕克(Jane Park)说:“我们为促进语言理解投入了大量资金,因为这使得谷歌搜索等产品对人们更有用。”
但她说,谷歌没有计划将这项新研究转化为产品:“我们同意语言理解方面存在一些开放的挑战,这就是为什么我们一般采取非常谨慎的态度。
盲目的模仿
大规模的人工智能模型可以模仿自然语言,表现出非凡的现实主义。 它们已经收到了数以百计的书籍,大部分的互联网内容培训,吸收了大量的信息,这塑造了其思维方式。
为什么不使用它们作为一种综合来自多个来源的响应并把信息包入容易理解的句子搜索引擎?
问题在于语言模型只是盲目的模仿,它们能够准确地预测句子或对话中出现的最可能的单词或短语。
但是,尽管皮卡伊口头声称他的人工智能“理解”许多话题,但语言模型实际上没有意识到他们正在谈论什么,也无法解释他们所说的话。
这是很重要的,因为对话人工知能可以改变我们与机器的沟通方式。 班德说,通过输入一个搜索查询并得到答复来与计算机进行交互,但语言模型不同。
但如果我与机器说话,这个隐喻就是机器能够理解我所说的话。
Shaa说:“我们已经发现,用户不信任搜索结果,自然语言的交互也使这一点更加明显。
人工知能用于合成和包装搜索查询的响应是一项趋势的一部分,它始于使用所谓的直接答案或断片 — — 显示单个答案或显示相关文档链接。
理论上,这些信息是你能一瞥见的,这样可以避免你自己阅读更长的文件的麻烦。
Bender并不反对在所有情况下使用语言模型进行问答交换。 她的厨房里有一个Google助理,她用它来转换计算单元。
“有时候从声音中获取信息非常方便,”她说。
但Shaa和Bund还给出了一个更令人不安的例子,去年,Google对“印度最丑陋的语言是什么?”的提问作出了回应,在加纳达语中,加纳达语是印度南部400人使用的语言。
没有简单的答案
这里有一个难题。直接回答可能很方便,但它们也往往是错误的和不相关的,甚至令人反感。德国Weimar的Bauhaus大学的BennoStein说:“它们可以隐藏现实世界的复杂性。
2020 年，斯坦和莱比锡大学的同事马丁·波塔斯特,德国马丁·路德大学的马蒂亚斯·哈根(Matthias Hagen)发表了一篇论文,《直接答案的困境》。强调了直接回答的问题。马蒂亚斯说:“大多数问题的答案取决于情况“很难让搜寻者同意。”
斯坦和他的同事认为,搜索技术从提供与搜索查询相匹配的文件清单来组织和筛选信息转变为单一的回答,他们认为这一步骤太远了。
同样,问题并不局限于现有的技术,即使有了完美的技术,我们也不会得到完美的答案。 斯坦说:“我们不知道什么是好的答案,因为世界是复杂的,但当我们看到这些直接的答案时,我们不再这么认为。”
沙尔同意,向人们提供一个单一的答案可能是一个问题,因为信息的来源和它们之间的任何差异都是隐藏的,他说:“这真的取决于我们是否完全信任这些系统。
沙亚和本德提出了一些解决他们所期望的问题。 一般说来,搜索技术应该支持人们使用搜索引擎的各种方式,其中许多方式没有提供直接的答案。
萨亚说,人们经常使用搜索函数来探索他们甚至可能没有特定的问题的问题。
重要的是识别信息的来源,特别是当人工智能从多个来源获取信息时,一些语音助手已经这样做了,例如,在回答时说,"这是我在维基百科上找到的。
未来搜索引擎也应该能够说,“这是一个愚蠢的问题”,这将有助于技术避免在查询中重复冒犯或偏见的论点。
斯坦建议,基于人工智能的搜索引擎可以为答案提供理由,给不同的观点提供优势和缺点。
然而,这些建议中的许多只是突出了斯坦和他的同事发现的问题:任何减少方便的事物对大多数用户来说都不太吸引。
谷歌表示,它意识到这些研究人员所面临的许多问题,并致力于开发人们认为有用的技术。 但谷歌是一个数十亿美元的服务开发者,最终,它将建立吸引大多数人使用的工具。
斯坦希望这不会完全取决于方便。 “搜索对我们和我们的社会来说非常重要。”
-End-
支持：
原文：
https://www.technologyreview.com/2022/03/29/1048439/chatbots-replace-search-engine-terrible-idea/
本文由 在线网速测试 整理编辑，转载请注明出处。
