财讯：谷歌搜索：几乎全部的英文搜索都用上BERT了

本篇文章1892字，读完约5分钟

机心报道

机器的心

在前几天举办的“search on”活动中，谷歌宣布bert现在支持谷歌各大搜索引擎上几乎所有的基于英语的查询。 去年，这个比例只有10%。

bert是Google开源自然语言解决的事前训练模式，一上市就刷新了11项nlp任务的sota记录，在glue基准排行榜上登场。

具体来说，对各大搜索引擎来说，bert有助于各大搜索引擎更好地理解网页上的副本，提高搜索展示结果的关联性。 bert模型中的创新体系结构是一大亮点。 transformer不是一个一个地按顺序解析，而是解析与一个句子中的所有其他单词相关联的单词。 由此，bert模型可以利用某个单词前后的词，考虑其位置的完整上下文，有助于理解查询语句背后的意图。

2019年9月，谷歌宣布将bert用于各大搜索引擎，但英语搜索展示的结果只改善了10%。 2019年12月，谷歌将bert在各大搜索引擎中的采用扩展到70多种语言。 现在这家大搜索公司终于宣布大部分英语搜索都可以用于bert了。

bert对各大搜索引擎意味着什么？

作为自然语言解决行业里程碑式的进展，bert为该行业带来了以下创新。

使用无标签副本进行预培训。

双方向上下文模型

transformer体系结构的应用

masked语言建模

观察力的机制

复制含义(下一个预测)

……

这些特征对bert优化各大搜索引擎非常有用，特别是在消除歧义方面。 使用bert，在时间长会话性强的查询和“for」「to”等前置词重要的句子中，谷歌的各大搜索引擎可以理解查询句中的词的语境。 客户可以用更自然的方式搜索。

另外，bert对检索中的取消指示、一词多义、同形异义、命名实体的明确化、正文的含义等任务也有很大的帮助。 在此，意思消除是指，在某个语境或广泛的会话查询中，追踪某个句子或短语指的是谁或什么。 多义词是指同一个词有多个义项，几个义项之间有关联，各大搜索引擎需要解决模糊的细微差异。 同形异义是指形式相同但意思毫米各不相同的词。 命名实体是指从多个命名实体中理解副本及其关联.。 副本包含以下预测。 这些问题构成了各种大型搜索引擎面临的常见问题。

在过去一年里，Google扩大了bert在各搜索引擎中的应用范围，“各搜索引擎营销之父”danny sullivan和g-squared interactive的seo顾问glenn gabe等人在推特上发表了Google

谷歌搜索有十分之一的搜索查询拼写错误。 很快，新的变革将有助于在拼写错误的检测和解决方面取得比过去五年更大的进步。

另一个变化是谷歌搜索可以识别网页中的各个段落，并将其作为与搜索最相关的段落来解决。 预计这将改善7%的谷歌搜索查询。

searchon:Google不仅可以为整个网页，还可以为网页的段落建立索引。 新算法可以忽略页面的其馀部分，扩大回答问题的段落。 从下个月开始。

通过采用人工智能，我们可以更好地检测视频的重要部分，使创作者无需手动标记就可以直接跳转到他们感兴趣的副本。 到今年年底，谷歌搜索的10%将采用这项技术。

谷歌还说，它有助于利用神经网络理解与搜索相关的子主题，并在搜索广泛的副本时提供越来越多的副本。 这项服务将于年底上市。

参考链接:

搜索引擎land/Google-Bert-used-on-almost-every-English-query-342193

搜索引擎land/a-deep-pe-into-Bert-how-Bert-launched-a-rocket-into-natural

blog.Google/Products/search/search-on /

neurips在线共享:知识地图嵌入的自动化

论文:“interstellar:searchingrecurrentarchitectureforknowledgegraphembedding”

本文作者受到nas (神经架构搜索)的启发，提出了interstellar作为解决关系路径中新闻的循环架构。 此外，这项研究中的新混合搜索算法突破了stand-alone和one-shot搜索方法的界限，期待着在其他许多具有复杂搜索空之间的行业中的应用。

11月24日，第四范式的资深研究员姚权铭博士为大家详细解读这一前沿研究。

识别二维码，进入小组一起看直播。

© the end

转载请联系本公众号获得批准

求帖子或文章: content@jiqizhixin喜欢这个复印件的人还喜欢。

原标题:“谷歌搜索:大部分英语搜索都用于bert”

阅读原文。