探索Weotta搜索引擎背后的大数据技术

本地化搜索（简称“本地搜”）是一个重要的网络信息检索工具，提供本地化的生活导航 服务，在国内外都有成熟的产品面市。从本质上来看，本地搜是通用搜索引擎技术的垂直化产品（垂直搜索），提供更加精细化的搜索服务，对信息抽取、分类、数 据规范化等流程提出更高要求。Weotta是一家基于机器学习和搜索技术的科技公司，成立于旧金山，2011年正式提供服务。Weotta称其提供的搜索 为“深度搜索”，虽有跟风“深度学习”之嫌，本文甘愿冒险尝个鲜，探一探它的“深度”。

当我们准备发布Weotta时，我们已经为如何描述它犯了难。我们处理大数据吗？是的。我们使用了机器学习和自然语言处理吗？是的。可以叫它搜索引擎吗？当然。但是，我们想总和要大于部分。

我们最终觉得“深度搜索”是对我们工作最贴切的描述，它是一个超越了基本文本搜索的复杂搜索系统 的简洁描述。无需赘言，不管怎么看，我们都不是这个领域唯一的一家公司；谷歌和很多其他公司都在对深度搜索的各个方面进行研究。但是还没有人创造出一个与 我们的产品十分相像的深度搜索系统。我们的搜索技术可以处理各种标准文本搜索引擎无法理解的日常查询。

基本搜索

文本搜索引擎，如Sphinx或Lucene/Solr，均使用了分面过滤技术（注1）：每篇文 档都有一组“字段”（注2），通常表示成一个XML格式的文件，且各个字段都建立索引。给定一个搜索查询词以及可选的侧面选择参数，系统可以从文档集合迅 速检索到目标文档和字段（建议读者阅读《信息检索导论》了解具体的实现细节）。

在文本索引时，通常可以指定建立索引的字段，每个字段都有各自的权重。比如，如果选择给文档标题字段很大的权重，而赋予文档文本字段的权值较小，则标题中含搜索词的文档，要比只在文本字段包含此搜索词的文档得到更高的分值。

为了检索建立索引的文档，你可以使用类似于SQL检索语句的搜索检索字符串。通常，在搜索语句中存在特殊的语法以控制搜索引擎决定检索哪些文档时的行为。比如，你可以明确哪些单词是必须的，哪些单词是可选的，或单词相距多远。

现在，所有这些对于程序员和技术用户都不成问题，但对于一般消费者，它并不理想。他们甚至不想知道是否存在特殊语法，更别提使用了。谢天谢地，深度搜索检索引擎卓越的检索词解析和自然语言理解能力使特殊语法成为多余。

分面提供了过滤搜索结果的方法。分面搜索可以在字段中寻找一个具体的值，或者更复杂的如确定日 期、时间范围或确定与一个给定点的距离。通常，分面不影响文档的分值，但是会减少返回的文档数目。由于分面搜索通常会启动一个搜索/浏览接口的组合，也称 “分面导航”。一个基本的搜索系统，若提供分面搜索，一般都是通过复选框、下拉列表或相似控件实现。eBay就是一个完美的例子，它提供许多分面以深入挖 掘和过滤搜索结果。相比而言，深度搜索系统将分面搜索移至后台进行。

这些文本搜索引擎很强大，但在深度搜索的背景下，实际上只是一种别样的数据库。文本搜索与深度搜 索均使用索引优化检索过程。文本搜索使用特殊的格式化查询字串与分面说明检索数据，而非使用SQL执行检索。虽说SQL数据库经过优化可以存储基于列或基 于行的数据，但是文本搜索引擎经过优化，可以使用倒排索引（注3）存储普通文本数据。不管哪一种方法，从开发人员的角度来看，均属于底层数据存储方法，都 有最适合的使用场景。

高级搜索

虽然高级搜索系统在最底层使用一个文本搜索引擎，但是会集成一些额外的排名信号。一个突出的例子 就是谷歌的PageRank算法，它组合了文本搜索、关键词相关性、网站权威度及许多其它便于对搜索结果排序的信号。基本的文本搜索引擎仅使用单个文档的 信息和文档集合的统计信息，高级搜索系统还考虑譬如信用、流行度和链接强度等外部信号。比如亚马逊允许用户按照平均评分或流行度对结果排序。但是这还算不 上深度搜索，因为它只是在控制搜索结果的排序方面更强一些，对数据或检索语句还没有更深的了解。

深度搜索

我相信深度搜索满足如下四个基本要求：

• 简单的搜索输入。它意味着深度搜索具有对检索语句的自然语言理解（NLU）能力，使得系统底层能够明白应该调用哪项侧面选择。
• 多类目搜索。如果用户只搜索一样东西，搜索系统相对比较简单。但是如果搜索中包含多个变量，用户也没有给出明确的侧面选择，就需要深度搜索根据NLU技术确定用户在搜索什么，以及如何搜索到它。深度搜索还要能够高效地、自动地将多个数据集融合到一个系统。
• 特征工程以实现深度数据理解。与流行观点不同，只有大数据还不够。你拥有海量数据并不定说你就掌握了能够洞察数据的方法。我们可以拿冰山打个很好的比方：用户看到的只是冰山一角，而冰山的大部分却藏在水面下。这里数据是冰山，特征工程则是解决如何让水下冰山现形，展示给用户，使其看到最佳搜索结果。
• 情景理解。你对用户了解的越多，则你就掌握了更多调整搜索结果的知识。情景理解就意味着要知道用户的地理位置，他们过去的搜索历史，或者他们显性的偏好信息。情景是王！

当今许多搜索系统不符合这些要求的任何一条。有些只是实现了一条或两条，但是很少同时符合所有要 求。Siri根据设备情景，并使用NLU技术理解检索语句。但是，Siri并非真正地进行搜索，而是将检索请求转发给另外一个应用或搜索引擎执行。谷歌与 Weotta均符合所有要求，但是实现、方法及应用范围不同。

如何搭建一个深度搜索系统呢？深度搜索与简单文本搜索相同，都存在两个重要环节：索引和查询。下图是从深度搜索角度对两者的一个概括。

深度索引

深度搜索需要对数据的深度理解：它是什么，它怎么样，它对什么有益以及如何将其转换成机器可以理解的一种格式。这里举几个例子：

• 位置要有地址和地理方位点信息
• 产品要有重量和尺寸信息
• 电影要有演员和导演信息

我们一得到底层数据结构，则立即将其转化为适于文本和侧面索引的文档结构。但是，深度搜索也需要特征工程发挥作用的深层知识和理解。我们必须仔细思考，用户可能执行何种搜索以及他们对搜索结果期望的质量如何。然后，我们还须确定如何将其转化为可索引的文档特征。

关于这种想法，我们这里给出两个例子。

假设有一家卖鸡翅的饭店。那么，鸡翅怎么样？有多少人喜欢有多少人不喜欢？它卖的鸡翅是本城最好吃的吗？诸如此类的问题可以通过一项基于目录的情感分析技术回答。

一场演唱会可能只是一次性事件，但是乐队以前的演出内容可能不同于今日。人们是否喜欢以前的演出？乐队粉丝呈现什么样的人口分布？演唱会会场如何？要回答这些问题，可能需要组合多个数据集，以建立乐队在不同会场演出间的交叉联系。

深度索引就是回答这类问题，将答案转化成适于排名和（或）过滤搜索结果的过程。这可能会涉及到应 用数据科学、线性回归或情感分析。由于问题及其答案有赖于数据特征、用户所需结果类型，目前还没有特定的方法。但是，我们可以使用适当的技术，从而获得对 数据前所未有的理解。比如，我们可以使用潜在情感分析技术，发掘数据隐含特征，从而可以处理基本文本索引不可能处理的检索语句。实现对数据的深入理解，自 然水到渠成。引用佩德罗·多明格斯在《机器学习那些事（注4）》一文中的原话：

“机器学习初学者常常会惊奇地发现在一个机器学习项目中，真正用于机器学习的时间少得可怜。但是，当你考虑到数据收集、集成、清洗和预处理何等耗时，特征设计要经历一轮一轮不断试错，就会释然了。”

“项目70%的时间用于特征工程，20%的时间则耗费在为算法确定一个合适的、全面的度量标准，而只有10%的时间用在算法选择和调优。”

特征工程的一个主要部分是获取更多数据及质量更好的数据。我们需要大量的多样化的数据集得到必要 的上下文信息。Weotta处理的数据，包括用户的地理信息、人口特征、兴趣点（Point Of Interest，POI）信息和位置数据库，以及社交网络。但是，我们还需要深度理解如何集成和关联数据，应用哪种机器学习算法，最重要的是，需要理解 哪些问题提及到它以及可以回答哪些问题。所有这些都需要设计出一个可以自动实现的集成系统。谷歌研究主管彼特·诺维格说：“我们只是拥有更多的数据，还没 有设计出更好的算法。”

在Weotta，我们相信高质量数据是最重要的，因此投入大量精力滤除噪声数据以抽取有意义的信号。对于任何重要的特征工程，其大部分工作实际上就是数据清洗。毕竟，投入的是垃圾，产出的也是垃圾（注5）。

我们还需要一个自动流程以实现连续学习。当数据进来时集成以后，系统应当自动改善。佩德罗·多明格斯说：“机器学习不是一个创建数据集和启动学习器的一次性过程，它是一个不断启动学习器、分析结果、修改数据和（或）学习器的循环过程。”

在此过程，人也是重要的一部分。在几乎每个层面上，我们必须都能够将人的知识和经验融合到数据管道。这种恰到好处的平衡与人机组合，决定了深度搜索系统的真正潜能和适应变化的能力。

深度查询

虽然我们已经获得深度数据驱动的深度索引，还需有效地使用它。简单的文本查询是不够的。为了得到正确的结果，我们需要准确领悟用户的搜索意图。它涉及到查询解析和自然语言理解技术。

在Weotta，我们已经投入大量时间，细化查询解析以处理如“哪一家餐厅适合我的周年纪念日”或“本周末哪有音乐会演出，我约了人”之类的查询语句。其他搜索系统的查询解析能力存在差别：Siri可识别单词Call加一个名字，而谷歌知识图谱却可以识别维基百科上几乎所有的实体。

如果我们已经解析查询词，并知晓搜索意图，下一步就是检索结果。由于我们实现的是多类目搜索，因此需要查询多个索引。在这一点上，自然语言理解能力尤为可贵，因为我们需要知道每个索引支持的查询参数类型，从而系统可以对查询词进行智能切分。

但是，当我们检索不同类型的信息时，那么如何将其组织到一个结果集合？怎么对不同类的事物进行排名呢？这些都是接口设计和用户体验方面的重要问题。谷歌使用结果页面的不同区块显示不同类型的结果，如谷歌地图和知识图谱。

我们认为Weotta使用的卡片展示有很大意义。我们在移动端使用一个栈，在电脑端则使用五张以 上排成一排的卡片显示结果。为何这样做呢？这种表示方法从视觉效果上来看，可以让用户每次重点浏览少数几条结果，并允许我们显示多类目结果。这样，人们可 以搜索晚餐饮品与电影，而看到三类不同的搜索结果，所有结果均混到一起。

还记得前面提到的侧面选择吗？在深度搜索中，虽然侧面选择对用户隐藏不可见，但是它们对于查询引 擎仍然重要。根据检索词，查询解析器使用自然语言理解技术，而非依赖显式复选框决定使用哪个侧面选择。这种决定也可以由数据和产品的性质来驱动。在 Weotta中，当我们知道一个检索语句涉及到食物时，我们使用一个侧面选择将结果限定于餐馆方面的条目。谷歌却不同，虽然他们或许知道一个检索语句中包 含食品方面的单词，由于他们的数据是如此的丰富庞大，他们不能或者不愿为显示何种类型搜索结果做出清晰的决策，所以人们常常看到混在一起的搜索结果。比 如，我试着用谷歌搜索“寿司”，除了一个网页列表，我还看到一个本地餐厅的长列表、一张地图和一个知识图谱方盒。由于Weotta专注于本地搜索并且理解 用户，我们知道你正在寻找“寿司店”，这就是我们为你提供的服务。使用Weotta的深度搜索，用户可以搜索更为具体的对象，搜到“可以吃到滨地寿司的餐 厅”相关结果。

深度查询语句理解的另外一个关键因素是“情景”：谁在搜索？他们在哪？现在什么时间？天气怎样？他们过去搜索了什么？他们的亲人朋友是谁？他们给出的显性偏好是什么？他们的隐形偏好是什么？

这些问题的答案会对搜索结果产生重大影响。如果我们知道一个人在纽约，那么我们就不会将其他地方的信息或发生在其他地方的事显示给他/她。如果外边正在下雨，我们会显示室内活动或周边地方相关结果。如果我们知道一个人讨厌垃圾食品，就不会显示麦当劳的结果给他/她。

所谓“爱屋及乌”，朋友喜欢什么你可能也会跟着喜欢。它可能不是一个强信号，但是几乎每个人都看 重“社会认同”。此外，人们常与朋友和家人一起做事，如果将他们的偏好都考虑进来，我们也许能够找到更多的相关结果。事实上，如果你使用脸谱账号注册 Weotta，就可以搜索到你的朋友喜欢的地方或事件。

总结

深度搜索系统从如下几个方面超越基本的文本搜索和高级搜索：

1. 没有显性的侧面选择
2. 多类目搜索
3. 深度特征工程
4. 情景

为了实现这些要求，我们需要利用自然语言理解、机器学习和大数据技术。实现时需要做的工作，比想象的要多得多，但好处也不言而喻：你可以通过一个简单的接口进行自然语言查询，并可搜索到更相关更加个性化的搜索结果。

---

备注

1. 分面过滤（Faceted Filtering），又称分面搜索（Faceted Search）。所谓分面（Facet）实际上就是事物的多维属性，如一部电影的导演、演员、类型等分面。分面搜索通过事物的多维属性对不断筛选、过滤搜 索结果的一种搜索方法，可视为搜索和浏览的结合。
2. 字段（Field）方便文档（如网页等）的存储和索引，比如在全文检索引擎Lucene中，将文档划分成标题、正文、摘要等字段，并且可以设置各个字段的存储、索引状态，还可以设置每个字段的权重，称作Boost，以方便文档评分与排名。
3. 倒排索引（Inverted Index）是搜索引擎最重要的一个模块。搜索引擎使用分词工具将文档切分成多个词的集合（又称“词袋”），词（中文的“词语”或“单字”，英文的“单 词”）是文档的基本表示单元，由文档到词袋的映射就是建立正排索引（Forward Index）的过程。我们还可以根据所有文档中的词，建立从词到文档的映射关系，这就是倒排索引。在用户提交检索语句后，经过分词处理后，由词定位所有出 现该词的文档，并使用相关的排名算法对文档进行排名。
4. 《机器学习那些事》（A Few Useful Things to Know about Machine Learning）中文译名借鉴刘知远的翻译版本，感谢译者的贡献。但是，本文对佩德罗·多明格斯在《机器学习那些事》中的表述文字是本文译者的独立工作。
5. 投入的是垃圾，产出的也是垃圾（garbage in, garbage out），常译作“垃圾进垃圾出”是一个常见的计算机术语，模仿“先进先出”（FIFO）的翻译。本文译者直接使用本意，方便多数读者理解。

译者：HorseHour原文作者：JACOB PERKINS via:译言网