揭秘谷歌翻译背后的技术突破：序列到序列学习

   <p>我们都知道并且喜欢使用 Google 翻译，这个网站可以瞬时翻译 100 种不同的人类语言，就好像有魔法一样。他甚至存在于我们的手机和智能手表上面</p>    <p>Google 翻译背后的科技被称为机器翻译。它改变了世界，在本来根本不可能的情况下让(不同语言的)人们完成了沟通。</p>    <p>但我们都知道，在过去的 15 年里，高中学生已经使用 Google 翻译...额 ... 协助他们完成他们的西班牙语作业。这已经不是新闻了…？</p>    <p style="text-align:center"><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/812af65fe478e74b008c8c93cb2c4170.jpg" /></p>    <p>事实证明，在过去两年，深度学习已经完全改写了我们的机器翻译方法。那些对语言翻译一无所知的深度学习研究人员正在利用一个个相对简单的机器学习解决方案，来打败世界上最好的专家建造的语言翻译系统。</p>    <p>这一突破背后的技术被称为<strong>序列到序列学习</strong><strong>sequence to sequence learnin</strong>g。这是一项非常强大的技术，被用于解决许多种类的问题。在我们看到它如何被用于翻译之后，我们还将学习这个算法是怎样用来编写 AI 聊天机器人和描述图片的。</p>    <p>我们开始吧！</p>    <p><strong>让计算机翻译</strong></p>    <p>那么我们该如何编写代码，才能让计算机翻译人类的语言呢？</p>    <p>最简单的方法，就是把句子中的每个单词，都替换成翻译后的目标语言单词。这里有一个简单的例子，把西班牙语逐字翻译成英语：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/42143b97db485a1d338e7544db73f32c.png" /></p>    <p>我们只是用匹配的英语单词替换每个西班牙单词。</p>    <p>这很容易实现，因为你所需要是一本字典来查找每个单词的翻译。但结果并不好，因为它忽略了语法和上下文的联系。因此，下一件你可能要做的事，就是开始添加特定语言规则以改进结果。例如，你可能将两个常用词翻译为词组。你可能互换名词和形容词的顺序，因为他们在西班牙语中以相反的顺序出现：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/8b816cd2c5f72a674d02a55f2a19c0d3.png" /></p>    <p>这真的有效！如果我们就继续添加更多的规则，直到我们可以应对每一部分语法，我们的程序应该就能够翻译任何句子了，对吧？这就是最早的机器翻译系统的工作原理。语言学家提出了许多复杂的规则，并逐一编程实现。一些世界上最聪明的语言学家在冷战期间辛勤努力了多年，才创建出了一些更容易理解俄罗斯人交流的翻译系统。</p>    <p>不幸的是，这种套路只对简单问题适用，比如说像天气预报这样结构简单的文档。它对于真实世界的文字来说并不可靠。问题是，人类语言并不总是遵循固定的规则。人类语言充满了各种特殊情况，区域差异，或者干脆就不按套路出牌(#‵′)凸。我们说英语的方式更多地受到几百年前入侵的人的影响，而不是由坐下来定义语法规则的人。</p>    <p><strong>利用统计数据使计算机更好地翻译</strong></p>    <p>在基于规则的系统失效之后，一些新的翻译方法被开发出来了，他们基于概率和统计的模型而不是语法规则。建造一个基于统计的翻译系统需要大量的训练数据，其中完全相同的文本被翻译成至少两种语言。这种双重翻译的文本称为<strong>平行语料库 parallel corpora</strong>。18 世纪的科学家以同样的方式在罗塞塔石碑上面从希腊语中找出埃及象形文字。(译者注：罗塞塔石碑，高 1.14 米，宽 0.73 米，制作于公元前 196 年，刻有古埃及国王托勒密五世登基的诏书。石碑上用希腊文字、古埃及文字和当时的通俗体文字刻了同样的内容，这使得近代的考古学家得以有机会对照各语言版本的内容后，解读出已经失传千余年的埃及象形文之意义与结构，而成为今日研究古埃及历史的重要里程碑)以同样的方式，计算机可以使用平行语料库猜测如何将文本从一种语言转换为另一种语言。</p>    <p>幸运的是，有很多双重翻译的文本已经存在在世界的各个角落。例如，欧洲议会将其诉讼程序翻译成 21 种语言。因此，研究人员经常使用这些数据来帮助建造翻译系统。</p>    <p><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/2af175adb8f0a4cc36e74954c864abe3.jpg" /></p>    <p>训练数据通常令人兴奋！但这只是无数条政府文件而已...</p>    <p><strong>用概率的思维思考</strong></p>    <p>统计翻译系统的根本不同，在于它们试图生成不止一个精确的翻译。相反，他们生成成千上万种可能的翻译，然后他们按照可能最正确的给这些翻译排名。他们通过与训练数据的相似性来估计有多“正确”。以下是它的工作原理：</p>    <p><strong>第 1 步：将原始句子分成块</strong></p>    <p>首先，我们将我们的句子分成简单的块，每一块都可以轻松翻译：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/0f8bae12ef2e6cae0ecfa41fdfb8a11a.png" /></p>    <p><strong>第 2 步：找到每一块的所有可能的翻译</strong></p>    <p>接下来，我们将翻译每块文字，我们将通过寻找我们数据库中所有人类翻译过的相同词块来完成我们的翻译。</p>    <p>要着重注意的是，我们不只是在一本简简单单的翻译字典中查找这些词块。相反，我们看到是真实的人在真实的句子中如何翻译这些相同的词。这有助于我们捕获到在不同语境中所有不同的表达方式：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/cf4c9f0c183696b13217a8147f748f71.png" /></p>    <p style="text-align:center">即使最常见的短语也有很多种可能的翻译</p>    <p>这些可能的翻译中的有一些会比其他翻译更频繁地使用。根据我们训练数据中每个翻译出现的频率，我们可以给它设定一个分数。例如，有人说“Quiero”更多的时候是指“我想要”而不是“我尝试”。所以，我们可以使用我们训练数据中 “Quiero”被翻译成“我想要”的频率，给“我想要”这个翻译更多的权重。</p>    <p><strong>第 3 步：生成所有可能的句子，找到最有可能的那句</strong></p>    <p>接下来，我们将使用这些词块的每种可能翻译来组合生成一堆可能的句子。</p>    <p>从第二步中列出的翻译过的词块中，我们可以通过不同组合方式生成将近2,500 个不同的句子。下面是一些例子：</p>    <p style="text-align:center"><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/23f3eba9b79205879eaf2e6e11f9f815.jpg" /></p>    <p>但在真实世界中，因为有不同的语序和词块分解方法，所以实际上有更多可能的词块组合：</p>    <p style="text-align:center"><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/bb638226447c8e402aec176b0260c1bb.jpg" /></p>    <p>现在需要扫描所有这些生成的句子，找到那个听起来“最像人话”的句子。</p>    <p>为此，我们将每个生成的句子与来自英语书籍和新闻故事的数百万个真实句子进行比较。我们拥有的英语文本越多越好。</p>    <p>我们采用这种可能的翻译：</p>    <p style="text-align:center"><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/6cfda83f49399e6cbeedfc20eddb0fda.jpg" /></p>    <p>很可能没有人用英语写过这样的句子，所以它不会与我们的数据库任何句子非常相似。我们给这个可能的翻译设定一个低概率的得分。</p>    <p>但看看下面这个可能的翻译：</p>    <p style="text-align:center"><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/0968e7c9af91547507443e571cee50e2.jpg" /></p>    <p>这个句子和我们的训练集中的句子很类似，所以它将获得一个高概率的得分。</p>    <p>在尝试过所有可能的句子之后，我们会选择那个，既是最有可能的词块翻译，又与真实英语句子最相似，的句子。</p>    <p>我们最后的翻译将是“</p>    <p><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/0968e7c9af91547507443e571cee50e2.jpg" /></p>    <p>我想去最漂亮的海滩。”不错！</p>    <p><strong>有里程碑意义的统计机器翻译</strong></p>    <p>当有足够多的训练数据的时候，统计机器翻译系统的性能要优于基于语言规则的系统。 Franz Josef Och 基于这些想法并做出了改进，并在 21 世纪初使用它们构建了 Google 翻译。机器翻译终于可以被全世界使用。</p>    <p>早期的时候，基于概率翻译的“愚蠢”方法居然比语言学家设计规则系统做的更好，这让每个人都感到惊讶。这导致了 80 年代的时候，研究人员会(有点刻薄的)说：“每当我炒了一个语言学家鱿鱼的时候，我的翻译准确度就会上升。” Frederick Jelinek</p>    <p><strong>统计机器翻译的局限性</strong></p>    <p>虽然统计机器翻译系统效果还不错，但是他们难于构建和维护。每一对需要翻译的新语言，都需要专业人士对一个全新的多步骤“翻译流水线”进行调试和修整。</p>    <p>因为构建这些不同的流水线需要做太多工作，所以我们必须进行权衡。如果你要用 Google 翻译把格鲁吉亚语翻译成泰卢固语（印度东部德拉维拉语言），那么作为一个中间步骤，它必须先翻译成英语。因为并没有太多格鲁吉亚到泰卢固语的翻译需求，所以在这一对语言上投入太多并没有太大意义。相比于英语翻译到法语，它可能会使用一个更低级的“翻译流水线”。</p>    <p>如果我们能让计算机为我们做所有令人讨厌的开发工作，这不更好么？</p>    <p><strong>让电脑翻译的更好——无需昂贵的专家们</strong></p>    <p>机器翻译的核心是一个黑盒系统，它通过查看训练数据，自己就可以学习如何翻译。使用统计机器翻译，人们仍然需要建立和调整多步骤的统计模型。</p>    <p>2014 年，KyungHyun Cho 的团队取得了突破。他们发现了一种应用深度学习来构建这种黑盒系统的方法。他们的深度学习模型采用平行语料库，并使用它来学习如何在无任何人为干预的情况下在这两种语言之间进行翻译。</p>    <p>两个宏伟的方法使这成为可能 - 循环神经网络和编码。通过巧妙地结合这两个想法，我们可以建立一个能够自学的翻译系统。</p>    <p><strong>循环神经网络</strong></p>    <p>我们已经在第 2 章讨论过了循环神经网络，让我们快速回顾一下。</p>    <p>一个常规（非循环）神经网络是泛型机器学习算法，接收一序列数字并计算结果（基于先前的训练）。神经网络可以用作一个黑盒子，来解决很多问题。例如，我们可以基于房子的属性，使用神经网络来计算房屋的近似价格：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/a2e5701d179c7018439bfaa46f49cdae.png" /></p>    <p>但是像大多数机器学习算法一样，神经网络是无状态(Stateless)的。你输入一序列数字，神经网络计算并输出结果。如果再次输入相同的数字，它总是计算出相同的结果。它没有进行过的计算的记忆。换句话说，2 + 2 总是等于4。</p>    <p>一个<strong>循环神经网络（Recurrent Neural Network 或简称 RNN）</strong>是一个稍微改进过的神经网络的版本，区别是 RNN 先前的状态是可以被当做输入，再次带入到下一次计算中去。这意味着之前的计算结果会更改未来计算的结果！<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/a3b502283ee3564d519ea3229cc58ce1.png" /></p>    <p>人类痛恨他：一个黑科技就让机器变得更聪明！</p>    <p>我们为什么要这样做？无论我们上次计算结果是什么，2 + 2 不应该总是等于 4 么？</p>    <p>这个技巧允许神经网络学习数据序列中的规律。例如，基于句子的前几个词，你可以使用它来预测句子中下一个最有可能的单词是什么：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/9f47450f9d415c1eb6a323fc10cee2c9.jpg" /></p>    <p>实现智能手机输入法的“自动更正”的方法之一…</p>    <p>当你想要学习数据中的规律时，RNN 将会非常有用。因为人类语言其实只是一个大而复杂的“规律”，自然语言处理的各个领域越来越多地使用 RNN。</p>    <p>如果你想了解更多关于 RNN，你可以阅读第 2 章，我们使用了 RNN 来生成一本海明威写作风格的假书，然后使用同一个 RNN 生成了超级马里奥兄弟的游戏关卡。</p>    <p><strong>编码</strong></p>    <p>我们需要回顾的另一个想法是编码 Encoding。在第 4 章中作为脸部识别的一部分，我们谈到了编码。为了解释编码，让我们稍作调整，了解一下如何用电脑区分两个人。</p>    <p>当你试图用电脑区分两张脸时，你从每张脸收集不同的测量值，并与其他脸部比较这些测量值。例如，我们可以测量耳朵的大小或眼间的间距，比较两个图片的测量值以确定他们是否是同一个人。</p>    <p>你可能已经从观看热门影视剧 CSI 当中对这个想法耳熟能详了。</p>    <p>把面部特征转换为一系列测量值的想法就是编码的例子之一。我们获取到原始数据（面部图片），并将其转换为代表这张脸的一系列测量值（编码）。</p>    <p>但是像我们在第 4 章中看到的，我们不必提出一个具体的面部特征列表来测量我们自己。相反，我们可以使用神经网络，让它自动从面部生成测量值。找出哪些测量值能够区分两个相似的人，计算机在这方面比我们做的更好：</p>    <p><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/a1350d04cbd7d1f0513b45f86a868acf.jpg" /></p>    <p>这些是由神经网络产生的面部特征测量值，训练后的该神经网络可以保证不同的数字代表了不同人的面部。</p>    <p>这是我们的编码。它让我们用简单的东西（128 个数字）代表非常复杂的东西（一张脸的图片）。现在比较两张脸更加容易了，因为我们只需要比较这 128 个数字而不是比较整张脸的图像。</p>    <p>你猜怎么着？我们可以用句子做同样的事情！我们可以把任何一个句子表达成一系列独特的编码：这一序列数字代表的是英语句子“有趣的机器学习！”。不同的句子将由不同的数字集表示。</p>    <p>为了生成这个编码，我们将句子输入到 RNN 中，一次一个词。最后一个词处理之后的最终结果，就将是表示整个句子的数值：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/9f8c0f00368e23e3e9a1887beb8cbe6f.jpg" /></p>    <p>因为 RNN 具有记忆功能，能够记住处理过得每个词，所以它计算的最终编码表示句子中的所有词。</p>    <p>棒极了，所以现在我们有一种方法来把一个整个句子表示成一组独特的数字！我们不知道编码中的每个数字是什么意思，但这并不重要。只要每一句话都能由一组独特的数字标识出来，那么我们就不需要准确地知道这些数字是如何生成的。</p>    <p><strong>让我们开始翻译吧！</strong></p>    <p>好的，所以我们知道怎样使用 RNN 去个一句话编码并生成一组独特的数字。它有什么用呢？事情从这儿开始变得酷炫了！</p>    <p>如果我们使用两个 RNNs 并将它们首尾相连呢？第一个 RNN 可以给句子生成编码。然后，第二 RNN 遵循相反的逻辑，解码得到原始句子：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/f92f3d85e3e0a89649251ac72ffa7853.png" /></p>    <p>当然，编码然后再解码并得到原始语句并没有太大用处。但是如果（这里是问题的关键），我们训练第二个 RNN，使它解码成西班牙语而不是英语，这会怎样？我们可以使用平行语料库训练数据来训练它：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/3586a91e64e7ed38797d1009d0d156ae.png" /></p>    <p>就像这样，我们有一个通用的方法，将一序列英语单词转换成同样的西班牙语单词序列！</p>    <p>这是一个强有力的想法l这种方法主要受限于你拥有的训练数据量和你可以投入的计算机生产力。机器学习研究人员仅仅在在两年前发明了这个方法，但它已经表现的和统计机器翻译系统一样好了，而后者花了 20 年时间才开发完善。</p>    <p>l 这不依赖于任何关于人类语言规则的了解。算法自己计算出这些规则。这意味着你不需要专业人士来调整“翻译流水线”的各个步骤，计算机为你把这个做好了。</p>    <p>l 这种方法适用于几乎任何种类的序列到序列 sequence-to-sequence 问题！而且事实证明，许多有趣的问题都实际上是序列到序列的问题。继续阅读了解其他你可以做的酷炫的事！</p>    <p>注意，我们忽略了一些处理真实数据会碰到的问题。例如，如何处理不同长度的输入和输出？这还需要一些额外的工作（请参见 bucketing 和 padding）。非常用词翻译也是一个问题。</p>    <p><strong>构建你自己的序列到序列翻译系统</strong></p>    <p>如果你想建立自己的语言翻译系统，这儿有一个包括可以在英语和法语之间翻译的 TensorFlow 的 demo。然而，这并不是给胆小鬼或预算有限的人准备的。这仍然是一项新技术，并且资源有限。即使你有一台带有高级显卡的高级电脑，可能也需要连续一个月的时间来训练你自己的语言翻译系统。</p>    <p>此外，序列到序列语言翻译技术正在及快速地改进，以至于难以跟上。许多最近的改进（如添加注意机制 attention mechanism 或上下文跟踪 tracking context）显着改善了翻译结果，但这些发展太过前沿，以至于他们甚至还没有维基百科页面。如果你想做认真的去做任何序列到序列学习，随着技术的发展，你需要持续保持更新。</p>    <p><strong>序列到序列模型的无穷力量</strong></p>    <p>那么，我们还能用序列到序列模型做什么呢？</p>    <p>大约一年前，Google 的研究人员表示，你可以使用序列到序列模型来建造 AI 机器人。这个想法是如此简单，并且令人震惊的是，它真的有效。</p>    <p>首先，他们获取了一些 Google 员工和 Google 技术支持小组之间的聊天记录。然后他们训练了序列到序列模型，其中输入的句子就是雇员的问题，而技术支持团队的回复是该句子的“翻译”。<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/4f5a600dbe0c860bfc50ba643081f77d.png" /></p>    <p>当用户与机器人进行交互时，他们将使用该系统“翻译”每个用户的消息以获得机器人的响应。</p>    <p>他们最终得到的是一个半智能机器人，（有时）可以回答真正的技术支持问题。下面是一部分用户和机器人之间的对话示例：</p>    <p>人：连接被拒绝或类似的东西</p>    <p>机器：我可以知道你连接的网络连接的版本吗？</p>    <p>人：我不确定我知不知道</p>    <p>机器：是网络连接提示任何用户证书？</p>    <p>人类：是的</p>    <p>机器：你现在在家还是在工作？办公室？</p>    <p>人：我在家</p>    <p>机器：试试这个。 goto <URL redacted>页面，然后输入您的姓名和密码</p>    <p>人类：完成</p>    <p>机器：尝试使用<NAME redacted>登录，然后检查其是否正常工作</p>    <p>人类：是的，现在它在工作！</p>    <p>机器：棒极了。还有什么我可以帮助你的？</p>    <p>他们还试图建立一个基于数百万部电影字幕的聊天机器人。他们的想法是，使用电影角色之间的对话作为一种训练机器人像人一样说话的方式。输入句子是一名角色的一句话，“翻译”是另一名角色在对话里回应他的内容：</p>    <p style="text-align:center"><img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/ef65f394cf63c5a6a21660513e241dde.png" /></p>    <p>他们得到了很有意思的结果。机器人不仅仅像一个人，更是显示出了一点点智能化：</p>    <p>人类：我的名字是 david。我的名字是什么？</p>    <p>机器：david。</p>    <p>人：我的名字是约翰。我的名字是什么？</p>    <p>机器：约翰。</p>    <p>人类：你是领导还是追随者？</p>    <p>机器：我是领导者。</p>    <p>人类：你是追随者还是领导者？</p>    <p>机器：我是领导者。</p>    <p>这只是可能性的开始。我们将不局限于将一个句子转换成另一个句子，同样，我们制作一个图像到序列的模型，它可以将图像转换为文本！</p>    <p>Google 的另一个团队通过将第一个 RNN 替换为卷积神经网络（如我们在第 3 章中所了解的那样）。这允许输入是图片而不是句子，其余的工作基本相同：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/9f80162892c339318422babc6c137673.png" /></p>    <p>就像这样，（只要我们有很多很多的训练数据）我们就可以把图片变成单词！</p>    <p>Andrej Karpathy 把这个想法进行了拓展，以构建一个通过分别处理图像的多个区域，来详细描述图像的系统：<img alt="揭秘谷歌翻译背后的技术突破：序列到序列学习" src="https://simg.open-open.com/show/6025384274104a0b23dfa97b410b9d9c.jpg" /></p>    <p style="text-align:center">Andrej Karpathy 论文中的图片</p>    <p>这个想法使得我们可以构建一个，能够按照奇怪的要求找到特定图片的图片搜索引擎，甚至有研究人员正在研究相反的问题，仅仅基于文本描述产生一个完整的图片！</p>    <p>从这些例子，你可以开始想象的各种可能性。 到目前为止，序列到序列应用在从语音识别到计算机视觉各个领域。 我猜，明年会有更多的应用。</p>    <p>来自: 混沌巡洋舰</p>