对话刘慈欣：人工智能是不是新人类？
jopen 7年前
<p style="text-align: center;"><a href="/misc/goto?guid=4959012995125439792" title="三体"><img alt="对话刘慈欣：人工智能是不是新人类？" src="https://simg.open-open.com/show/8f4bd919b7b08441dc8258a4e1de6b36.png" /></a></p> <p>跟刘慈欣老师展开这场对话，灵感来自一个让我们都感到有些“震惊”的项目。阿里巴巴与清华大学签署了一项战略合作，成立人机交互实验室，探索下一代人机交互方式，使人工智能具备“五感”——视觉、触觉、听觉、嗅觉和味觉，并能对人类的情感和情绪进行分析和理解，并进行反馈。</p> <p>我们都觉得这件事很有意思，它是一次探索人类与人工智能如何相处的一次比较激进的尝试，也倒逼着我们激发了对 AI 的理智与情感、AI 的创造力、人类生命的宽度与“永生”的意义，以及人类与 AI 融合而生“新物种”产生了新的想象力。没有什么比一个科幻小说作家更适合谈论这些了。</p> <p>所以，这次的谈话有点不着边际，但我觉得还挺好玩，脑洞很大，那些头脑不甘寂寞的人应该对它有兴趣。</p> <p>以下是我们对话的剪辑版视频和完整对话实录。</p> <p>视频地址：<a href="https://v.qq.com/iframe/player.html?vid=r0620qlx398&tiny=0&auto=0">https://v.qq.com/iframe/player.html?vid=r0620qlx398&tiny=0&auto=0</a></p> <p><strong>一、人工智能在情感上可能会超过人</strong></p> <p><strong>骆轶航：</strong>大家好，今天非常高兴有这个机会能够跟刘慈欣老师在一起聊一聊关于人机交互，人的情感与机器的情感，以及人和机器、人和人工智能这样一个关系的未来。从科幻小说作家的视角，从观察者的视角，一个具备“五感”（指视觉、听觉、味觉、嗅觉和触觉）的机器人或人工智能，它是一个什么样存在，作为一个小说家怎么去描述它？</p> <p><strong>刘慈欣：</strong>我觉得目前人工智能的优势还是集中在和情感无关的活动上面。作为人类社会来说，这个感觉甚至更高层次的情感是我们生活中相当重要的一部分。但对于机器来说不是这样，你要让机器具有人的感觉，实际上是为了人自身服务的，如果按照机器自身进化规律的话，它不会走人的感情，这对它是一种限制。我觉得对于人和智能机器的交互来说，特别是让智能 AI 推动将来人类社会发展，给人们带来更好的生活的话，机器从感情上跟人类交流是必须的。</p> <p><strong>骆轶航：</strong>这种交流是一种模拟人类的感觉和感情，不是一种复制。</p> <p><strong>刘慈欣</strong>：这个是很有意思的问题。我们成天谈情感、谈感情，其实从技术层面，从严格的科学层面上来说，人类自己也不知道感情是什么东西，我们并没有一个，哪怕稍微严格一点的科学上的定义。</p> <p>它和记忆的那些数据、事实的关系是什么？包括你说的它是在左半脑、右半脑，它是一种应急反应还是一种算法。甚至我们连情感在人类什么地方都不知道。当然按照传统主流的说法，可能说它在大脑里，但是这个其实很可疑，因为莎士比亚有句诗说“爱情你来自何方，是脑海还是心房”，这个很深刻。就是说假如我们把大脑从人的身体上抠出来的话，它还能够成活的话，它还有感情吗？这个东西很难说。</p> <p><strong>骆轶航：</strong>莎士比亚这个诗应该是写在四百多年前，这四百多年是人类从科学上也没有什么进化，把这个问题搞清楚。</p> <p><strong>刘慈欣：</strong>但我是写科幻小说的，我并不是学者，我倾向于把所有的可能性排列出来。情感的存在方式有两种可能，一种就像我们现在很多主流科学家认为的，人就是大脑，大脑里什么都有，情感什么东西都在大脑，你把大脑拿出来就把人拿出来；另外一种就是像莎士比亚表述的这样，情感有一部分在大脑，可能另一部分和你整个的身体系统，和你的内分泌，和你的方面都有着密切的关系。从我自己来看，可能后一种可能性更大，特别是爱情东西我很难想象只有大脑能产生。所以说模拟情感，从一方面来说比模拟人类的纯智能是难度更高的。</p> <p>但是另一方面就是说它不等于不可能，它不是在我们真正认清情感的生物学、生理学的大脑学机制上模拟，这个当然是最理想的，也是最高级的。</p> <p><strong>骆轶航：</strong>但我们自己还处于一个未知状态。</p> <p><strong>刘慈欣：</strong>对，人类的脑科学和神经学处于很原始的状态，但是我们可以把大脑、把人的身体情感看作一个黑箱，只模拟它的输入输出，这个是完全可以的。我们并不管它内部是什么东西，你模拟的情感是初级情感，未必。</p> <p>我举个例子，我们并没有模仿鸟的飞行。但是飞机无论是速度还是高度，都比鸟强。那么一个很强的人工智能要想在不了解大脑的情况下，在不了解整个人的情感系统的情况下，仅仅从大数据去模拟情感，它最终可能像围棋一样。</p> <p><strong>骆轶航：</strong>像 AlphaGo 一样。</p> <p><strong>刘慈欣：</strong>它可能变成一种情感最丰富的东西。</p> <p style="text-align:center"><img alt="对话刘慈欣：人工智能是不是新人类？" src="https://simg.open-open.com/show/21c19cca81f621501886b2bc486e908d.jpg" /></p> <p><strong>骆轶航：</strong>它里面没有围棋的这种禅，这种定力，这种哲思在里面，就是靠一个算法。</p> <p><strong>刘慈欣：</strong>你想想有这么一个存在，它能够在一个小时甚至更短的时间内，把人类有史以来所有的书、所有的小说、文学作品，一个小时内全部读完甚至时间更短。这么一个实体根据这么一个数据，可以在一天之内，把几亿人的情感生活全分析一遍，这么一个大数据筛选出来的情感，人可能是望尘莫及。</p> <p><strong>骆轶航：</strong>甚至会怀疑它就是一种发自于人的情感，但它还是一种算力和算法的结果。</p> <p><strong>刘慈欣：</strong>最近流行的一种说法就是人和人工智能的孰优孰劣，好像这个情感是人的最后一道防线。就说很多学者认为及计算机没有情感，实际上这个东西从科学上来说是很不成立的。<strong>我们自己连情感是什么都不知道，你怎么知道计算机没有呢？</strong></p> <p><strong>骆轶航：</strong>所以按您的看法，我们复制人的“五感”，第一个我们要很清楚它不是人类的感知、感官，它是机器的感官。但是我们可以期待它在很大程度上跟人类的感官能够互相沟通，前提是它服务于我们的需求和需要。</p> <p><strong>刘慈欣：</strong>这个就是人工智能里面很著名的一个叫中文房间，就说有一个房间里的人他根本不懂中文，但他后面有一个资料库。你说出一句中文，他拿那个卡片去查那个资料库，查出来以后拿来回答你。</p> <p><strong>骆轶航：</strong>这个本质上就是机器翻译。</p> <p><strong>刘慈欣：</strong>情感也是，你说计算机它是不懂情感，但是它能够把你的情感取样出来，我到我后面机器庞大的一个海量的大数据，我去里面查找，我不是简单的查找，就像 AlphaGo 一样对数据库一种算法，它可能算出来比人类真的情感还像人。</p> <p><strong>二、人对机器的“歧视”，比对其他物种深得多</strong></p> <p><strong>骆轶航：</strong>机器比的人情感还丰富、还细腻，是超情感。</p> <p><strong>刘慈欣：</strong>所以说这道防线我认为根本不存在，这有道防线是一种很幼稚的人类中心论，把我们自己看得太高了。</p> <p><strong>骆轶航：</strong>人类中心论，或者是他是真把这个当作一道防线。</p> <p><strong>刘慈欣：</strong>他自己都不知道情感是什么，他以为别的物种也没有。</p> <p><strong>骆轶航：</strong>比方说现在很多美国人家里有亚马逊的 echo，中国人家里边可能是有像天猫精灵这样的东西。作为成年人我们跟它的沟通是很简单的，你给我订一张机票、你给我查一下天气。中国人里边我真的是见过一个小孩，三四岁的孩子，跟天猫精灵不断地讲话，家里边没有人，但是家里有摄像头，会看到他。他就跟那个天猫精灵能够讲三四个小时的话，它也给他回复，他就觉得它跟我沟通很好，而且很友善，而且出门玩的时候要把它带上。这个是一个非常有意思的一个场景，这个事儿我比较好奇的是作为一个小孩子，他觉得他跟机器跟人一进行样沟通。</p> <p><strong>刘慈欣：</strong>人工智能的情感和人的沟通，它是分几个层面的，现在比较简单的层面像你说的银行、服务产业人机界面很友好，这可以作为人机交互的润滑剂，这个目前它的意义还是有限的。</p> <p><strong>骆轶航：</strong>它打消了人和人沟通中产生误解的尴尬部分。</p> <p><strong>刘慈欣：</strong>人和机器的沟通中间有一道很难图突破的障碍、底线，这个底线很难出破，这个底线一旦突破的话对人类的改变还是很大的。什么底线呢？就是机器本身我们和机器沟通、情感沟通，如果说我们不知道它是机器，可能会很容易。假如我们知道对方是机器，这个情感只能限制在一定的程度上。一旦再往上走的话，<strong>人类本身不同种族之间存在着种族歧视问题，但是未来人类最大的歧视是人对机器的歧视。</strong></p> <p><strong>骆轶航：</strong>人类是天生带着歧视、偏见和自我中心的东西。</p> <p><strong>刘慈欣：</strong>人类对没有生命的机器，不管它有多高的智能、多高的情感，人类对它的歧视比这个人类种族之间的歧视甚至对人类对其他物种的歧视深得多，其他物种虽然它的生命没有法律保障，还是有一定的尊重，你不能把个小猫、小狗弄死。把一台机器给摔了，这个根本没有任何道德上的谴责。</p> <p>所以说机器情感和人的情感沟通，要想上升到那种真正直达内心的那种情感之间的关系，人和机器要建立这样的关系。</p> <p style="text-align:center"><img alt="对话刘慈欣：人工智能是不是新人类？" src="https://simg.open-open.com/show/0fa86d0b1fb2899790448a9f525548da.jpg" /></p> <p><strong>骆轶航：</strong>是不是我们要去期盼的？</p> <p><strong>刘慈欣：</strong>应该期盼，但是你得做好带来冲击的思想准备。</p> <p><strong>骆轶航：</strong>它冲击的是它对你的异化，还是你对它的异化？</p> <p><strong>刘慈欣：</strong>你不可能异化机器，是很难的，这是一道障碍，这个障碍一旦突破的话，那么机器在情感方面真正进入人的情感生活的话，整个人类的文明、人类的文化，可能完全改变。</p> <p><strong>骆轶航：</strong>您这么一说，我想到了一个特别诡异的画面，就是当机器能够进入人类情感世界的时候，那人他的另一半到底是什么？而且它还有感官的东西，它还有生物学的东西，它能够完全满足人对于另一半的情感、生理乃至心理的需求。</p> <p><strong>刘慈欣：</strong>其实对这个的预测早在上世纪八十年代有一篇科幻小说《温柔之乡的梦》，描写就很生动了，你说的是完全可能，我记得那个小说里描写机器人的另一半，怎么描写？他说它是太阳里的姑娘，姑娘里的太阳，已经到这种程度了。</p> <p><strong>骆轶航：</strong>这个相对人类的文化包括人类的伦理，我们不能说它是一种什么样的东西，但它是一种改变。</p> <p><strong>刘慈欣：</strong>如果我们整个社会跨越了对机器根深蒂固的歧视，我既然能找见一个心目中理想的伴侣，我干嘛还要去找你们这些真正的人类。</p> <p><strong>三、越现代、越前卫、越高级的艺术越容易被机器模仿</strong></p> <p><strong>骆轶航：</strong>我们回到一开始那个画面，一个小孩跟机器在一起成长、长大，有一天他意识到了它不是人是个机器，那一刻的情感撕裂和变化，这个事情在未来的世界中出现的概率会有多大？因为现在确实有一代孩子真的是这么长大。</p> <p><strong>刘慈欣：</strong>我倒觉得这不是一个很重的问题，其实你说的这个事情以前一直在发生，不过不是发生在机器的身上，在孩子的眼中，世界是一个“物活论”的世界，就说不光小动物，猫、狗、小秃子，甚至树木、河流、岩石都是有灵魂的、有生命的，但是随着我们的成长，童话给现实世界这么一层迷彩渐渐散去了，我们能渐渐适应它。对机器来说我认为也会的，甚至孩子一开始肯定知道它就不是一个，它和小猫、小狗是有区别，他可能知道，他会看到它要充电等等的。我认为这个人类会适应这个机器的这种转变，我觉得是可以的。但是从小和机器进行感情交流的人，成长以后他会有一个问题，就是他的情感世界会被塑造成什么样子？他还能和人交流吗？</p> <p><strong>骆轶航：</strong>这两年因为现在 Google 已经推出了 72 位的量子计算，它会对我们整个这种计算的速度和计算的能力又一个档次的提升，它对我们数据的吸取、摄取，和数据的运算分析，和解决问题甚至创造事物的能力，又会有一个变化。我们会看到，这个在机器会在诗歌创作、音乐创作、文学创作、艺术、书画之类的创作上发挥作用。最近我们知道有一些公司实际上在干这个事儿，它在让人工智能去写诗。</p> <p><strong>刘慈欣：</strong>我本人闲着无聊的时候编过一个写诗的软件，那是很早八十年代。</p> <p><strong>骆轶航：</strong>八十年代大家都写诗，那会儿没有人会用软件写诗。我们看到这个东西现在被机器操作，尤其现代诗，现代诗有的时候是符号的游戏，是语言学家的符号学，这个东西机器很容易去模仿。我看到机器出的诗集觉得很有意思，我会仔细去看，有的时候我甚至会拿它跟现代诗的作品作一些对比，以至于我真的分不出来从审美上哪个更好一点。这个时候我感到很不安，因为我知道它不是跟我们用同样的方式去创作文艺作品，但它们也创作出来，这个事儿您觉得接下来会发展成什么样子？这个我觉得才是人类的最后一道堡垒。</p> <p><strong>刘慈欣：</strong>这个远不是最后一道堡垒，就说文学艺术包括你说的人文的东西，其实目前机器已经在大规模侵入。其实在前年，在国内就进行过一次写古诗的图灵测试。就是说我不告诉这是机器还是人写的，就是一大堆诗，你把机器写的、人写的挑出来。而且中文戏的教授、学生挑不出来，都挑错了，分不清人写的还是机器写的。古诗能写的，现在电脑能写出很好的古诗来。结果现在有些学者还是用那句陈词滥调来说，说他们这个诗后面没有情感，你管它后面有没有情感，你作者根本不重要，诗就摆在这儿呢，对吧，所以说这个是没有办法的。但是在这一点目前人类还是有很多可以防守的领域。你现在观察到没有，计算机最容易写的诗就是现代诗，我编的C语言、写诗歌程序还不到一千句，很小的一个程序。但是你要想写比较古典的诗词，像比较古典的拜伦、雪莱写的诗就难一点。</p> <p>小说也一样，你写现代的意识流小说，让计算机写好像挺容易的。你要写托尔斯泰那种小说，恐怕很难。画画更是，画一幅现代画，那个反正正过来看、倒过来看就很容易的，编那个程序很容易。</p> <p style="text-align:center"><img alt="对话刘慈欣：人工智能是不是新人类？" src="https://simg.open-open.com/show/2a17130a851ad329cb21f0dfd0e98b92.jpg" /></p> <p><strong>骆轶航：</strong>《蒙娜丽莎》就很难。</p> <p><strong>刘慈欣：</strong>《蒙娜丽莎》几乎画不出来，所以说这得出一个很有趣的结论，就是我们认为越现代、越前卫、越高级的艺术，你突然发现它越容易被机器所模仿。反而我们认为越传统的那些东西，机器越模仿不出来。</p> <p><strong>骆轶航：</strong>是不是因为进入现代社会之后，人们的创作方式、思考方式已经被人工智能影响很深了？</p> <p><strong>刘慈欣：</strong>不是这个，现代派的出现，不管是文学中也好，还是艺术中也好，它与人工智能的发展并没有必然的关系。</p> <p>我们只能看到为什么越现代的东西、越后现代的东西，越能被机器所模仿，这给了我们一个想法，<strong>人类的精神世界越来越高级了还是越来越低级了？</strong></p> <p><strong>骆轶航：</strong>这个我不敢下判断，尤其从文化作品上。</p> <p><strong>刘慈欣：</strong>所以我说这个领域人类还有可防守的疆域，当然最后不一定防守住。就说我们古典的很厚重的说什么比怎么说更重要的文学艺术绘画可能更有生命力。</p> <p><strong>骆轶航：</strong>而且我们也要从古典主义中寻求我们创作和解释这个世界，我们用艺术的方式解释这个世界的能力、禀赋。</p> <p><strong>刘慈欣：</strong>因为你现在用计算机创作，你凑出一个什么上海的艺术双年展那作品根本不费什么劲儿，而且你人根本看不出来那是计算机作的，对吧。但是你凑出一部古典的油画、国画这些作品来，我估计是很难。</p> <p><strong>骆轶航：</strong>模仿是可以模仿的，模仿宋徽宗的东西它是可以模仿，但是这个不是我们想要的东西。</p> <p><strong>刘慈欣：</strong>一旦计算机、人工智能完全进入了人文领域、文学艺术领域，对我们的文明又是一个冲击，首先那个时候艺术品的数量可能是巨大的，可能取之不尽、用之不竭，你每天想随时几秒钟就能生成一部长篇小说，这种状况会让我们的文化变成什么样的状况。</p> <p><strong>骆轶航：</strong>您有没有想过人工智能写科幻小说会比科幻小说作家有什么不一样的地方？</p> <p><strong>刘慈欣：</strong>我觉得最可怕的不是它有不一样的地方，是和你有什么一样的地方。可能它要是写出来一看就是机器写的，那个构不成威胁。还是那句话，它写的如果是让我们根本分别不出来是人类科幻作家协的还是机器写的，那个威胁就来了，但是目前来说，据我所知还做不到这点。每一个文学品种都是一样，就说现在机器写的小说，能够赶上那帮意识流作家，但是赶不上古典作家。</p> <p><strong>骆轶航：</strong>您写作中其实从古典主义和历史经典中摄取的元素还是蛮多的。</p> <p><strong>刘慈欣：</strong>这个主要怎么说呢？就说机器的思考方式，它的艺术、文学的思考方式和我们思考方式不一样。</p> <p>它基于海量的数据，基于一些算法产生的东西。这个我再补充一点，就是对于机器作品最后的评价，人们还是有个误区。比如 AlphaGo 下围棋柯杰说的一句话对我印象特别深，他说搞了半天我们三千年来所有围棋的理论、顿悟全是错的。我见过那个机器的推理过程，我见过用蒙特卡洛法，用进化算法推理一个事情的过程，他把整个打印出来，你看完全是一堆没有意义的乱码，你根本看不懂。我想 AlphaGo 对于围棋的推理过程也是那样，你看不懂。但是不管看得懂看不懂它最后赢了，你说围棋多么古老，我有禅意。</p> <p><strong>骆轶航：</strong>我有禅意，我这是人文科学。</p> <p><strong>刘慈欣：</strong>这是不错，但是围棋是为了赢的，对吧。你刚才说的文学艺术其实也一样，情感也一样，不管我怎么把它产生出来，我打动你了，我震撼你了，引起了你的共鸣，你管我怎么产生出来的，你管我背后有没有你说的情感。现在这些人类、诗人们辩护说他们有情感，其实你那些情感最后挖到最深处，不也是大脑中一些化学物质的传递和反应吗，和那些电子的传递算法在自然规律上没有什么本质区别。</p> <p><strong>四、机器创造的人类永生，是真的永生吗？</strong></p> <p><strong>骆轶航：</strong>如果“五感”能够被模拟、被复制，我作为一个活的人，我的价值观、我的品位、我思考问题的方式甚至我的智商，能够完全模拟出来、能够复刻的话，这就牵涉到我们说到另外一个非常好玩的话题就是永生话题。</p> <p>我作为一个存在，比方说几十年后的一天我躺在病床上，然后我面前有人说你不会死的，哪怕你的躯体死了，你也不会死的，因为你看面前这个人，它具备了你所有的理智和情感，我们这个东西既通过机器模拟，也通过云和大数据去复制，这个人它已经能像你一模一样了。这个时候其实我想做的一件事情我赶快坐起来，然后用我生命中的最后一丝力量把它掐死，这个事情让我感觉非常可怕。</p> <p><strong>刘慈欣：你的一个完整的复制体可能是在这个世界上最大的异己</strong>，因为那是个很可怕的东西，因为我们最怕在别人身上见到我们自己的缺点，你所有的缺点、黑暗面他一点不落全有，而且它还知道你所有不可见人的事儿，这个东西别说是你的永生了，你根本不愿意它存在。</p> <p>而且你说的关于一个复制体是否意味着一个人永生的问题，我觉得从不同的视角看，不同的人看答案是不同的。从别人看你确实永生了，那就是你。</p> <p><strong>骆轶航：</strong>从我看，我还是走了。</p> <p><strong>刘慈欣：</strong>这个你不在，那个你和他交往一样。从你个人来说，你躺在病床上奄奄一息，没人管你了，他活着跟你有什么关系，这个绝对不是你。</p> <p><strong>骆轶航：</strong>而且我死了之后，我不知道我的意识和灵魂被带到那儿去了，如果它在另外一个平行世界存在，凭什么我要容忍这个世界里面还有另外一个存在？这件事儿对我来说是很不安的一件事儿。</p> <p><strong>刘慈欣：</strong>所以永生对于个人来说，最可靠的办法还是保持数据在你大脑里面，就是让你的身体不断地在未来的先进技术下能够维持下去。</p> <p><strong>骆轶航：</strong>就是我们的躯壳能够活着。</p> <p><strong>刘慈欣：</strong>否则的话复制人这个事情、永生这个事情从哲学层面思考其实是很绕的，越想越复杂。</p> <p><strong>骆轶航：</strong>它不是伦理问题，就是一个纯哲学问题。</p> <p><strong>刘慈欣：</strong>这个从感觉上判断很容易，复制是不是永生这个很容易，对个人肯定不是永生。</p> <p style="text-align:center"><img alt="对话刘慈欣：人工智能是不是新人类？" src="https://simg.open-open.com/show/eec087344dd8c87a2f731da525e44c48.jpg" /></p> <p><strong>骆轶航：</strong>当人类的情感，可以以比特的方式，以原子或者比特的方式被储存、被运算，那么它应该是一种什么样的存在，可能是我们更喜欢的一种关系，因为我们都希望保留一些美德，保留一些聪明的认知，都希望保留一些我们身边熟悉的人的感觉，而这些人可能经逝去了。</p> <p><strong>刘慈欣：</strong>我觉得时间地点可能有两个途径，一个途径可能比较容易，就像《黑镜》演得那样，就把网上大量的数据和日常生活中所有的录像什么、所有资料综合起来，把这个大数据生成一个他。这个看上去可能很像，但这个我觉得不是一个人真正的复制。真正的复制应该是从最根本的，从物理的生物学，就是把你的大脑完全读出来，像读一个硬盘一样读数据，这个对我们现在太远了。</p> <p>还有一句话就是说一个大脑真的能代表一个人吗，很难说。就像一个计算机，你把硬盘拔出来揣在口袋里拿走了，你等于把整个计算机拿走了吗，没有，可能你把它主要部分都没拿走，它的 CPU、它的内存条这些东西。</p> <p><strong>骆轶航：</strong>我记得我奶奶刚刚走一段时间，我不断听磁带，那磁带是我小时候八十年代录的，录的都是日常聊天。八十年代的磁带，后来就坏了，坏了以后我很长一段时间我还想去听它，但是我不知道该听什么，其实我觉得我们有时候需要去复制的就是这样的东西，用机器人的形态复制。</p> <p><strong>刘慈欣：</strong>这些数据不是活的数据，是死的数据，没有办法进化，没有办法随着环境改变。假如像我说的那种从生物学最基本的层面，最基本的元素复制出来的人跟真的一样，它也能感知外部世界，也能够进化。</p> <p>其实像你说的那种，用大数据来构造一个已经去世的人的技术，现在差不多能做，据我所知没有什么人愿意去做这个。当时是重庆还是哪儿，有一个做公墓的企业家，他有一个想法要做一个很现代化的墓，他的想法就是在墓碑上有一个屏幕，反正最后模拟这个亲人的影像。这个效果除了恐怖以外，没有别的任何效果，特别是晚上去了墓地。</p> <p><strong>五、当人工智能遇见智人，会不会形成“共生”的新物种？</strong></p> <p><strong>骆轶航：</strong>您本身是小说家，我们能不能用一些更浪漫的方式描述你的理解，到底什么是人机交互，什么又是人工智能？</p> <p><strong>刘慈欣：</strong>这个真的很难描述。因为智能的定义是什么，在我们来说智能可能分两部分，一部分就是很硬的智能，基于数学的推理、逻辑这些，这些方面计算机早就超过人了。另外一方面就涉及到人本身情感很微妙的这些人文的、情感的这些东西，目前可能人工智能还在快速的学习当中。</p> <p>但是我觉得总有一天会以很大的计算速度、很好的算法，最后以海量的原数据来制成，肯定计算机在情感方面也会超过人的。但是像你说的最后的话，这样的一个局面会带来一个什么样的人类文化，这个很难预测，这个可能性太多了。</p> <p><strong>骆轶航：</strong>这个东西应该是我们人类在出现，也就是现代人类——智人出现几万年以来，可能是一两万年，以来最大的一次变化。</p> <p><strong>刘慈欣：</strong>这个变化用一个词儿可以形容，叫 other，就是他者。人类文明什么都遇到过，但是唯一一种东西我们从来没有遇到过，就是他者。他者的意思就是一个有自我意识的，在智力上与你相当或者比你这么一个存在，这么一个存在从来没有过这个东西，假如真的出现了，甚至我们仅仅知道它存在了，对我们人类文明、人类文化会产生什么样的冲击，就是说在这个层面上外星人跟人工智能倒是有共同之处，都是他者。</p> <p style="text-align:center"><img alt="对话刘慈欣：人工智能是不是新人类？" src="https://simg.open-open.com/show/b9c313673785381b4db9a01922c3243a.jpg" /></p> <p><strong>骆轶航：</strong>都是他者，这个事情往小了说是相当于智人取代其他的人种，就是几十万年前的那个阶段，这样一个代际的轮替。</p> <p><strong>刘慈欣：</strong>曾经智人在欧洲和尼安德特人共同生活，也算是一个他者，但那个他者，好像他们之间还没有生殖隔离。</p> <p>而机器绝对是他者，而这个他者如果在人文情感、文学艺术上也侵入到人类的领域的话，那我们生活可能会发生根本的改变，至于说怎么改变，可能性太多了，都是科幻小说的故事和资源，但是要真的适应那么一个社会也不是太容易。</p> <p>不过目前来说，我们对人工智能的期望和目前人工智能所达到的技术水平之间距离很远，而媒体把它混淆了，好像让我们觉得像库兹威尔在奇点里面定了一个时间，就是机器取代人的时间是 2045 年，这个有点太乐观了。</p> <p>目前，无论是你看人脑的一个神经节很可能相当于一台 CPU 或者甚至一台高级计算机，人脑有一千亿个神经节，而我们目前速度最快的计算机 CPU 大概也就一万个左右，这差的太多了，这个技术差距什么时候赶上，这也是一个问题。</p> <p>所以说我们说的这些是一个设想，但是它还有很大的可能会到来，但它到来的途径和它到来的方式可能不是我们想的。</p> <p><strong>骆轶航：</strong>这个比我们刚才说的，机器在文化、艺术方面然后这种创作和人类可以比肩的这个事情还耐人寻味。</p> <p><strong>刘慈欣：</strong>所以我觉得这个合作项目（阿里达摩院和清华大学的人机交互实验室），它很可能向人类文明和文化最核心的领域插进的一些楔子、一个突破。</p> <p><strong>骆轶航：</strong>我觉得它一定会做一些探索，有可能他优先解决的一个问题就是机器能够辅助人类实现目的的一些方式，比方说服务、比方说医疗，嗅觉、视觉上的一些东西，养老、陪伴这样的一些东西，人力不够的时候怎么让机器去陪伴，那么机器能不能对一些失明的人仿真视觉，能够让他去恢复一部分东西，这个是非常美好的期盼。当然接下来的话不可避免的还是会延伸到机器自身的领悟力和创造力，这个问题也是我们作为人类在我们的有生之年，可能还不会面临这个事情根本性改变的时候。</p> <p><strong>刘慈欣：</strong>那不一定。在我们面前，现在我们的意识深处，我们的情感好像是一道马奇诺防线一样，把机器挡在外边。但是像历史一样马奇诺防线不是被攻破，是被绕过去的。所以机器从哪一条路绕到我们背后，在情感上超越我们，在文化上超越我们，这个是不知道的。</p> <p><strong>刘慈欣：</strong>就像你说的这个项目，我们一步一步地在积攒，我们在某个服务项目、养老项目上，人和机器的交互算法越来越完善，后面的数据支持越来越庞大，很可能总有一天量变就变成质变，就悄悄的不以我们的意志为转移在发生了，那条绕过马奇诺防线的路就通了。</p> <p><strong>骆轶航：</strong>比方说这个日子早晚有一天会来临，到底应该有强大的无力感还是有力感，我觉得这个事情现在还不知道。</p> <p><strong>刘慈欣：</strong>我觉得你要想避免这个困惑，你最好的选择就是你跟机器结合起来，反正身体也老了。人机结合我觉得是一个跨越智能机器危机的一个途径，我打不过你我就加入你嘛。</p> <p><strong>骆轶航：</strong>我们主动把人和机器在人的生理跟机器的生理、人的心理跟机器的心理、人的意识和机器的意识，去做一个结合，变成一个全新的物种。</p> <p><strong>刘慈欣：</strong>我觉得您说的这种课题对人的五种情感的模拟，最后很可能也向这个方向发展，这可能也是一个出路。</p> <p><strong>骆轶航：</strong>它会有自己情感生成的方式，会有自己感知世界的方式。</p> <p>来自: <a href="/misc/goto?guid=4959012995337884436" id="link_source2">www.pingwest.com</a></p>