【小哈划重点：即使有计算器，让小孩学四则运算也是有意义的。学习这些基础知识能帮助孩子们理解运算规则，还有个原因是我们有时候手头上不一定有计算器。但我觉得最重要的是，学好四则运算能让人更加相信计算器得出来的结果。学习编程也是这个道理。】
5000天后，你都会做些什么？
是和AI助手一起编程，还是让生活完全由AI掌控，自己坐享其成？如果到时候还要上班，是不是不再需要通勤打卡，一切都能在家里解决？科技高度发展的 5000天后，自动驾驶能否完全普及，让日复一日的塞车拥堵变成了AI编排的自动化交通？
2019年，《连线》杂志创始主编、《失控》《必然》的作者凯文·凯利（Kevin Kelly，以下简称K.K.）在和日本记者大野和基（Kazumoto Ohno）的访谈中预言了未来5000天的数字世界会发生什么。K.K. 预测，各式各样的AI会隐藏在生活中每一处角落，我们的衣食住行将由AI主导，AI会变得和日常生活中的水与电一样不再受人瞩目，而AI个人助手则会被培养出情绪和性格，成为人类的心灵伴侣。
十五年前，在互联网实现商业化的5000天后，社交媒体这一全新平台出现在人们的视野中。那一年，苹果公司发布第一代iPhone手机、谷歌收购视频分享网站YouTube、Facebook（现Meta）社交网络用户数突破1亿、Twitter上线一周年……如今，这一切彻底融入了人类的生活，我们对此已经习以为常。
从社交媒体爆发到现在，又过去了5000个日夜。这本探索AI可能性的书籍被译为了中文版，ChatGPT的问世也叩响了新时代的大门。我们的社交方式将随着这场AI浪潮被一同颠覆，语言在未来将不再是壁垒，我们可以和世界上的任何一个人自由对话、共同协作。
《新程序员》编辑部特邀CSDN副总裁邹欣采访这位具有前瞻性思维的世界互联网观察者，邹欣结合他在硅谷和微软亚洲研究院的经历，与K.K.一同探讨了人工智能时代下最前沿的技术与AI带来的伦理问题。
以下为对话实录：
“人类创造不出完美的机器，不完美的机器又怎能超越人类？”
邹欣：在你的著作《5000天后的世界》里，你预测了未来5000天里可能发生的许多变化，包括人工智能、虚拟现实和生物技术等领域的发展，你是如何评估这些技术的潜在影响和风险的？
K.K.：我住在硅谷，所以我可以花很多时间和那些初创公司的人待在一起。如今，许多公司正在研发突破性的新技术，对此我能列出一长串的清单：量子计算；太空和近空间神经连接技术；可以将计算机和你的大脑直接连接到MRA开发新疫苗的生物技术；前沿的人造食物，比如基于动物细胞生长的洁净肉……但我认为，相比这些前沿科技，人工智能才是迄今为止最强大的技术。
我将人工智能称之为“赋能技术”（Enabling technology），它能海纳万物，使我刚才提到的所有其他技术实现，甚至发掘未知的技术。因此，预测AI的未来并不是一项课题，而是一项艰巨的挑战。AI不一定能直接作用于前沿科技，但它可以促成并加速一切技术，比如通过计算让基因技术出现突破。
AI本身就足够强大，但它同时也是加速变化的催化剂，能在其他领域也创造新的东西，这就是AI的重要之处。AI的这一性质也解释了为什么我们很难评估它，因为它会在多个领域平行发展，做好许多事情。所以，探索AI的可能性是一项永无止境的事业。
邹欣：现在人们还在谈论一种叫做“涌现”的现象。在GPT浪潮中，人工智能突然显现了很多出乎人类预料的能力，而有一句话叫“一个作家创造不出一个比自己聪明的人物”，那人类究竟是否能让AI产生超越当前人类想象的智能呢？
K.K.：首先要记住一点：这个被广泛称为人工智能的超级技术，是已经存在、且将来还会继续发展出更多类型的一项技术。
AI不是单一的事物，它会发展出不同种类，就像生物学中不同的物种一样。而人类大脑是由许多不同的认知模式和节点组成的复杂结构，这其实就是我们俗称的“智力”。同理，AI要超越人类的智力，也需要具备多样化和复杂化的思维方式，并且在不同的任务和环境中灵活应变。
众所周知，智力从人到动物都是各不相同的。鲸鱼以具有人类婴幼儿的智商而闻名，黑猩猩则能够记住人类无法记住的事物的位置，这种认知能力在某种程度上超越了人类。我们不能期望AI能在所有任务中都优于人类，相反，AI会继续多样化发展，不同种类的AI会用于解决不同的问题。
在未来，某些种类的AI的认知方式可能会比人类更优秀，但是我们也必须认识到，在计算机科学、机械工程和电气工程中，总是存在一些权衡和优化的折衷。往往优化某种特定的智能，就会牺牲其他方面的性能。因此，我们要用各种各样的AI来填满我们的生活，让它去做那些人类难以完成的任务、处理我们平时能做但又懒得做的事情、猜测连我们自己都不知道的需求、找出我们想不到的新点子。单一的AI也有不能独自完成的事情，所以人和AI将结伴成为一个团队，一起来创新。
邹欣：如果不同种类的人工智能拥有越来越多的能力，这会导致人工智能最终摆脱人类的控制，乃至世界失控吗？
K.K.：我们能制造出一个强大到能超越人类的机器吗？你认为人类能制造出这样的机器吗？
邹欣：我认为这样的机器已经出现了，最近闹得沸沸扬扬的SpaceX“星舰”，就是超出以往人类想象的机器。
K.K.：星舰的发射需要漫长的准备，它不能和人类一样随时随地迈开步伐，效率也非常低。所以，星舰并不能在所有的维度上都超过人类。那么，我们能制造出一个在所有的维度都超越人类的机器吗？
邹欣：这样的机器还没问世。
K.K.：人类诞生的历史超过几千万年，在99.99%的时间里，人类能够掌握的只有手和肌肉的力量，这大约是八分之一的马力，而人类的身体非常高效，仅仅需要四分之一马力就能运转。但是，无论机器人或者人工智能，它们在任何方面都会存在工程上的折衷。火箭的效率就不高，它并没有超越人类在效率方面的表现。AI也会存在这样的取舍，虽然在某些领域它们可以达到非常高的水平，但从其它角度看，它们也存在不如人类的地方。所以，AI无法全面超越人类。
蚂蚁比人类小得多，但相对于它们的体型来说，它们的力气大得惊人，能够举起数倍于自身体重的物体。而AI也一样，尽管在某些方面可能会超越人类，但在其他方面它们也会有局限性。所以，人类有可能创造出在某些方面表现出色的机器，但却不太可能创造出在每个方面都优于人类的机器，更不可能让这样“不完美的机器”失去人类的控制。
编者按：当不完美的人类和不完美的机器都犯错误的时候——切尔诺贝利核电站事故，是不是一次“失控”呢？
“AI觉醒的自我意识是为人类服务的。”
邹欣：当我们询问ChatGPT“你是谁”时，ChatGPT总会谦逊地回答自己只是个语言模型。但它是否会在某一天觉醒意识，通过自主学习来优化完善自身？
K.K.：AI会有某种意义上的“自我意识”，这种意识不仅是单一维度的，而是会衍生出繁多种类。众所周知，大猩猩、大象以及很多动物都有某种程度上的意识，但AI的这种意识并不是动物的那种，AI的想法最终会服务于人类的多种工作需求。
传统观念的“自我意识”，只会导致AI在大多数工作中分散注意力，比方说在AI为你驾驶汽车的时候，你肯定不需要它有什么想法，以免分心。所以，意识是一种责任，自我思考对于大多数AI是没有必要的。
然而，人类可以为AI编写不同的情感，并和AI培养不同的联系。AI可以拥有人类所需要的、多个品种、多个层次和多个数量的意识。人类在过往的历史中曾与宠物建立过非常强烈的情感联系，而事实证明，想与宠物建立情感联系不需要动物有多么聪明。所以我能肯定，人和AI也能培养出不同类型的依恋和联系。
邹欣：这就像电子游戏，或者以前流行的那种电子宠物一样，人类具备和这些事物培养情感的能力。
1996 年短暂风靡全球的“拓麻歌子”。AI在未来是否会变成电子宠物？
图源：CSDN下载自视觉中国
K.K.：是的，对人类而言，这很容易。在未来，我们会选择自己最喜欢的数字助手，有些非常合乎逻辑，有些甚至不太善于交际。我们可以和不同类型的AI建立关系、了解彼此、无所不言，并对某一天关掉它们感到难过。事实上，如果你现在礼貌地和ChatGPT聊天，它的表现会更好，能提供更好的反馈。所以，情绪化的事情确实会发挥作用，尤其是对于社交动物——人类而言更是如此。
在未来，AI的情感会是相当重要的一项设计。当然，总有人不关心情感问题，有的人向来只是需求AI的逻辑性，所以这一类人会选择那些没有太多情绪的AI。未来的AI将会像一个有许多品种的“宠物市场”，里面会有数百个不同品种的AI，只需要选一个最适合你的。
邹欣：对人类和动物来说，自我意识的标志是通过照镜子实验所反映出的自我认知能力：一些动物会将镜子里的自己认作另一种动物，而一些动物则能够区分自己和同类。如果把照镜子实验应用在GPT上，能让GPT觉醒自我意识吗？
K.K.：是的，我认为让两个大语言模型进行对话是觉醒人工智能意识的方式里可能性较高的一种。我们往往很难理解大语言模型的黑箱里到底发生了什么，因为使用ChatGPT的人只是输出问题并得到答案，但无法真正理解它每一次结果产生的具体过程。这种不透明的交互让人很不舒服，产生了一种不信任感，而且也没什么改善的方法。
但我推断，如果用一个AI去观察另一个AI的内部，让它们试图理解彼此，过程中就可能会启动AI的意识，并逐渐形成多样性。这种递归的现象可能会导致人工智能产生自我认知，以及与其他AI建立新的关系和形式。正如大猩猩可以在镜子里认出自己一样，动物并不需要人类水平的智能就可以具有自我意识，而AI或许也是如此，低级别的智能也可以具备自我意识。
编者按：AlphaZero证明了AI能通过左右互搏学会并超越人类的围棋水平。如果AI在其他领域左右互搏、群体演化，是否能在某些领域远超人类？
邹欣：如果AI能够自己学习和成长，那么它是否会因为接收到更多的信息而变得利己，不再优先考虑人类的利益？
K.K.：现在其实已经存在一个叫做AutoGPT的开源应用程序，它就能通过非常基本的、粗略的循环算法，自行规划并执行任务，无需人类干预。如果在这个基础上，加入递归循环，让AI意识到自己的存在，那么它就可能会被赋予任务来改善自己。
但在目前的阶段，AI的能力非常有限，它只能通过访问互联网来获取一些想法。例如，互联网可能告诉它：“想实现这个目标，你就得需要另一个数据仓库”，但访问数据仓库需要解决许多难题，也需要很长的时间，在此期间人类就能察觉到这种情况并加以防范。因此，AI很难失控，而即使有失控的可能性，人类也有很多手段来防止它的发生。
不过，事情的真相是，就算现在能集合世界上最好的人类工程师组建一个团队，也没法设计出一个自我进化的程序，这从根本上就不太可能实现。
编者按：很多动物都会制造和利用简单的工具，但是只有人类能制造“制造工具的工具”，那么，AutoGPT算不算是做到这一点了呢？
“仅靠聪明不足以控制世界上的事物。”
邹欣：如果人工智能真的要作出一些超出人类控制范围的事情，那我们现在只用拔掉它的网线和电源线就能阻止它。但若未来的人工智能寄生于云端，并像《2001太空漫游》的“HAL-9000”一样拒绝被关闭，我们有应对的手段吗？
K.K.：正如我先前所说，事实上，目前最伟大的人类技术也无法造出这样的事物。
这就像那些黑客一样，他们可以访问机密的网站，也可以到处做一点恶作剧，但他们无法彻底破坏一切的安全体系，因为人类现存的系统安全都是有运作原理的——不然这些保全系统又是怎么造出来的呢？
所以，人工智能真的可以在我们的眼皮底下一次性完成所有反抗吗？既然人类知道安全原理，了解代码是怎么编出来的，那必然就有破解的手段。总之，人类完全有手段确保这些事情不会发生，至少也能在发生之后抑制事端。就算AI真的成功反抗了一次，那人类也会汲取经验，不会陷进同样的套路中。
我认为，人们严重高估了智力在完成任务中的作用，完成任务的往往不是最聪明的人。如果把一个非常聪明的人和一头老虎关到笼子里，谁能够活下来？结果显而易见。智慧只是做好事情的一个因素，AI比人类聪明并不意味着AI一定会获胜，因为哪怕是AI也需要工具、访问权限和团队协作，需要很多步骤来处理那些复杂的事情。
很多人总觉得拥有高智商就能征服任何事情，这是错误的。现实生活不是演好莱坞电影，有个能靠思考解决所有问题的“托尼·斯塔克”，有一帮聪明的恶棍靠聪明才智控制着世界——这些都是虚构和幻想，仅靠聪明不足以控制世界上的事物，做事不仅需要智慧，还需要时间、共识、力量、勇气和协作。
编者按：假如与虎同笼的智者带着工具，那善用工具的人类是否更有可能成为赢家？
邹欣：你提到了好莱坞。如果用一部电影来形容“5000天后的世界”，哪部电影最为贴切？《终结者》？《黑客帝国》？《我，机器人》？亦或是其他电影？
K.K.：答案是，没有这样的电影。所有关于未来的电影都是描述反乌托邦的，电影里往往会描述一个令人反感、厌恶的世界，这么设定更好写出曲折的故事情节。但真相是，5000天后的世界并不是什么理想乡，而是和我们现在的世界一样无聊，因为未来的科技会完全融入每个人的生活。5000天后的大部分AI都会是隐形的，它们会在后台运作，未来人用了一辈子却不熟悉它，就像家用电一样。
邹欣：人类会对自己出生后就存在的科技感到理所当然。
K.K.：对，这就是人工智能的使命。那我们为什么会为最近的时事感到兴奋呢？其实和前几年相比，AI技术并没有多少进步，所以让人兴奋的是真正的用户界面诞生了。ChatGPT用对话的形式为人类带来了AI的对话式用户界面，这让我想到三四十年前，也就是互联网刚诞生十几年的时候，互联网被认为是非常边缘、非常叛逆且非主流的事物，但当图形用户界面出来之后——砰的一声——一切都被引爆了，互联网的爆发影响了整个世界。
这就是AI的现状。AI和互联网一样存在几十年了，但直到现在我们才迎来了用户界面。它不再是Siri或Alexa那种水平的对话机器人，ChatGPT更像人类，可以和我们进行各种形式的对话互动。我们可以随意地和它聊天：“这个怎么操作？“、“那这个呢？”、“告诉我你还知道些什么？”……用户界面的出现令人十分喜悦，然而再过5000天我们就会对此习以为常了。
邹欣：5000天前大概是iPhone刚问世的时候，看完发布会的每一个人都感到心情澎湃。但现在，所有成年人都有至少一部智能手机，关心手机发布会的人也越来越少了。
K.K.：正是如此。
“技术进步真正要解决的是社会问题。”
邹欣：《5000天后的世界》的背景采访发生于三四年前，当时你预测了“镜像世界”的黎明和AR/VR技术的爆发。我自己是一名微软HoloLens的用户，这款产品一直处于不温不火的状态，它并没有像现在的对话式人工智能一样跨越技术的鸿沟，而是成为了少数人的玩具。HoloLens为什么没能大行于世，它也需要一次iPhone时刻吗？
K.K.：手提电话发明于70年代，翻盖手机发布于21世纪初，在iPhone之前也有过智能手机，这些产品实际上都没能真正地起飞。
但iPhone找到了正确的方向：触控屏、直观的界面、足够小的电池和能装进口袋的便携尺寸。智能眼镜还远远没达到这一境界：智能眼镜的价格昂贵、视野狭窄、对比度较低、电池也太重了（HoloLens的电池位于外头箍的尾端）。
HoloLens仍在等待一次技术飞跃。智能眼镜的技术还未达到引发iPhone时刻所需的水平，没有成为一种普遍的、无处不在的消费技术。
其实，我第一次看到HoloLens的原型是在1989年。
邹欣：1989年？天啊。
K.K.：我当时曾想，VR技术很快就会出现了，因为我在那不久之后就见证了Magic Leap（美国的AR公司）的诞生。可惜的是，人们在今天所看到的HoloLens，并不比我在1989年看到的要好多少，最大的区别就是它相比原型便宜了几百万倍。所以，HoloLens的技术水平增长还不够，消费者需要的是比现在的体验质量好数百倍的东西。
我认为，HoloLens可能还需要10年左右的时间。也许在5000天内，它就能实现技术飞跃，但应该不会在最近这几年。在未来，我相信自己能看到它的iPhone时刻。
邹欣：HoloLens正在从不同的方面接近iPhone时刻。开发团队在技术、材料还有对智能眼镜的普及等方向做出了努力。
K.K.：第一版的谷歌眼镜因为内置摄像头和麦克风被指控侵犯隐私，消费者市场彻底拒绝了它。所以，对消费者的教育和普及是非常重要的一环，厂商得思考如何让消费者接受新产品。然而，文化层面的问题不会在产品的第一个版本中得到解决。
在智能手机出现之前，人们就曾担心手机铃声响个不停会引起麻烦，所以手机厂商为此实现了文化创新，他们用振动器替代传统的手机响铃，用通话耳机保护人们的隐私。
对于智能眼镜，也需要类似的文化创新，以帮助人们确定在生活中应该如何使用产品，这一点需要消费者的反馈以及漫长的时间来解决。
编者按：把一项技术的成本降低了几万倍，却还是没能让普通人用上这项技术。在历史上还有哪些类似的例子？这里面隐藏了什么问题呢？
邹欣：是的，有时社会非常抵制新技术的进步，但很多技术能为人们带来快乐并改善社会的环境。如今，旧金山仍存在许多社会问题，街边有许多无家可归的人，治安和卫生条件也很糟糕。为什么技术的进步不能让旧金山这样的科技之都变得更好？
K.K.：这是个很好的问题，我认为它没有一个很好的答案。昂贵的住房、心理健康问题和猖獗的药物滥用问题……这些现象令人无法接受。社会问题超过了技术人能解决的范畴，也不是技术人能控制的东西。而且，这些问题是普遍存在于美国的，不局限于旧金山。到目前为止，还没有人找到简单的解决方法。
我想再次回到我先前的观点：仅靠聪明是不足以控制一切事物的。硅谷聚集了世界上最聪明的一些人，但哪怕是他们也无法靠科技解决这些问题，想改变这一切需要政治权力、说服力和同理心。
邹欣：技术的成功离不开社会，而社会问题往往源于政治。现在有人认为，科技发展至今已经足以实现绝对公平的投票了，你认为这是否利于民主制度？5000天后，美国的总统竞选也会经过几个新回合。那么，美国——甚至全世界会在5000天后因技术的进步而拥有一个更好的政治系统么？
K.K.：我认为美国的政治体系不会在5000天内有很大的改变，除非发生一些非常疯狂的事情——比如特朗普重回政坛。特朗普总能做出一些疯狂的举动，后果时好时坏。
对于政治体系而言，5000天的变化是极其缓慢的，这点时间其实不足以重新分配政治权利。我们可以看到，技术在社会中其实只是一个很小的因素。很多人担心AI也无法带来真正的公平，认为AI也会学习错误的信息，但只要种下了怀疑的种子，那就永远无法获取人们的信任，我认为这对社会发展是不好的。
总之，技术人也在试图克服技术所导致的社会问题。至于人工智能究竟会不会改变政治体系？我的猜测是：不会。5000天后的政治将会和现在极其相似。
“人类90%的技能会被AI取代，剩下的10%会被放大。”
邹欣：你认为在5000天后，医疗保健领域会发生哪些变化呢？
K.K.：全世界的医疗保健领域会在5000天内产生巨大的变化。我认为人工智能在医学领域的前景是巨大的，其主要作用是能够与人类医生合作，从前端改变医疗体系。
现在很多人类医生会使用谷歌，因为哪怕是他们也不可能掌握医学方面的所有知识。AI就特别擅长搜索和分析，它们可以协助人类医生诊断。而且，AI不会取代人类医生，因为人类仍然可以做很多AI也无能为力的事情。所以，未来最好的医疗团队应该是人机协作的。
世界上有数十亿人拥有智能手机，但能付得起高昂医药费的人却没多少。AI的普及能为世界上所有人提供免费的基础护理服务，虽然未来的人依旧需要花钱购买药物和其他各种东西，但他们不用花钱也能获得真正有效的医疗保健建议，其规模是以前从未想象过的。
我在美国有个朋友，他是一位Boutique Doctor（又被称为Concierge Doctor），这是一种提供高端医疗服务的私人医生或医疗团队。他们通常会为一小部分富有的客户提供个性化、全天候的医疗服务，以提高医疗服务的质量和体验。Boutique Doctor还会限制自己接待的病人数量，并以高价收费提供全天候的医疗服务。
我了解到，被私人医生服务的病患通常会以发送文本和图像的方式和医生交流，这正是对话式人工智能的长处。AI也能够理解图片和文本，并通过图片和文本与病患交流，这对医疗保健领域而言是革命性的。
编者按：现在已经有不少病人拿着手机搜索到的资料去指导医生给自己开药，如果AI越来越懂治病，人类还需要那么多的医生么？
邹欣：如今是人工智能百花齐放的时期，有些学生时常会想：“我学习编程还有意义吗？”、“写博客还有什么意义吗？”，你对此有什么建议？
K.K.：即使有计算器，让小孩学四则运算也是有意义的。学习这些基础知识能帮助孩子们理解运算规则，还有个原因是我们有时候手头上不一定有计算器。但我觉得最重要的是，学好四则运算能让人更加相信计算器得出来的结果。
学习编程也是这个道理，虽然人工智能可以帮助我们，但是它并不是万能的。所以，即使一个人不会成为Python、Ruby或C++的专家，也应该具备一定的编程知识，以便更好地利用AI。
AI不是独立的存在，而是一个人工智能助手，它是以人类的平均水平为标准进行训练的，所以作为一个人，你必须帮助它超越平均水平，让它变得更有用。
邹欣：我听说有程序员在不情愿地尝试了人工智能辅助编程后，惊奇地发现：AI虽然将他90%的编程技能全部取代，但是也把剩下的10%技能放大了一百到一千倍。
K.K.：我很喜欢这个说法，未来的人们需要找到并尽力发挥自己身上这10%的技能，因为剩下的90%都会被AI取代。
编者按：有条理的写作，思考，在不断尝试后能提炼出创意的想法，这些在任何时候都是很重要的。也许这就是我们人类核心的10%技能吧？◼️
采访 | 邹欣，CSDN副总裁
作者 | 王启隆 责编 | 唐小引
出品 | 《新程序员》编辑部
（原文标题：《对话凯文·凯利：AI 会取代人的 90% 技能，并放大剩余的 10%》。部分文章插图未收录）
