本文归集频道栏目及路径访问: 首页 > 人工智能严选必读 > 学界观察 • 媒体短评

当智能体具备生命体征时,超级人工智能将给人类带来什么?

techtalks ☉ 文 来源:新智元 2020-07-06 @ 哈希力量严选

【哈希力量划重点:人工智能没有「意识到」其目标,并且漫不经心地压缩数字以达到似乎这一无关紧要的目标,因为我们认为植物和树木即使没有同样的意识也可以存活。】

你是否对拔下机器人的插头或关闭人工智能算法而感到难过?暂时不会。EFN哈希力量 | 智能的力量

但是,当我们的计算机变得比我们更聪明时,我们又如何呢?EFN哈希力量 | 智能的力量

关于通用人工智能后果的辩论几乎与AI的历史一样悠久。EFN哈希力量 | 智能的力量

大多数讨论都将人工智能的未来描述为像终结者那样的启示录或像Wall-E那样的乌托邦。EFN哈希力量 | 智能的力量

但是,鲜有人讨论,当人工智能体有类人的生命体征,智力和意识的特征时,我们将如何与之互动,去认知和接受它们。EFN哈希力量 | 智能的力量

萨格勒布经济与管理学院的科学家Borna Jalsenjak在最近发表的一篇文章中,讨论了超级智能的AI,以及生物体与人造生命体之间的类比。EFN哈希力量 | 智能的力量

这篇文章的的标题为,「The Artificial Intelligence Singularity: What It Is and What It Is Not」,收录在《深度学习基础指南》中。这是一本论文集,探讨了人工智能的不同阶段历史,科学和哲学方面。EFN哈希力量 | 智能的力量

AI奇点何时会出现?EFN哈希力量 | 智能的力量

最先将「奇点」这一概念引入人工智能领域的是美国的未来学家 Raymond Kurzweil。在他的《奇点临近》《人工智能的未来》两本书中,将二者结合,他用「奇点」作为隐喻,描述的是,当人工智能的能力超越人类的某个时空阶段。EFN哈希力量 | 智能的力量

奇异性是有关通用AI的讨论中经常提到的一个术语,但我们在奇异性方面存在很多困惑和分歧。大多数科学家和哲学家都认为关键的一点是,这是AI系统变得比我们更智能的转折点。EFN哈希力量 | 智能的力量

AI奇点出现的的另一个重要方面是时间和速度:AI系统将达到可以不断重复和加速地自我完善的程度。EFN哈希力量 | 智能的力量

「更简洁地说,一旦有一种AI达到人类水平,并且AI可以创建稍微智能的AI,然后再创建更智能的AI,并且会像这样继续下去,直到出现一种比人类先进得多的AI。」Jalsenjak写道。EFN哈希力量 | 智能的力量

需要明确的是,我们今天拥有的人工智能技术,即狭窄的AI,距离实现这一壮举还差得很远。EFN哈希力量 | 智能的力量

Jalsenjak将当前的AI系统描述为「特定领域的AI」,比如只擅长制作汉堡的AI。与人类不同,这些系统只能学习或被教导如何执行特定任务,这就是为什么它们被称为狭窄AI。EFN哈希力量 | 智能的力量

这不是关于如何以及何时实现AGI的讨论。EFN哈希力量 | 智能的力量

这是一个不同的话题,也是许多辩论的焦点,大多数科学家认为,人类级人工智能至少需要几十年的时间。EFN哈希力量 | 智能的力量

Jalsenjack 表示,当我们真正实现时,无论是明天还是一个世纪,如何去定义AI和人类的身份?EFN哈希力量 | 智能的力量

在AI社区中,许多人都会将将机器视为人类,尤其是当它们具有智能的迹象时。虽然这显然是对当今技术的高估,Jalsenjack还提醒我们,通用人工智能不是必须复制人类的思想。EFN哈希力量 | 智能的力量

他在论文的脚注中写道,「即使有了先进的人工智能,也没有理由认为先进人工智能与人类智慧有相同的结构。」EFN哈希力量 | 智能的力量

人类与当前人工智能技术之间的最大区别之一是,人类是活着的生命体,但AI算法却并非如此。EFN哈希力量 | 智能的力量

Jalsenjak写道:「当今的技术发展不能让AI具备生命体征。但我们奇怪的是,是否会出现超级的AI,例如在关于奇异性的讨论中可以预测到这种超级智能,这值得一试。」EFN哈希力量 | 智能的力量

这种人造的生命会对我们如何认知AI并采取行动产生巨大影响。EFN哈希力量 | 智能的力量

具有怎样的生命体征可以说人工智能体是「活着的」?EFN哈希力量 | 智能的力量

Jalsenjak从哲学人类学的概念中汲取了想法,指出生物是可以自主行动并照顾自己和自己的物种。至少现在,无论是多么先进的机器,它们在这方面始终只能作为人类的延续而发挥作用。EFN哈希力量 | 智能的力量

生命有不同的层次,而且正如AI发展趋势所示,人工智能正在慢慢朝具有生命的体征靠近。EFN哈希力量 | 智能的力量

根据哲学人类学的观点,当有机体朝着目标发展时,生命的最初迹象就形成,在当今的目标驱动下的AI也同样具有。EFN哈希力量 | 智能的力量

Jalsenjak说,人工智能没有「意识到」其目标,并且漫不经心地压缩数字以达到似乎这一无关紧要的目标,因为我们认为植物和树木即使没有同样的意识也可以存活。EFN哈希力量 | 智能的力量

认为具有生命体征的的另一个关键因素是生物体能够有自我修复和改善自身的能力。它也应该生育并照顾后代。EFN哈希力量 | 智能的力量

这是我们在树木,昆虫,鸟类,哺乳动物,鱼类以及几乎所有我们认为活着的东西中看到的特征。自然选择和进化的规律迫使每个生物体能够学习和发展适应环境生存的技能,以确保物种的生存。EFN哈希力量 | 智能的力量

关于生育照顾后代,Jalsenjak提出,人工智能的繁殖并不一定与其他生物体一样。EFN哈希力量 | 智能的力量

机器不需要后代来确保物种的生存。AI可以解决材料劣化的问题,只需手头有足够的替换零件即可将故障零件更换为新零件。EFN哈希力量 | 智能的力量

关于自我完善能力,就更加微妙了。Jalsenjak指出,即使不同软件的自修改程度有所不同,但已经有能够自修改的软件。EFN哈希力量 | 智能的力量

当今的机器学习算法在一定程度上能够使其行为适应环境。他们将许多参数调整为从现实世界中收集的数据,并且随着环境的变化,可以在新信息上对它们进行重新训练。EFN哈希力量 | 智能的力量

比如冠状病毒大流行可能会干扰我们正常行为下进行训练的AI系统。EFN哈希力量 | 智能的力量

由于人们戴着口罩,面部识别算法不能够检测到人脸。而这些算法现在可以通过对戴口罩的脸部图像进行训练来重新调整其参数。EFN哈希力量 | 智能的力量

显然,与人类和高等动物的能力相比,这种适应水平微乎其微。EFN哈希力量 | 智能的力量

但是,理想的自我完善型AI可能会创造出全新的算法,从而带来根本性的改进。这就是所谓的「递归式的自我完善」,将导致更加智能的AI不断循环和加速完善。EFN哈希力量 | 智能的力量

今天,我们有一些像遗传算法和网格搜索的机制,可以改善机器学习算法的不可训练组件。但是它们带来的变更范围非常有限,并且仍然需要一定程度的开发人员的手动操作。你不能指望递归神经网络会通过许多突变而变成一个Transformer。EFN哈希力量 | 智能的力量

Jalsenjak指出,递归式自我完善将使AI有可能完全取代正在使用的算法,正是奇点出现所需要的。EFN哈希力量 | 智能的力量

Jalsenjak总结道,「通过类比及观察AI已有的特征,可以认为超级人工智能是活着的,说AI是人类的延续这一说法是无效的。它们将有自己的目标,也许还有自己的权利。人类将首次与至少与他们一样聪明,而且可能更加聪明的智能体共存于地球。」EFN哈希力量 | 智能的力量

你仍然可以在不感到内疚、自责的情况下关闭机器人的电源吗? EFN哈希力量 | 智能的力量

反思:AI自由意志,AI道德仍将是我们继续思考的问题EFN哈希力量 | 智能的力量

贾尔森贾克在论文的结尾承认,对人造生命体的反思还提出了许多其他问题。这里描述的关于生物的特征是否足以使某事物被认为是活着的,或者这仅仅是必要的条件?EFN哈希力量 | 智能的力量

Douglas Hofstadter在《我是一个奇怪的循环》中否认了这一观点。他认为个体的自我意识和思维是将其他生物,智能体与人类区分开的关键。EFN哈希力量 | 智能的力量

自由意志也是一个悬而未决的问题。Jalsenjak写道:目前尚不清楚未来的AI是否有自由意志的可能性。EFN哈希力量 | 智能的力量

最后,还有超级智能AI的道德问题。这是一个广泛的主题,包括AI应该具有的道德原则,人类对AI应当具有的道德原则,以及AI如何看待与人类的关系。EFN哈希力量 | 智能的力量

参考链接:EFN哈希力量 | 智能的力量

https://bdtechtalks.com/2020/06/29/artificial-intelligence-singularity/EFN哈希力量 | 智能的力量

(文章插图在不影响内容整体和作者观点的前提下,哈希力量未收录。译文编辑:雅新)EFN哈希力量 | 智能的力量


立场鲜明观点深刻的人工智能相关文章:
哈希力量全站严选推荐: