【小哈划重点:一个理想的AR眼镜,自然离不开成熟的对话式AI系统,正如你所看到的那样,AR眼镜集合了计算机视觉、自然语言处理等一系列复杂的系统,需要进行大量的计算任务。然而,就在这样的条件下还需要为了照顾眼镜的轻量化,电池续航,发热等情况,不得不使用低功耗的AI系统,来保证AR眼镜具备长时间佩戴的基础。 】
Facebook AI研究院首席AI科学家Yann LeCun近期抛出一个观点:AR眼镜将是机器学习(低功耗)理想的训练平台,因为他们涉及许多尚未解决的问题。
这个观点发表于前不久在加拿大温哥华举行的NeurIPS神经信息处理系统大会,其中的EMC²专项研讨会上。
NeurIPS是全球顶级的人工智能学术会议,而EMC²即:节能型机器学习与认知计算,全称:Energy Efficient Machine Learning and Cognitive Computing。
据了解,Yann LeCun堪称是人工智能领域的教父级人物,也是今年的图灵奖得主。
AR眼镜和AI不分离
一个理想的AR眼镜,自然离不开成熟的对话式AI系统,正如你所看到的那样,AR眼镜集合了计算机视觉、自然语言处理等一系列复杂的系统,需要进行大量的计算任务。
然而,就在这样的条件下还需要为了照顾眼镜的轻量化,电池续航,发热等情况,不得不使用低功耗的AI系统,来保证AR眼镜具备长时间佩戴的基础。
Yann LeCun表示:相对来讲,硬件部分是一个巨大的挑战,因为当你佩戴一副带有摄像头的AR眼镜时,系统会实时追踪视觉信息用于定位等,所以当你移动时就会需要极大的计算。
假如你想要通过语音和智能助理实时沟通交流,那么这时麦克风就会一直保持工作,并用及时与你对话。
手势追踪也是一样,需要保持整个系统处于“实时待命”状态。Yann LeCun谈到:实时的手势追踪已经可以做到,但其中的难点是:暂时不能保证在一个体积小巧紧凑的AR眼镜中,以低功耗模式做到这一点。
Yann LeCun补充道:单从功耗、性能、外型尺寸等因素而言,这绝对超出我们现有的能力,因此你必须采用此前从未想到或从未应用过的技术,例如:神经网络就是其中之一。
让系统运行更高效
在EMC²研讨会上,Yann LeCun讲到由于硬件自身限制带来的一大困扰:因为当前的硬件依然存在诸多限制(不够理想),因此当软件不容易成型或实验无法复现时,一个好的想法有可能就此被放弃。
这种由于硬件导致限制研发人员想象力的可能的确存在。
Yann LeCun还提出一个特殊的深度学习方法,比如异联想记忆和卷积神经网络,这些方法构成了挑战,可能需要新的硬件,异联想记忆(或软RAM)是目前自然语言处理(NLP)中广泛采用的一种计算方法,已经开始在计算机视觉领域展开应用。
未来几年,深度学习、机器学习架构将会发生大的变化。你可能已经看到了很多这样的架构,例如现在有了NLP,唯一的玩法基本就只有Transformer网络。
更高效的批量处理和自我监督学习技术,有助于AI能像人类和动物那样学习和思考,这将有助于开发更节能的AI。
Yann LeCun演讲之后,麻省理工学院电子工程和计算机科学副教授Vivienne Sze讲述了评估深度神经网络系统方法的必要性。根据SlidesLive网站的视频,Vivienne Sze教授在本周稍早前已经进行了一场关于高效的深层神经网络的演讲,获得了超高的点击量。
Vivienne Sze教授讲到:那些更大、更远的记忆往往会消耗更多电力,所有的权重都不尽相同,同时还展示了一套麻省理工学院开发的用于评估硬件功耗的框架:Accelergy。
Facebook 2017 F8公布的路线图
节约能源,保护地球
有趣的是,在NeurIPS会议上除了很多相关的深度学习算法讨论外,还有很多会议都在强调AI在影响气候变化上的重要性。其中,一篇论文《能源使用报告:算法意识中的环境意识》就专门讲到这一点。
该论文讲到:必须对算法的碳排放进行精确测量,并且公开透明,从而使得计算机科学家能够在环境可持续发展方面得到诚实且积极的作用。
实际上,这一点恰好和NeurIPS组委会的建议观点一致。根据NeurIPS组委会的建议,有可能会要求在2020年向NeurIPS提交的AI研究人员分享他们提交内容的碳排放。
同样的,来自Element AI和Mila Quebec AI Institute的机器学习领域的专家近期也推出一项新工具,该工具旨在通过GPU模拟计算出AI模型的碳排放量,从而根据使用时间长短和云区域等因素预测能源使用情况。
虽然在机器学习领域,大家的焦点一直放在更强大的AI研发领域,但这似乎对计算能力要求越来越高。
而随着未来轻量化设备,尤其是可穿戴设备(AR眼镜、智能手表等等)的流行,更高效且能耗更低机器学习方案就成为必然,这也对现有机器学习模型和架构提出一个重大挑战。
参考:VentureBeat