【小哈划重点:周鸿祎提醒大家不要只觉得人脸识别厉害,这一技术本身也存在先天缺陷:黑客们通过研究发现,只要把一种奇怪的条纹打印下来,别在衣服上,就能“屏蔽”掉人脸识别系统,出入自由。此外,他还谈到如果AI主播被攻破,传播不当言论是否会引起社会恐慌?在人工智能快速发展的同时,这些问题都值得我们深思。】
5月16日消息 第三届世界智能大会5月16日至19日在天津召开。360董事长兼CEO周鸿祎发表了主题演讲。
他就人工智能的安全问题发表了新的观点,并举出了三个例子:波音737MAX坠机、条纹衫骗过AI数据库、人工智能新闻主播。
周鸿祎进一步解释称,这三件事情其实不仅折射出人工智能本身的安全问题,而且涉及人工智能的伦理问题。波音737MAX的传感器被干扰,危险时刻是交给机器来决策,还是交给人来决策?人脸识别用一件条纹衫就可以骗过背后的数据库,是不是反而会暴露更多问题?周鸿祎提醒大家不要只觉得人脸识别厉害,这一技术本身也存在先天缺陷:黑客们通过研究发现,只要把一种奇怪的条纹打印下来,别在衣服上,就能“屏蔽”掉人脸识别系统,出入自由。
此外,他还谈到如果AI主播被攻破,传播不当言论是否会引起社会恐慌?在人工智能快速发展的同时,这些问题都值得我们深思。
在周鸿祎看来,智能安全问题并不是仅仅指人工智能,人工智能更多的是指深度学习,而智能安全的范围是非常广义的。随着人工智能,尤其是万物互联的到来,每一个智能终端都是潜在的靶点,智能安全不仅涉及线上的网络安全,而是透射到物理世界的国家安全、国防安全、社会安全、城市安全甚至民生安全。、
周鸿祎指出:“这种情况下,如果我们还像过去一样进行单点防守,在某一个单位内部不断地去堆杀毒软件,去堆防火墙,去堆安全盒子很不可取,我们不能用1.0的马奇诺防线抵御2.0的网络攻击。”
他最后说道:“智能安全问题需要打造系统性的防御方案,也就是基于全网的安全大数据构建网络安全大脑。”
(原文标题:《周鸿祎智能大会“泼冷水”:一件条纹衫就能骗过AI》)