哈希力量归集文库路径访问: 首页 > 通用人工智能 > 人工智能产业要闻库

担心AI毁灭人类的科学家离开OpenAI

邱豪 曾兴 ☉ 文 来源:晚点LatePost 2024-05-16 @ 哈希力量

【小哈划重点:去年7月,在ChatGPT刚刚完成一次有明显商业化意图的大更新后,苏茨克维和另一位OpenAI科学家简·莱克(Jan Leike)在OpenAI内部成立了“超级对齐”团队,要用OpenAI至少20%的算力资源,来让人工智能系统与人类的价值观保持一致。】

OpenAI联合创始人、首席科学家伊尔亚·苏茨克维(Ilya Sutskever)在社交媒体宣布,已经离开工作十多年的公司。他的继任者是OpenAI原研发总监雅库布·帕乔基(Jakub Pachocki)。后者本科毕业于波兰华沙大学,博士毕业于卡耐基梅隆大学,在哈佛大学做过一年博士后。2017年离开学术界,开始在OpenAI工作,也是开发GPT-4的关键人物之一。TY8哈希力量 | 消除一切智能鸿沟

OpenAI CEO萨姆·阿尔特曼发文回应,“伊尔亚要与OpenAI分道扬镳了,这让我很难过;伊尔亚无疑是我们这一代最具才智的人物之一,是我们这个领域的指路明灯,也是一位亲爱的朋友。他的才华和远见是众所周知的;他的热情和同情心不那么为人所知,但同样重要。没有他,OpenAl就不会有今天。”TY8哈希力量 | 消除一切智能鸿沟

OpenAI总裁布洛克曼也发文感谢苏茨克维的付出,称其为一位艺术家:“尽管人们怀疑AGI是否在可预见的未来出现,但我们会仔细思考并采取行动,坚信深度学习可以带我们到达那里。”TY8哈希力量 | 消除一切智能鸿沟

2015年,当阿尔特曼与马斯克决定创办一个非营利性的AI研究实验室时,马斯克为了把苏茨克维从Google挖走,不惜与DeepMind的CEO哈萨比斯决裂。苏茨克维加入OpenAI后,凭借其在软件系统开发方面的专业背景,领导了对GPT的研发。TY8哈希力量 | 消除一切智能鸿沟

去年11月,苏茨克维主导了罢免CEO阿尔特曼的“政变”,但很快反悔,迎回阿尔特曼,之后便再也没有公开发声。外界普遍认为二者的分歧可能源于OpenAI商业化带来的安全风险。TY8哈希力量 | 消除一切智能鸿沟

苏茨克维是一个纯粹的技术理想主义者,认为AI必须永远可控,且以人类的价值观和道德规范行事,尤其是当他认识到AI的自主性正在迅速提升,并可能在未来超越人类。如果这样的超级智能缺乏对人类无条件的认同和爱,就可能取代甚至毁灭人类。TY8哈希力量 | 消除一切智能鸿沟

阿尔特曼的态度和行为则更加接近“有效加速主义”,即相信面临颠覆式的技术创新时,最好的办法是尽快地推向市场,哪怕技术本身还不完美,实际应用和真实反馈也比无止境地研究更有价值。硅谷知名投资人马克·安德森(Marc Andreessen)和YC现任CEO陈嘉兴(Garry Tan)都旗帜鲜明地信奉这种价值观。TY8哈希力量 | 消除一切智能鸿沟

去年7月,在ChatGPT刚刚完成一次有明显商业化意图的大更新后,苏茨克维和另一位OpenAI科学家简·莱克(Jan Leike)在OpenAI内部成立了“超级对齐”团队,要用OpenAI至少20%的算力资源,来让人工智能系统与人类的价值观保持一致。这次苏茨克维宣布离职几个小时后,莱克也紧接着辞职。上个月,“超级对齐”团队两位核心研究员还曾被OpenAI开除。TY8哈希力量 | 消除一切智能鸿沟

苏茨克维是以色列裔加拿大人,师从2018年图灵奖得主杰弗里·辛顿(Geoffrey Hinton)。在他的学术历程中,2012年开发的深度卷积神经网络AlexNet是重要一环,它在当年的ImageNet挑战赛中夺冠,且精确度是第二名的两倍。AlexNet的成功为深度学习领域的发展奠定基础,也在一定程度上影响当前AI领域对GPU的重视。TY8哈希力量 | 消除一切智能鸿沟

此外,他在时序预测回归模型Seq2Seq、主流机器学习框架TensorFlow等自然语言处理、计算机视觉等领域都有重要的科研成果。ICLR 2024会议为了寻找具有长期影响力的论文,审查了十年前的学术研究,苏茨克维在2014年的一篇论文获得时间检验奖亚军。TY8哈希力量 | 消除一切智能鸿沟

苏茨克维称他已有下一步计划,但并未透露更多细节。TY8哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/toutiao/kuaixun/36627.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库