哈希力量归集文库路径访问: 首页 > 智族书院 > 力度副刊 • 生态圈

马斯克起诉OpenAI及奥特曼:违背技术造福人类的初衷,要求GPT开源

胡含嫣 ☉ 文 来源:澎湃新闻 2024-03-02 @ 哈希力量

【小哈划重点:马斯克和OpenAI以及奥特曼的恩怨由来已久,指控书中也详细地回顾了整个过程。马斯克成为OpenAI的联合创始人之一,便是出于对AGI的担忧:在2012年,马斯克遇到了当时还未被谷歌收购的DeepMind的联合创始人德米斯·哈萨比斯(Demis Hassabis)。】

继《纽约时报》之后,OpenAI又被告上法庭,这次还是前创始人马斯克。3aL哈希力量 | 消除一切智能鸿沟

当地时间2月29日晚间,特斯拉CEO埃隆·马斯克(Elon Musk)向旧金山高等法院提起诉讼,由洛杉矶的律师事务所Irell&Manella代表,以违反合同为由起诉OpenAI及其CEO萨姆·奥特曼(Sam Altman)。3aL哈希力量 | 消除一切智能鸿沟

马斯克在诉讼中表示,奥特曼和OpenAI违背了这家AI研究公司成立时达成的一项协议,即开发技术以造福人类而不是利润。马斯克声称,OpenAI与科技巨头微软的关系已经损害了该公司最初致力于公共、开源的通用人工智能(AGI)的目标。3aL哈希力量 | 消除一切智能鸿沟

法院文件显示,马斯克对OpenAI提出了包括违约、违反信托义务和不公平商业行为在内的指控,并要求该公司恢复开源。马斯克还要求法院下达禁令,禁止OpenAI、其总裁格雷戈里·布罗克曼(Greg Brockman)和奥特曼(此案的共同被告)以及微软从该公司的人工通用智能技术中获利。3aL哈希力量 | 消除一切智能鸿沟

GPT-4是否已经到达AGI?3aL哈希力量 | 消除一切智能鸿沟

在文件中,马斯克反复提到AGI可能带来的风险,将AGI称为一种“通用目的的AI系统——一台具有像人类一样能够进行广泛任务的智能的机器”。3aL哈希力量 | 消除一切智能鸿沟

诉讼文件强调,AGI在OpenAI的GPT-4模型中已经得到了体现,并列举了微软一篇题为《AGI的火花:GPT-4的早期实验》的详细分析。微软的研究人员在文章中指出:“GPT-4能够解决跨数学、编程、视觉、医学、法律、心理学等多个领域的新颖且困难的任务,而无需任何特殊提示。而且,在所有这些任务中,GPT-4的表现与人类水平惊人地接近,通常远远超过之前的模型,如基于[GPT-3.5]的ChatGPT。”3aL哈希力量 | 消除一切智能鸿沟

微软的科学家也承认GPT-4“达到了一种通用智能的形式”,并且“鉴于GPT-4能力的广度和深度,我们相信它可以合理地被视为AGI系统的早期(尽管仍不完整)版本”。3aL哈希力量 | 消除一切智能鸿沟

根据微软和OpenAI的协定,一旦OpenAI董事会认为已经实现AGI,则OpenAI的AGI系统将“被排除在与微软签订的IP许可及其他商业条款之外”,因为“此类条款仅适用于AGI之前的技术成果”。3aL哈希力量 | 消除一切智能鸿沟

除了是否已经到达AGI外,模型的封闭性也成为了与OpenAI建设初衷相反的一大问题。3aL哈希力量 | 消除一切智能鸿沟

诉讼文件中一再强调,OpenAI于2023年3月发布的GPT-4与之前的版本相比是一个封闭的模型,OpenAI的这一举措是出于商业考虑,而不是人类利益。文件还将OpenAI的AGI成就比作《安妮》中的“明天”:“总是遥遥无期,确保微软将获得OpenAI最新技术的许可,而公众则被排除在外,这与成立协议完全相反。”3aL哈希力量 | 消除一切智能鸿沟

文件中写道:“GPT-4的内部细节只有OpenAI知道,在信息和信念上,微软也知道。因此,GPT-4是‘开放式AI’的对立面,它的封闭是出于正当的商业原因:微软希望通过向公众出售GPT-4来赚钱,如果OpenAI——它被要求这样做——让公众免费使用这项技术,这将是不可能的......与创始协议相反,被告选择使用GPT-4不是为了人类的利益,而是作为专利技术,为世界上最大的公司实现利润最大化。”3aL哈希力量 | 消除一切智能鸿沟

诉讼也提及了2023年OpenAI的“政变”风波,并将其作为对准奥特曼的一大矛头。3aL哈希力量 | 消除一切智能鸿沟

马斯克称,奥特曼的短暂离职促使微软介入,并迫使试图罢免他的董事会成员辞职,OpenAI目前的董事会成员不再是支持和了解该技术的科学家和研究人员。马斯克还强调,董事会与奥特曼之间的冲突源于GPT-4的开发和AGI技术可能出现的下一次迭代,他担心这可能会危及公共安全。3aL哈希力量 | 消除一切智能鸿沟

诉讼文件中也提到了OpenAI神秘的Q*项目。曾有媒体报道称,在奥特曼的罢免风波开始前,几名研究人员向OpenAI董事会致信,警告称一项强大的AI发现可能威胁到人类。OpenAI在这项名为Q*的项目上取得的进展让部分公司内部人士相信,这可能是他们找到“超级智能(即AGI)”的突破点。3aL哈希力量 | 消除一切智能鸿沟

马斯克与OpenAI和奥特曼的纠葛3aL哈希力量 | 消除一切智能鸿沟

马斯克和OpenAI以及奥特曼的恩怨由来已久,指控书中也详细地回顾了整个过程。3aL哈希力量 | 消除一切智能鸿沟

马斯克成为OpenAI的联合创始人之一,便是出于对AGI的担忧:在2012年,马斯克遇到了当时还未被谷歌收购的DeepMind的联合创始人德米斯·哈萨比斯(Demis Hassabis)。两人在SpaceX位于加利福尼亚州霍索恩的工厂会面,并讨论了社会面临的最大威胁。在这次对话中,哈萨比斯强调了AI进步可能对社会带来的危险。3aL哈希力量 | 消除一切智能鸿沟

经历与哈萨比斯的这次交谈之后,马斯克对AI变得超智能、超越人类智能并威胁人类的潜力越来越感到担忧。3aL哈希力量 | 消除一切智能鸿沟

2013年,得知谷歌将会收购DeepMind,马斯克和PayPal的联合创始人Luke Nosek试图筹集资金购买DeepMind。在一次长达一小时的通话,他们试图说服哈萨比斯不要将DeepMind卖给谷歌。但在2014年,DeepMind还是被谷歌收购了。3aL哈希力量 | 消除一切智能鸿沟

预感到AI技术或被大公司垄断的可怕未来,2015年底,马斯克和时任硅谷顶级孵化器Y Combinator公司CEO的奥特曼以及其他11人共同创建了非营利性组织OpenAI。最开始的OpenAI依靠开源公益的愿景和创始人的魅力,以并不丰厚的报酬从大公司挖来许多开发者与AI科学家,组建AI研发实验室。3aL哈希力量 | 消除一切智能鸿沟

2015年12月8日,OpenAI的成立证书在美国特拉华州州务卿处提交,以书面形式记录了成立协议:“本公司是一家仅为慈善和/或教育目的而组织的非盈利公司,符合1986年修订的内部收入法典第501(c)(3)节或任何未来美国内部收入法的相应条款。本公司的具体目的是为与AI相关的技术研发和分发提供资金,所产生的技术将惠及公众,公司将寻求在适用的情况下将技术开源以利公众。”3aL哈希力量 | 消除一切智能鸿沟

文件还提到,马斯克不仅利用了自己的人脉和影响力为OpenAI招聘人才,还为OpenAI在招聘时给出更高的薪酬报价。仅在2016年,马斯克就为OpenAI贡献了超过1500万美元,比任何其他捐赠者都多。从2016年到2020年9月,马斯克为OpenAI贡献了超过4400万美元。3aL哈希力量 | 消除一切智能鸿沟

然而,由于在2017年,布罗克曼和其他人提议将OpenAI从一个非盈利组织转变为一个盈利性公司,马斯克在抗议无效后,于2018年2月离开OpenAI董事会。尽管如此,马斯克依然根据成立协议,继续向OpenAI提供资助。例如,在2018年,马斯克向OpenAI捐赠了大约350万美元。3aL哈希力量 | 消除一切智能鸿沟

2018年4月,奥特曼向马斯克发送了一份OpenAI宪章草案,并征求他的反馈意见。草案依然宣称OpenAI的使命是确保AGI“惠及全人类”。3aL哈希力量 | 消除一切智能鸿沟

而到了2019年3月11日,OpenAI宣布将创建一个盈利子公司OpenAI, L.P.,并明确建议投资者“将对OpenAI LP的任何投资视为捐赠”。该消息宣布后,马斯克联系奥特曼,向他表明自己“和OpenAI盈利部门没有任何财务利益关系”。3aL哈希力量 | 消除一切智能鸿沟

责任编辑:王杰3aL哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/xueyuan/shuji/36462.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库