哈希力量归集文库路径访问: 首页 > 通用人工智能 > 人工智能产业要闻库

ChatGPT或已被联邦贸易委员会盯上,OpenAI:尚未训练GPT-5

待验证 ☉ 文 收录源:大数据文摘 2023-03-31 @ 哈希力量

【小哈划重点:CAIDP是一家位于华盛顿特区的独立非盈利研究机构,专门“评估国家人工智能政策和实践,培训人工智能政策领导人,并促进人工智能的民主价值观。”】

继收到由数百名著名人工智能专家、科技企业家和科学家签署的一封公开信之后,ChatGPT成为AI伦理界的“众矢之的”。
Agl哈希力量 | 消除一切智能鸿沟

3月30日,美国联邦贸易委员会(FTC)收到来自人工智能和数字政策中心(CAIDP)的一份新的举报,要求对OpenAI及其产品GPT-4进行调查。Agl哈希力量 | 消除一切智能鸿沟

举报称FTC已经规定人工智能的使用应该是“透明的、可解释的、公平的和经验上合理的,同时促进问责制”,但声称OpenAI的ChatGPT4“不满足这些要求”,并且是“有偏见的、欺骗性的,并且对隐私和公共安全构成风险”。Agl哈希力量 | 消除一切智能鸿沟

CAIDP是一家位于华盛顿特区的独立非盈利研究机构,专门“评估国家人工智能政策和实践,培训人工智能政策领导人,并促进人工智能的民主价值观。”Agl哈希力量 | 消除一切智能鸿沟

ChatGPT的第一份政府审查,或将来自FTCAgl哈希力量 | 消除一切智能鸿沟

法律专家表示,随着人工智能的增长和发展速度,FTC可能会在2023年制定有关人工智能的规则。Agl哈希力量 | 消除一切智能鸿沟

2022年12月的一篇文章中透露,美国联邦贸易委员会(FTC)可能正在出台联邦人工智能监管法规,尽管国会提交的以人工智能为重点的法案尚未获得重大支持。Agl哈希力量 | 消除一切智能鸿沟

文章称:“近年来,联邦贸易委员会发布了两份出版物,预示着对人工智能监管的关注将进一步加大。”同时,联邦贸易委员会在执行各种法规方面发展了人工智能专业知识,例如《公平信用报告法》(Fair Credit Reporting Act)、《平等信用机会法》(Average Credit Opportunity Act)和《联邦贸易委员法规》(FTC Act)。Agl哈希力量 | 消除一切智能鸿沟

除了已经推出的法规和即将推出的针对AI的规则,FTC发表的文章也显示出了对于AI监管的动向。Agl哈希力量 | 消除一切智能鸿沟

10天前,美国联邦贸易委员会发表了一篇名为《聊天机器人、深度伪造和语音克隆: 出售人工智能欺骗》(Chatbots, deepfakes, and voice clones: AI deception for sale)的商业博客文章,作者是美国联邦贸易委员会广告业务部门的律师迈克尔 · 阿特尔森(Michael Atleson)。Agl哈希力量 | 消除一切智能鸿沟

Chatbots, deepfakes, and voice clones: AI deception for sale文章截图Agl哈希力量 | 消除一切智能鸿沟

这篇博文称,《联邦贸易委员会法案》“禁止欺骗或不公平行为,可适用于制造、销售或使用有效设计用于欺骗的工具ーー即使这并非其本意或唯一目的。”企业甚至应该考虑是否应该制造或销售人工智能工具,以及它们是否有效地降低了风险。Agl哈希力量 | 消除一切智能鸿沟

“如果你决定制造或提供这样的产品,在它上市应该之前采取一切合理的预防措施。”博客文章说。“美国联邦贸易委员会(FTC)起诉了那些传播潜在有害技术、但未采取合理措施防止消费者受到伤害的企业。”Agl哈希力量 | 消除一切智能鸿沟

在2月份的另一篇文章《控制你的人工智能索赔》中,Atleson还写道,联邦贸易委员会可能在“怀疑”一家为人工智能产品做广告的公司是否意识到了这些风险。Agl哈希力量 | 消除一切智能鸿沟

“在投放市场之前,你需要了解你的人工智能产品的合理可预见的风险和影响。如果出了问题(可能会失败或产生有偏见的结果),你不能只是责怪这项技术的第三方开发人员。你不能说你没有责任,因为这项技术是一个“黑匣子”,你不能理解或不知道如何测试。”Agl哈希力量 | 消除一切智能鸿沟

百余位技术大佬“声讨”ChatGPT,OpenAI:尚未训练ChatGPT5Agl哈希力量 | 消除一切智能鸿沟

联邦政府的审查可能不会来的太快,但是科技界对于迅速发展的ChatGPT表示了集中的担忧。Agl哈希力量 | 消除一切智能鸿沟

近日,由数百名著名人工智能专家、科技企业家和科学家签署的一封公开信,呼吁暂停开发和测试比OpenAI语言模型GPT-4更强大的人工智能技术,以便对其可能构成的风险进行适当的研究。Agl哈希力量 | 消除一切智能鸿沟

报告警告说,像GPT-4这样的语言模型已经可以在越来越多的任务中与人类竞争,可以用来自动化工作和传播错误信息,甚至还提出了人工智能系统可以取代人类并重塑文明的担心。Agl哈希力量 | 消除一切智能鸿沟

“我们呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统(包括目前正在训练的GPT-5)至少6个月。”信中写道。Agl哈希力量 | 消除一切智能鸿沟

信的签名者包括现代AI奠基人之一蒙特利尔大学(University of mont)教授约书亚•本吉奥(YoshuaBengio),历史学家、Skype联合创始人贾恩•塔林(Jaan Tallinn),以及大名鼎鼎的埃隆•马斯克(Elon Musk)。Agl哈希力量 | 消除一切智能鸿沟

这封信是由未来生命研究所(Future of Life Institute)撰写的,这是一个专注于人类面临的技术风险的组织。信中补充说,研究的暂停应该是“公开的、可验证的”,并且应该涉及所有研究GPT-4这样的先进人工智能模型的人。Agl哈希力量 | 消除一切智能鸿沟

微软和谷歌没有回应对这封信的置评请求。签名者似乎包括许多正在构建高级语言模型的科技公司的员工,其中包括微软(Microsoft)和谷歌(Google)。Agl哈希力量 | 消除一切智能鸿沟

对此,OpenAI的发言人Hannah Wong表示,该公司在对模型进行训练后,花了6个多月的时间研究GPT-4的安全性和校准性。Agl哈希力量 | 消除一切智能鸿沟

Hannah Wong补充说,OpenAI目前还没有训练GPT-5。Agl哈希力量 | 消除一切智能鸿沟

相关报道:Agl哈希力量 | 消除一切智能鸿沟

https://venturebeat.com/ai/openais-gpt-4-violates-ftc-rules-argues-ai-policy-group/https://www.wired.com/story/chatgpt-pause-ai-experiments-open-letter/#intcid=_wired-verso-hp-trending_ef6192d6-74df-406b-8003-7bdc1751c1a3_popular4-1Agl哈希力量 | 消除一切智能鸿沟

(原文标题:《ChatGPT的第一份政府审查,或将来自美联邦贸易委员会,OpenAI:尚未训练GPT5》。收录经过哈希力量二次校对,部分插图在不影响内容整体和作者观点的前提下未收录。)Agl哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/toutiao/kuaixun/35591.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库