【人工摘要:Mythos是Anthropic于4月初发布的前沿AI模型,公司警告其能力极其强大,可在用户指令下“发现并利用每一款主流操作系统和网页浏览器中的漏洞”。】
英国行业组织称银行业已做好准备应对Mythos风险
环球市场播报 / 新浪财经
包括英国央行在内的英国主要金融机构在开会讨论Anthropic PBC的Mythos模型影响后表示,已“做好准备”应对人工智能发展带来的新兴网络安全风险。
一个由英国央行召集的小组表示,在周三的会议上讨论了新兴“前沿人工智能”模型带来的挑战。英国央行跨市场运营韧性小组在声明中称,金融服务业已为这些发展和更广泛的风险,以及“它们带来的增长和效率机遇”做好准备。
英国财政部、金融行为监管局以及国家网络安全中心的代表出席了此次会议,这表明监管机构愈发担忧,由人工智能辅助的网络攻击已成为金融行业面临的最大风险之一。
在美国,特朗普政府警告高管应认真对待该模型并利用其能力识别漏洞后,多家华尔街银行已开始在内部测试Mythos。
英国国家网络安全中心负责人Richard Horne周三对Sky News表示,各机构需要以“10倍紧迫性”采取行动加强网络防御,但他目前并不认为人工智能对国家安全构成威胁。
“我们正处在类似‘完美风暴’的环境中,两股力量交织在一起 —— 一是巨大的技术变革,二是日益加剧的地缘政治紧张局势,”他表示,“而网络安全正处于两者交汇点。”责任编辑:陈钰嘉
Anthropic调查Mythos模型遭未授权访问事件
环球市场播报 / 新浪财经
人工智能领域传来安全警报。据报道,一群未授权用户通过第三方承包商环境成功访问了Anthropic公司最新发布的高危AI模型“Mythos Preview”。
Anthropic发言人在声明中证实:“我们正在调查一份声称通过第三方供应商环境对Claude Mythos Preview进行未授权访问的报告。”目前尚未发现该未授权行为对Anthropic系统造成影响。
报道称,这群活跃于私人Discord频道的用户在Anthropic宣布将Mythos有限开放给少数公司测试的当天即获得了访问权限。他们通过多种途径实现访问,包括利用其中一人作为Anthropic第三方承包商的员工权限,以及对Anthropic模型URL命名规律的推测。
Mythos是Anthropic于4月初发布的前沿AI模型,公司警告其能力极其强大,可在用户指令下“发现并利用每一款主流操作系统和网页浏览器中的漏洞”。由于担忧被滥用于网络攻击,Anthropic仅通过“Project Glasswing”计划向苹果、亚马逊、摩根大通等约40家机构提供受限访问。据称,该群体主要出于对新技术的好奇而使用Mythos,并未运行网络安全相关指令或进行破坏性操作。责任编辑:张俊