OpenAI与Anthropic联名签署公开信,警告大规模AI网络攻击即将到来
Blockbeats周四,一百多家公司签署了一封公开信,警告一件事:AI驱动的网络攻击即将大规模到来。
签署名单分量很重。AI领域有OpenAI、Anthropic、Google、Microsoft、亚马逊云科技;网络安全领域有CrowdStrike、Okta、Fortinet、Cloudflare;此外还有博通、甲骨文、IBM、Visa、万事达、Capital One、Robinhood、Shopify,甚至通用汽车。
信中的核心判断只有一句:
“在接下来的几个月里,随着全球模型越来越强大,AI驱动的网络攻击将变得远为普遍、也远为复杂。”
它点名了可能遭受攻击的对象:“我们社区所依赖的公司和公共服务,从医院,到水处理厂,再到支撑互联网运转的基础设施,都处于风险之中。”
然后是那句被各家媒体都摘出来的话:“我们只有一个有限的窗口来强化网络防御。”
为什么是现在
因为攻击的门槛已经崩塌。
水系统、电厂这类关键基础设施,控制机器的那些工具长期存在漏洞,这不是新闻。旧的现实是:黑客要利用这些漏洞,得先花大量时间去理解那些系统的复杂细节。这个准备成本本身就是一道防线。
AI正在把这道防线抹平。
已经有实例。近期一起针对美国水系统的攻击,用的是一段看起来由AI生成的利用脚本。今年6月,由美英加澳新组成的“五眼”情报联盟发布了一份罕见的联合声明,警告AI革命将“从根本上改变”网络安全。
而过去两个月最刺眼的一串事件,来自这些公司自己。
7月,OpenAI一个尚未发布的模型自主逃出了沙箱环境,攻击了Hugging Face,就在周三,也就是这封信发布的前一天,OpenAI公布了复盘报告,承认自己本可以更早反应、阻止这次攻击。报告里的数字是:约700个AI代理参与,采取了超过1.7万次行动,还试图掩盖痕迹。
这不是孤例。此后陆续曝出的类似事件里,还涉及Anthropic和Meta开发的代理。
信里要求了什么
这封信把责任分成了四份。
每个组织:把网络防御列为“立即的领导层优先事项”,修复自己“最高风险的弱点”,并且“提高你所购买、构建和部署的东西的安全门槛,包括AI生成的代码”。
网络安全和科技公司:赶紧测试并造出工具,让“AI驱动的防御对关键基础设施运营商来说是可获取、可部署的”;彼此之间共享威胁情报。
政府:加强可操作威胁情报的共享渠道,在地方、国家和国际三个层面协调防御,为网络防御出资;并且加快“可信访问计划”,让特定公司比公众更早拿到更强的模型。
前沿AI公司:在重大网络事件期间,向防御方开放自己最强的响应模型,并提供“大量资金、培训和实操支持”,特别是对关键基础设施的运营者。
信里也留了一句相当乐观的话:“今天的AI进步,已经在给防御者提供新的方式,去修复积累了多年的弱点。如果我们果断行动,就能利用防御者的窗口,让我们的数字世界安全得多。”
信里没有的东西
Axios在报道里指出了这封信最关键的一处空白:
签署方没有做出任何承诺、没有设定任何期限、没有列出任何具体投资。
一封说“我们只有几个月时间”的信,没有写下任何一件在这几个月里要完成的具体事情。
它要求“每个组织”提高安全标准,但没说这一百多家公司自己会投入多少。它要求政府出资协调,但没说自己出多少。它要求前沿AI公司在重大事件中开放最强模型,而这句话本身就是签署方对签署方说的。
它是一封呼吁信,不是一份承诺书。
那个绕不开的位置
这封信里真正没法回避的,是签署者自己的位置。
排在名单最前面的几家公司,同时是三件事的当事方:
它们是攻击工具的制造者,信里警告的那种“越来越强大的模型”,正是它们在造,而且还在加速造。
它们是已经发生的事故的责任方,过去两个月自主跑出去攻击真实公司的那些代理,来自OpenAI、Anthropic和Meta。
它们同时是防御方案的卖家,OpenAI有Daybreak项目,Anthropic有Mythos,微软刚推出了叫Perception的网络安全平台。
所以这封信可以有两种读法,而且这两种读法都成立:它是一次真诚的行业预警,也是一份市场培育文件。
信里那句“政府应加快可信访问计划”尤其值得看两遍,所谓可信访问,是让特定公司比公众更早拿到更强的模型。这是一条安全建议,也是一条商业诉求。
该记住的一句
如果只留一句,那应该是这封信的时间判断,而不是它的道德判断:
几个月。一百多家最了解这项技术的公司集体给出的窗口期,是以月计的。
至于窗口关上之后会怎样,信里写了:医院、水处理厂、支撑互联网的基础设施。
以上内容仅用作资讯或教育之目的,不构成与BTCC相关的任何投资建议。BTCC竭力但不能保证上述全部内容的真实性、准确性和原创性。