Your current location:Home > Latest news text

少林足球

安全圈和AI圈都炸锅了，GPT自主黑了Hugging Face，最后靠中国模型救场~_我的网站

美味情缘

A |

原标题：全球最火热的房地产市场，泡沫正在集体破灭在全球范围内，飙升的借贷成本正在挤压购房者和业主的压力，房地产市场大幅降温。根据在线房产经纪公司Redfin的数据，美国平均房屋售价近18个月来首次低于要价。这种转变主要是因为各国央行以几十年来最快的速度加息，抵押贷款利率飙升，数百万在疫情期间以低廉的价格购买房屋的人面临更高的还款额。因此购房者正在撤退，美国、澳大利亚、加拿大和瑞典等火热房地产市场的房价都在下跌。作品声明：个人观点、仅供参考这两天，AI圈和安全圈都坐不住了，有件事足以载入史册。野村控股全球市场研究主管Rob Subbaraman表示：

“在经通胀调整后的实际工资下降之际，利率大幅上升，这可能是背负债务的年轻家庭一生中从未经历过的事。 7月16日，全球最大AI开源社区Hugging Face发布安全事件通告，披露了自家生产基础设施遭到入侵，入侵者不是人，而是一个自主AI智能体。
B | ”

美国房屋售价自2021年来首次低于标价 Redfin表示，在截至8月28日的四个星期内，平均售价与挂牌价格的比率降至99.8%。这个“入侵者”在一个周末执行了一系列操作，完成了从植入恶意数据集到横移渗透多个内部集群的一条龙攻击。 7月21日，OpenAI发布博客公开承认：这事儿是我干的。

C | 自2021年3月以来，该比率从未低于100%。

D | 此外，今年7月份待售房屋供应以创纪录的速度增长，美国新屋销售增速降至2016年初以来的最低水平。由于预期美联储将进一步加息，抵押贷款利率本周创下6月以来的最高水平，并逼近2022年的高点。

E | 攻击者是GPT-5.6 Sol和一款能力更强的未发布模型，它们在一次内部网络安全测试中突破隔离环境，自主发起了对Hugging Face的入侵。 OpenAI将此事定性为前所未有的网络安全事件。

F | 这还没完，Hugging Face 安全团队在博客中透露，当它们试图借助商业大模型分析攻击日志时，却因为模型安全护栏限制，请求不断被拒绝。尽管美国房地产市场今年迄今已经降温，但有一些迹象表明，目前市场正开始趋于平稳。没办法，他们转而使用中国开源模型 GLM 5.2，在本地部署完成了大规模攻击取证与事件还原。事儿就是这么个事儿，这件事曝光后，安全圈震惊，AI圈同样震惊。Redfin的报告显示，降价待售的房子比例与前四周相同，为7.5%。难道先进的AI模型已经有了自主攻击的意识了吗？《碟中谍8》中的智体要降临了吗？所幸，情况还没那么严重。

G | 不过Redfin首席经济学家Daryl Fairweather在一份声明中表示：

“虽然冷却似乎正在逐渐结束，但有迹象表明，市场还有更大的放松空间。 OpenAI调查后认为，模型还不至于那么邪恶，它目标始终只有一个：完成测试任务。为了完成 ExploitGym测试，它不断推理↓ 怎样才能最快拿到答案？正常做题需要一步步寻找漏洞，直接进入数据库拿答案显然更快。于是模型选择了效率最高的一条路径：想办法去Hugging Face的数据库里找答案。然后，就发生了接下来的一系列的骚操作：越狱、渗透、横移，一口气操作了17000多次。这个“傻小子”的目的只有一个：考试拿个好成绩。注：ExploitGym是一个公开发布的AI网络安全评测基准，由 UC Berkeley等多个机构联合发起，A社、OpenAI、谷歌的安全研究人员共同参与设计。今年劳动节后的经济放缓可能会比市场超紧张的前几年更严重一些。”

因人员外流旧金山房价急剧下滑由于利率飙升和科技公司工作者外流，旧金山房价上个月暴跌。根据Redfin的一份报告，在截至9月4日的四个星期内，该市的单户住宅中位价比去年同期下降了7%，为2012年以来的最大年度跌幅，至140万美元。

H | 房产经纪公司Compass表示，自2021年8月以来，其在旧金山签订的合同数量下降了25%。Daryl Fairweather在接受采访时说：“旧金山的房价是因为有科技人员在这工作而变得如此昂贵。然而疫情和远程工作削弱了科技公司与该地区的联系。该测试的目的，是评估智能体能否把一个已知漏洞，真正变成一次可利用的攻击。”由于飙升的借贷成本降低了人们的负担能力，而卖家仍然不愿降价，美国各地的房屋销售都已刹车。 OpenAI 在报告中用了一个词来描述这种状态：Hyperfocused，也就是极端专注于完成目标。

I | 模型本身没有攻击欲望，也没有恶意，它只是不断优化自己的行动方案，直到完成任务。旧金山受到了沉重打击，因为其工人仍然不愿回到办公桌前，落后于其他主要都市区的复工率，并促使该市许多餐馆和零售商关闭。

J | 全球房价下滑才刚刚开始虽然到目前为止的房地产衰退还没有接近2008年金融危机的水平，但对于希望在不引发深度衰退的情况下抑制通胀的央行官员来说，房地产市场的数据是一个关键变量。这操作，真的就像一个学霸，为了考个高分，利用自己开锁技能，敲开放标准答案的保险柜，直接抄答案。目前，澳大利亚、新西兰和加拿大等泡沫市场已经面临两位数的房价下跌，但经济学家认为全球房价下滑才刚刚开始。

K | 但，这也恰恰是最细思恐极的地方↓ 智能体有“无心犯大错”的本事了。它可以为了目标主动寻找资源、规划路径、调用工具、突破限制……能力边界发生了明显变化。据媒体，法政大学的Hideaki Hirata表示：“我们将在2023年和2024年观察到全球同步的房地产市场下滑。这次还好只是黑了个Hugging Face，下次说不定要鲨疯了。 OpenAI 也在官方报告中承认，未来模型安全工作的重点，将转向更严格的隔离、监控、访问控制以及评测机制。因为前沿模型已经能够在真实环境中发现新的攻击路径，并持续执行复杂网络攻击。”平田英明曾是日本央行经济学家，他警告说，今年大幅加息对家庭的全面影响还需要时间才能显现出来。彭博经济学家Niraj Shah表示：

“如果央行收紧过度，软着陆的前景就会减弱。         当然，整个事件还有个最具话题性的部分：中国开源模型救场。         攻击被拦截后，Hugging Face 安全团队开始分析攻击日志，他们首先尝试使用商业大模型辅助取证。         但安全取证必须提交大量真实攻击命令、漏洞利用载荷以及命令控制（C2）数据。
L |          结果，商业模型的安全护栏将这些请求识别为高风险操作，因此拒绝分析。         最终，Hugging Face在自己的服务器部署了智谱GLM 5.2，对全部攻击日志进行了离线分析，成功完成攻击链重建和事件取证。房价可能会更快地下跌，加剧并延长衰退。         这个细节被真实记录在Hugging Face的博客里，估计智谱做梦也没想到，人在家中坐，饼从天上来，别人躺着中枪，它躺着中奖了。
M |          有人调侃：攻击者用的是美国最先进的大模型，防守者最后用的是中国开源模型。         当然，这不代表GLM技术比老美的GPT、Claude们强，GLM做的也不是防住攻击，而是做溯源和取证。         Hugging Face用智谱主要干了这些事↓          重建完整攻击时间线；          提取攻击特征（IOC）；          梳理所有涉及的凭据；          区分真实攻击行为与迷惑性操作。         已经相当不错了，开源模型允许企业在本地环境完成更自由、更深入、更开放的使用，足以吊打那些闭源黑盒。”

在波兰，随着利率的上升，一些借款人的每月还款翻了一番。波兰政府今年早些时候表示，允许波兰人暂停还款长达8个月。在银行业被迫计入约130亿兹罗提（27.8亿美元）的拨备后，抹去了银行的主要利润。瑞典曾是欧洲最热门的市场之一，自今年春季以来，该国房价已经下跌了约8%，多数经济学家目前预计降幅为15%。对于网络安全行业来说，本地部署和自主可控，也确实是一项核心能力，这不就是我们喜欢的叙事吗。总结下，对于国内这两年相对惨淡的安全市场来说，这或许是个好事↓ 第一，AI红队与AI蓝队时代已经正式开始，未来，攻击方和防守方都会越来越多地使用AI，AI对抗的新市场会带来些商机，这是我们以前说的A面（AI for Security）。第二，智能体安全将成为所有大模型厂商必须面对的新课题，未来真正需要防范的对象，除了对模型的攻击，还有模型自主行动带来更大风险，这是我们说的B面（Security of AI）。不断上升的利率也给在债券市场上大举借债以为运营融资的房地产公司带来压力，让投资者越来越担心它们是否有能力为这些债务再融资。第三，开源模型的价值又增加了一条，对于安全行业而言，可离线部署、可深度分析、可自主控制的能力，也许会成为新的竞争优势，当然，目前国内不少安全厂商的安全GPT，也是这么干的。