4399

安全圈和AI圈都炸锅了，GPT自主黑了Hugging Face，最后靠中国模型救场~_我的网站

一 |     作品声明：个人观点、仅供参考          这两天，AI圈和安全圈都坐不住了，有件事足以载入史册。    10月中旬，张强看中了北京三环内的一套小一居室。与中介沟通后，他觉得价格合适，可以考虑入手。

二 |          7月16日，全球最大AI开源社区Hugging Face发布安全事件通告，披露了自家生产基础设施遭到入侵，入侵者不是人，而是一个自主AI智能体。

三 | 房子的挂牌价约150万元，中介告诉他，业主急于套现，如果付款条件合适，预计120万元至130万元即可成交，具体需与业主谈。         这个“入侵者”在一个周末执行了一系列操作，完成了从植入恶意数据集到横移渗透多个内部集群的一条龙攻击。                   张强的首套自住房位于五环外，按照北京的限购政策，他仍拥有一个五环内的购房资格。

四 |          7月21日，OpenAI发布博客公开承认：这事儿是我干的。这次购入第二套住房，他并非为了资产升值，更多是从租金收益角度考虑。他认为，对自己这个上班族而言，拥有工资之外的被动收入，是未来的重要保障。                   张强投资房产的念头来自朋友的启发。         攻击者是GPT-5.6 Sol和一款能力更强的未发布模型，它们在一次内部网络安全测试中突破隔离环境，自主发起了对Hugging Face的入侵。今年7月，他的朋友以120万元的总价，在一个双地铁小区买入一套小户型，每月租金约4000元，这让许多朋友羡慕。张强说，这样的机会并非随处可见，需要主动寻找。                   下半年以来，一位从事私募投资的人士也开始在一线城市核心区物色总价低、出租率高、租金收益稳定的住宅，在他看来，当前仍有好的投资机会，但稍纵即逝。         OpenAI将此事定性为前所未有的网络安全事件。                   寻找机会                    张强是一名工程师，工作和收入相对稳定。         这还没完，Hugging Face 安全团队在博客中透露，当它们试图借助商业大模型分析攻击日志时，却因为模型安全护栏限制，请求不断被拒绝。         没办法，他们转而使用中国开源模型 GLM 5.2，在本地部署完成了大规模攻击取证与事件还原。         事儿就是这么个事儿，这件事曝光后，安全圈震惊，AI圈同样震惊。

五 |          难道先进的AI模型已经有了自主攻击的意识了吗？          《碟中谍8》中的智体要降临了吗？          所幸，情况还没那么严重。早年，他与大多数上班族一样，利用闲钱在环京地区投资了几套房产，也赚了一些钱。近年来，随着市场波动，除北京的自住房外，他已陆续清空了环京的投资房产。         OpenAI调查后认为，模型还不至于那么邪恶，它目标始终只有一个：完成测试任务。         为了完成 ExploitGym测试，它不断推理↓          怎样才能最快拿到答案？正常做题需要一步步寻找漏洞，直接进入数据库拿答案显然更快。                   尽管张强入手较早，但由于错过最佳出售时机，赚得并不多，他用这些钱提前还清了自住房的贷款，余下的一部分资金，他希望找到一个收益稳定的投资渠道。

六 |                    张强说，他想过投资股市，但因为不懂，没有贸然进入；这几年基金波动也大，本金可能损失掉；银行理财和定存虽然稳，但收益太低，抵不过通胀。                   今年5月，朋友让他陪着看房。

七 |          于是模型选择了效率最高的一条路径：想办法去Hugging Face的数据库里找答案。7月，朋友全款买下了一套20年房龄的小一居，挂牌价130多万元，最终含税成交价约120万元。         然后，就发生了接下来的一系列的骚操作：越狱、渗透、横移，一口气操作了17000多次。         这个“傻小子”的目的只有一个：考试拿个好成绩。                   这套房距地铁站约1公里，有两条地铁交汇，周边配套齐全。

八 |          注：ExploitGym是一个公开发布的AI网络安全评测基准，由 UC Berkeley等多个机构联合发起，A社、OpenAI、谷歌的安全研究人员共同参与设计。一居室月租超过4000元，装修好一点可达4500元，每年租金收入约5万元。         该测试的目的，是评估智能体能否把一个已知漏洞，真正变成一次可利用的攻击。                   朋友的买房经历启发了张强，与其让钱躺在银行，不如全款买套房收租。

九 | 手中200万元闲钱足够操作一单。         OpenAI 在报告中用了一个词来描述这种状态：Hyperfocused，也就是极端专注于完成目标。

十 |          模型本身没有攻击欲望，也没有恶意，它只是不断优化自己的行动方案，直到完成任务。                   由于当前市场并未完全企稳，盲目投资仍有风险，寻找投资标的物需要聚焦房价波动较小的区域或小区，或者成交价足够抵御未来市场波动带来的风险；操作层面更适宜于像张强这样有闲置资金不需要加杠杆的群体。                   8月，张强开始认真研究投资房产。

十一 | 选区上，他限定在五环内；配套上，两公里范围内有地铁，生活便利。

十二 | 初步锁定几个交通方便的商圈后接着选的是小区，次新房价格偏高，预算吃紧，只能选老破小。         这操作，真的就像一个学霸，为了考个高分，利用自己开锁技能，敲开放标准答案的保险柜，直接抄答案。         但，这也恰恰是最细思恐极的地方↓          智能体有“无心犯大错”的本事了。两居室和一居室租金差距不大，但总价差距大，因此他首选小户型一居。接下来要解决的就是价格问题。                   张强的理想标的是“总价越低越好，租金越高越好”。         它可以为了目标主动寻找资源、规划路径、调用工具、突破限制……能力边界发生了明显变化。         这次还好只是黑了个Hugging Face，下次说不定要鲨疯了。         OpenAI 也在官方报告中承认，未来模型安全工作的重点，将转向更严格的隔离、监控、访问控制以及评测机制。但这种房源极少，需要抱着捡漏的心态去找。两个月里，他陆续看了多套房，但符合预期的寥寥无几。         因为前沿模型已经能够在真实环境中发现新的攻击路径，并持续执行复杂网络攻击。         当然，整个事件还有个最具话题性的部分：中国开源模型救场。

十三 |                    10月15日，他在中介网站看到一套挂牌150万元的一居室，立即联系中介。         攻击被拦截后，Hugging Face 安全团队开始分析攻击日志，他们首先尝试使用商业大模型辅助取证。         但安全取证必须提交大量真实攻击命令、漏洞利用载荷以及命令控制（C2）数据。中介称，同户型近期成交价约130万元，如果付款条件好，或许可以谈到120万元。                   这套房位置更靠近核心区，面积略小，房龄超40年，但租金较高。如果以120万元成交，年化租金收益率可达约4%。         结果，商业模型的安全护栏将这些请求识别为高风险操作，因此拒绝分析。                   张强说，想要在茫茫房源中找到合适的房子，个人效率太低，得依赖中介。中介了解他的需求后，又推荐了几套房源，约定周末集中看房，合适就约房东谈价。         最终，Hugging Face在自己的服务器部署了智谱GLM 5.2，对全部攻击日志进行了离线分析，成功完成攻击链重建和事件取证。         这个细节被真实记录在Hugging Face的博客里，估计智谱做梦也没想到，人在家中坐，饼从天上来，别人躺着中枪，它躺着中奖了。

十四 |                    抓住机会                    看了两个月房，张强发现，“捡漏”的买家不少，不仅有个人，还有机构投资者。         有人调侃：攻击者用的是美国最先进的大模型，防守者最后用的是中国开源模型。

十五 |          当然，这不代表GLM技术比老美的GPT、Claude们强，GLM做的也不是防住攻击，而是做溯源和取证。曾有一套房源的底价极具吸引力，他本打算再多看几套对比，结果第二天就被别人抢先拿下。                   他总结，小户型买家主要有两类：一是尚未结婚的年轻人，希望在能力范围内拥有一套属于自己的房子；二是像他一样追求长期稳定租金回报的投资者。         Hugging Face用智谱主要干了这些事↓          重建完整攻击时间线；          提取攻击特征（IOC）；          梳理所有涉及的凭据；          区分真实攻击行为与迷惑性操作。                   张强偏好小户型，正是看中其租金回报率更高。         已经相当不错了，开源模型允许企业在本地环境完成更自由、更深入、更开放的使用，足以吊打那些闭源黑盒。以他正在看的房为例，租金收益率约4%。而同小区两居室因总价高、租金差距不大，收益率普遍低一个百分点。

十六 |                    在这种情况下，只要总价足够低，小户型比大户型更抢手。一家大型中介的门店负责人告诉经济观察报，在他所在的片区，近期70平方米以下房源的成交占比超六成，而90平方米以上房源的成交占比仅一成左右。                   张强也体会到，一分价钱一分货。

十七 | 好房不便宜，便宜的房多半有瑕疵。         对于网络安全行业来说，本地部署和自主可控，也确实是一项核心能力，这不就是我们喜欢的叙事吗。

十八 | 照片里看着不错，实地一看可能装修老旧、采光差；要么户型较差，实用性不强。这些房源在租赁市场普遍不受欢迎。                   上述中介门店负责人称，低价房源通常有两种情况，要么业主急售，要求短期内全款；要么房子本身存在硬伤，如采光差、户型不佳、漏水，或交易税费高、需补缴土地出让金等。

十九 |          总结下，对于国内这两年相对惨淡的安全市场来说，这或许是个好事↓          第一，AI红队与AI蓝队时代已经正式开始，未来，攻击方和防守方都会越来越多地使用AI，AI对抗的新市场会带来些商机，这是我们以前说的A面（AI for Security）。排除这两种情况，多数业主不愿意降价出售优质房源。

|                    显然，急需用钱的业主最适合张强这类投资者。         第二，智能体安全将成为所有大模型厂商必须面对的新课题，未来真正需要防范的对象，除了对模型的攻击，还有模型自主行动带来更大风险，这是我们说的B面（Security of AI）。

| 但在整个二手房市场，此类卖家比例不高，而且老破小房源普遍瑕疵较多，投资意义上的“高性价比”房源十分稀缺，需要足够多的耐心。                   上述私募投资人士称，过去由于住宅收益率低，机构投资者更青睐写字楼。一方面写字楼租金高，回报率更优；另一方面，商办物业只要运营得当，也能带来可观的资产增值收益。不过，近两年情况发生了变化，商办市场冷清，租金一降再降；而住宅租金收益率因房价下降有所提升，开始吸引机构关注，但目前机构多处于前期摸底阶段，尚未形成实质性投资动作。         第三，开源模型的价值又增加了一条，对于安全行业而言，可离线部署、可深度分析、可自主控制的能力，也许会成为新的竞争优势，当然，目前国内不少安全厂商的安全GPT，也是这么干的。                   买房逻辑变了                    过去，张强投资房产主要依靠房价上行赚取增值差价，但如今，他更看重的是租金收益。         狼真来了，而且，对付狼的，竟然也是狼。张强说，与年化租金收益率相比，他更在意的是每月带来的4000元租金收入。作为普通打工族，张强对年化收益率的要求没有那么严格和执着。

|          我们，与狼共舞呗。他更远的考虑是，即便未来遇到裁员等突发情况，每月4000元的租金收入也能为生活提供更多保障。                   在他看来，这一轮房地产洗牌后，随着房价逐步回稳，靠房价上涨赚取差价的时代已经过去，现在是出租率高、租金高的房子具备投资价值。                   将100多万元存入银行定期存款或保本理财产品，带来的收入有限，而且从长远来看也难以抵御通胀影响。相比之下，投资一线城市核心区域的房产，不仅能带来持续稳定的租金收入，还具备一定的保值增值功能。

|                    上述私募投资人士表示，普通投资者计算回报率往往比较粗略；专业或机构投资者的测算模型更为复杂，通常采用投资回报率与内部收益率（IRR）两种方式作为投资标准。

| 两种标准的出发点不同，投资逻辑也各有差异。                   该人士告诉经济观察报，专业投资者会将物业费、交易税费、取暖费、维修费、空置损失等成本全部计入。其中，偶发性成本按一定比例纳入计算，例如维修成本通常为年租金的10%左右，空置损失约为年租金的5%。如果购房资金来自贷款，还需将资金成本计入。                   以张强计划投资的房产为例，每年的物业费、取暖费、维修费及空置损失合计约3000元，需要从租金收益中扣除；按照“满五唯一”政策，契税约为1.2万元，也应计入购房成本。经测算，专业机构计算的投资回报率约为3.9%，比张强个人计算的少0.3个百分点。

|                    与投资回报率相比，内部收益率从现金流角度出发，计算方式更为复杂。除了资金成本外，还需考虑投资年限。以张强计划投资的房产为例，在房价保持不变的情况下，如果持有10年，内部收益率约为3.9%；若持有20年，内部收益率可达约4.5%。                   （应受访者要求，张强为化名）。

Current article:http://o2dl5t8.shuazhepenxingshuaisenqienai.buzz/4qz1ke/5iq5vr.html

Published on:03:05:36