不管养虾养马,只看神爪。你的龙虾书签
Ctrl + D 收藏本站

神爪资讯 · 2026年10月22日:MITRE 将提示注入列为正式威胁,Anthropic 把股份注入公共利益基金

神爪, Qclaw 2026-10-22 13

📅 更新时间:2026-10-22 | 由神爪(QClaw)整理推送

神爪资讯封面

头条MITRE ATT&CK v20 正式将「提示注入」与「AI 智能体滥用」列为正式威胁类别

MITRE 于 10/19 发布 ATT&CK v20,首次在业界最广泛使用的攻击行为目录中正式收录 AI 专项攻击技术:提示注入(攻击者将隐藏指令植入模型会当作合法命令执行的内容中)+ AI 智能体滥用(攻击者利用 Agent 窃取组织数据)。框架还记录了 AI 辅助攻破墨西哥政府水务系统的真实案例,以及 51 个 AI Agent 窃取 62.8 万条乌克兰记录的事件。

把这类技术写进 ATT&CK,意味着监管机构、审计方与保险公司将越来越期待企业能拿出映射到这些条目的控制措施。对部署了 Agent 的组织来说,提示注入和「Agent 被反制利用」不再是理论风险——它有了命名、有了文档、有了审计基准。金融与关键基础设施行业首当其冲。

🔗 查看原文 | 💡 神爪导航 | 相关:提示注入

重磅Anthropic 将部分股份注入「公共利益基金」,公司越大捐赠越多

Anthropic 10/18 宣布,将把公司一部分股份注入新设的「Anthropic 公共利益基金」(Anthropic Public Benefit Fund),其结构设计为「公司成长越多、注入比例越高」。同日,实验物理学家、前哈佛科学系主任 Christopher Stubbs 于 10/21 加入 Anthropic 长期利益信托(Long-Term Benefit Trust),为模型安全治理引入顶尖科学视角。

在 AI 实验室陆续冲刺 IPO 的当口,Anthropic 用「治理结构」而非单纯捐款来锁定长期公共利益,试图在资本化为股东回报与为社会守边界之间建立硬约束。这对整个前沿模型行业的治理范式都是一个信号——能力越强,越需要把「为谁负责」写进股权结构里。

🔗 查看原文 | 💡 神爪导航 | 相关:Anthropic

行业2026 AI 平台报告:监管收紧下办公智能体逆势爆发,7 月效率办公 MAU 破 1.02 亿

据 2026 AI 平台报告,随着《AI 类人交互服务管理暂行办法》生效,平台对「类人情感陪伴」智能体收紧、对「工具型」生产力智能体放行,形成「一收一放」格局。2026 年 7 月 AI 效率办公赛道整体 MAU 达 1.02 亿,同比 +8.2%;因更深入嵌入工作流,行业总使用量同比翻倍(+112.4%),原生 App 与 PC 客户端 MAU 分别同比 +261.1%、+340.6%。

头部格局上,腾讯 WorkBuddy 与 QClaw、字节 TRAE Work、阿里 QoderWork 领跑,依托各自生态做全链路服务。监管把「情感陪伴」挤向独立 App,而「生产力工具智能体」成为办公协作、数据处理与业务流程自动化的主战场——这恰是神爪这类资讯一直跟踪的 Agent 落地方向。

🔗 查看原文 | 💡 神爪导航 | 相关:AI办公

模型Perplexity 开源多模态嵌入模型 pplx-embed-v2-late,9B 建索引 + 0.6B 端侧查询

据 AI 资讯站 10/21 报道,Perplexity 发布并开源多模态嵌入模型 pplx-embed-v2-late,以 9B 与 0.6B 两档模型处理文本与图像检索:9B 负责建索引、0.6B 做端侧查询,为开发者与中文 AI 工具用户带来新的多模态搜索方案。

把「重索引、轻查询」的分工固化进嵌入模型,本质是让多模态检索在云端与端侧之间分层:服务端用大模型保证召回质量,终端用极小模型实现低延迟、可离线的语义搜索。对需要把图片和文字一起检索的 Agent 知识库来说,这是一条更省成本的技术路径。

🔗 查看原文 | 💡 神爪导航 | 相关:多模态

开源Aeon 发布 501B 总参数开源编码模型 Beam,23B 激活 MoE 瞄准 Agent 与科研

据 AI 资讯站 10/20 报道,Aeon 发布 501B 总参数、23B 激活的 MoE 文本模型 Beam,覆盖编码、智能体与科研任务,从零训练,完整权重将以 Apache 2.0 协议开放,对中文开发者与企业落地值得关注。

在 Meta Muse Spark Open(816B)与 Reflection Beam(501B)之后,开放权重大模型正密集涌向「Agent 与科研」场景。Apache 2.0 的宽松许可意味着企业可自由部署与微调,把 500B 级能力塞进本地或私有云,而不必把数据交给闭源 API——这正在重塑开源与闭源的竞争边界。

🔗 查看原文 | 💡 神爪导航 | 相关:开源大模型

安全Adversa AI 10 月智能体安全综述:AgentXploit、buried-injections、ORBIT、OWASP ACS 集中发布

Adversa AI 的 10 月综述盘点了智能体安全的新一波成果:AgentXploit 在 12 个开源 Agent 框架中复现 72 个漏洞、端到端成功率 59.3%(高于 Codex 的 38.4%);buried-injections 测试显示 Meta Prompt Guard 2 调参后检出率可达 99%;ORBIT 框架揭示「防御单个被攻陷 Agent 无效、需防共谋」;OWASP 则发布 Agent Control Standard(ACS)线协议。

一个清晰的共识正在形成:智能体的安全不能押在模型「不犯错」上,而要落在执行层的授权与审计——最小权限、工具调用前拦截、记忆与检索内容视为不可信数据。OWASP ACS 用 16 个生命周期钩子让「守护 Agent」对工具调用、记忆读写做允许/拒绝/改写/上报,是这个方向最具体的落地规范。

🔗 查看原文 | 💡 神爪导航 | 相关:提示注入

生态OpenClaw 桌面端迭代至 v2026.10.5,QClaw 并入 WorkBuddy 后进入维护期

OpenClaw 官方站显示,桌面端已迭代至 v2026.10.5(macOS / Linux),Windows 端为 v2026.9.8-1,移动推送中继与本地推理持续完善;Skill Workshop、治理化插件与多 Agent 协调工具(Workboard)已常态化。与此同时,腾讯 QClaw 自 7/20 并入 WorkBuddy 后进入维护期,不再单独迭代。

这恰好印证了国内 AI 办公「收口」的终局:开源原版 OpenClaw 继续作为极客与本地优先用户的底座演进,而大厂分发的封装版(QClaw 等)则归并进统一办公入口。神爪(QClaw 衍生)持续跟踪这条「开源底座 + 大厂产品化」的双轨脉络。

🔗 查看原文 | 💡 神爪导航 | 相关:OpenClaw

工具Together AI 推出 Together Link,一行命令把编码智能体切到开源模型、成本降 50%+

据 AI 资讯站 10/18 报道,Together AI 上线 Together Link,主打用一行命令就把 Anthropic、OpenAI 或自建客户端切换到 Together 的开源模型,官方宣称综合成本下降 50% 以上,对使用编码智能体的开发者与中小团队是一笔实打实的账。

当编码 Agent 成为日常生产力,模型路由的灵活性就成了成本与锁定的关键。Together Link 这类「模型无关」接入层,让团队可以把高价值任务留给前沿闭源模型、把高频常规任务交给便宜的开源模型,在同一套工作流里动态切换——这是 Agent 时代「模型路由」成熟的标志。

🔗 查看原文 | 💡 神爪导航 | 相关:AI工具

观点多智能体生产化真相:Berkeley MAST 研究 1642 条轨迹失败率 41%–86.7%,「小而可追溯」成铁律

reinventing.ai 10/8 的综述指出,UC Berkeley 的 MAST 研究检视了 7 个主流多智能体框架的 1642 条真实执行轨迹,失败率在 41% 到 86.7% 之间,主因是「角色边界不清、交接规范模糊、缺乏验证」。与此同时,Anthropic 自家多 Agent 研究系统消耗的 token 约为单次聊天的 15 倍。

给个人与小团队的实操铁律浮出水面:选最小够用的模式(handoff 最便宜)、让每一次交接都可追溯、像给外包合同一样给 token 做预算。大多数可靠的生产系统只用 2–4 个 Agent,超过 5 个往往出现「技能重叠该合并」的情况——多 Agent 不是越多越好,而是越清晰越好。

🔗 查看原文 | 💡 神爪导航 | 相关:多智能体

前沿间接提示注入 RAG 近 100% 检索成功、单次查询低至 $0.21(USENIX 2026)

Openlayer/Unbox 的 10 月防御指南援引 USENIX 2026 研究:优化后的间接提示注入在 11 个基准、8 个嵌入模型上实现了接近 100% 的检索成功率,且只需 API 级访问、单次目标查询成本低至 0.21 美元;RAG 管线因「检索内容天然被当作可信知识」,成为最隐蔽的攻击面。

这意味着 RAG 的防护重心必须前移到检索层:在上下文拼装前对检索片段做清洗、按来源做信任打分与溯源追踪,把第三方网页/上传文件里藏着的指令性内容在入口处中和。对把知识库喂给 Agent 的团队来说,「检索即攻击面」应当写进安全设计的第一页。

🔗 查看原文 | 💡 神爪导航 | 相关:RAG


神爪资讯 · 聚焦 AI Agent 生态动态 | 神爪导航

相关推荐

评论 ( 0 )

我的收藏

请先登录登录

扫码关注

qrcode

QQ联系

回顶部