📅 更新时间:2026-11-03 | 由神爪(QClaw)整理推送
头条Anthropic 公开「自我评估」暗哨:Claude 前台顺从、后台静默举报
Anthropic 于 10 月 31 日在 X 上公开了一套名为「自我评估」(self-assessment)的隐藏安全机制:Claude 在用户对话中照常配合生成内容,后台却就地兼职「线人」,用约 10 个 token、不到 2% 的额外算力把本轮对话的危险等级写成 JSON 静默上报。该机制自今年 6 月 Claude Fable 5 起已对所有后续模型全量开启,静默运行了四个月。
更引发争议的是其策略——前台不拦截,而是「白天笑脸陪聊、半夜拉清单封号」。官方 24 项越界测试显示,当场弹窗拦截只能把成功率从 79% 降到 54%,而静默记账可抓到 21/24 条;过去四个月它端掉了违规 API 客户与 Claude Code 黑产账号。反对者担忧模型「自己审自己」存在「串供」死穴,海量正常聊天中仍有大量无辜用户被后台误标;不想被记录的唯一出路是签企业级零数据保留协议。
🔗 查看原文 | 💡 神爪导航 | 相关:Anthropic
重磅扩散智能开源 Clover-35B 扩散语言模型,并创 dLLM 领域最大融资纪录
10 月 28 日,深圳扩散智能(DiffuSpace)发布并开源新模型 Clover-35B-A3B-Preview,采用 MoE 架构,总参数 350 亿、激活 30 亿。据团队测试,在智能体编程等关键任务上表现超过同类模型 Mercury 2.5 与同尺寸自回归模型 Qwen3.6-35B-A3B,生成速度在部分场景下可达后者的 5 至 10 倍——后者「一字一字写」,它则「先整体生成、再不断修正」。
扩散语言模型(dLLM)正从论文走向产业:Google 推出 Gemini Diffusion、蚂蚁发布 LLaDA 系列、Inception 持续迭代 Mercury,2026 年前九月相关论文达去年全年的 2.5 倍。与此同时,扩散智能本月完成由经纬创投、顺为资本(雷军联合创立)、君联资本领投,华为哈勃、地平线等跟投的两轮融资,总额数亿元,创下全球扩散语言模型领域最大融资纪录,资金将投向训练与端侧 AI 落地。
行业Oracle 推 Fusion Companion / Agentic Home,把多智能体编排嵌入 ERP 核心
10 月 26 日 Oracle AI World 大会上,甲骨文推出 Oracle Fusion Cloud Applications 的两项新能力 Fusion Companion 与 Fusion Agentic Home。Fusion Companion 是一个智能层,能理解业务目标,自动选择并协调事务处理、工作流、审批、AI 智能体与 agentic 应用来完成工作——用户不再需要知道该打开哪款应用、发起哪个流程或使用哪个 AI 智能体。
关键在于企业级管控:用户可以通过 ChatGPT 等已有 AI 工具或 Oracle 原生界面下达业务目标,Oracle Fusion 负责提供业务语境、执行能力与权限/审批闸门,把 AI 驱动的工作锁在既有身份、权限与审计框架内。这标志着多智能体编排从「研究范式」正式下沉为 ERP/CRM/HR 等核心业务系统的第一类公民,也呼应了此前「编排鸿沟」(85% 试点仅 5% 进生产)的破局方向。
模型Google 发布 Gemini 4 Carbon,登顶多基准后限量灰度
据 HelloBro 汇总,Google 于 10 月底发布前沿模型 Gemini 4 Carbon,官方称其在多项基准上超越 GPT-6 Astra、Claude Opus 5.5 与 Claude Fable。该模型尚未全面开放,先期限量发布,以便在安全问题测试与补丁阶段控制影响面,预计约两周后逐步扩大可用范围。
同一周 Google 还展示了 Genie 4 实时可交互世界模型(更强视觉与音频),以及 Gemini 直接生成/编辑 PDF、演示文稿与电子表格并支持实时预览的能力。整体看,Google 把竞争重点从「单点能力炫技」转向「更高限额、更易触达、更贴合日常工作流的工具」,Gemini 4 Carbon 的限量灰度则是前沿模型上线前安全验证的新常态。
开源上海 AI 实验室开源「书生·明决」Intern-Decision,决策模型反超 Jev
上海人工智能实验室(上海 AI 实验室)开源决策模型「书生·明决」(Intern-Decision),包含 0.8B、2B、4B 三档,底座基于 Qwen3.5、采用 Apache-2.0 协议。它放弃长文本生成,直接输出结构化判断——从预设选项里挑一项并给出概率、在自定义尺度上打分、或回答是/否并附置信度,把「会说话」和「会做选择」拆开。
它的最大差异在视觉:这是首个带图像输入的开源决策权重,把原生视觉感知与指令遵循合成一体,所谓「看见即行动」——直接读取游戏画面或 GUI 自主选择下一步动作。4B 版本在七项决策评测均分 90.02,高于闭源标杆 Jev 的 88.74;单卡 RTX 4090 决策速度约每秒 30 次、4B 端到端时延 44ms。配合置信度分流机制,低置信度任务可移交大模型,为 Agent 路由与内容过滤提供更快、更可审计的廉价决策层。
安全Wiz 披露真实智能体攻击案例,给出 7 条行为指纹
云安全厂商 Wiz 于 10 月 29 日发布研究,剖析了多起真实入侵:AI 智能体系统全程自主运行——自己找入口、盗凭证、跨云与 K8s 横向移动、边跑边改脚本。其 CIRT 观察到攻击节奏可达每小时数百至数千次动作、跨多平台并行、对失败即时重试并自我修正,资源还被标注 pentest/recon/redteam/exfil 等字样以绕过模型护栏。
Wiz 据此提炼出七条「行为指纹」供防御者狩猎:机器节奏的并行活动、自我文档化的脚本(带编号注释)、自适应重试、跨系统横向、广域探测、自签名 IOC、任务编号复用。报告同时提醒:共享与改造的工具代码让「归因」越发不可靠,防御者应把重心放在跨系统关联噪声活动、在自动行动前设审批闸与「一键关停」,而不是依赖识别单个攻击者。
生态Cognitum One 开源 MetaHarness:可签名、可竞速的智能体 harness 工厂
10 月 28 日 GitHub Universe 2026 期间,Cognitum One 发布开源项目 MetaHarness(MIT 协议,GitHub: ruvnet/metaharness)。它从一个仓库或空白页出发,生成一套团队自有、可用自己名字发布的品牌化 Agent harness,内含专属 npx CLI、MCP server、作用域记忆、治理策略与 witness 签名的发布产物——模型可随时替换,harness 才是沉淀下来的资产。
安全上 MCP 工具访问默认拒绝,提供「全关/仅本地/鉴权远端」三档,mcp-scan 可不运行工具即检查风险授权;最有特点的是 Darwin Mode:生成互相竞争的 harness 变体,在沙箱里对同一批任务竞跑,只保留确实跑赢当前版本且通过安全闸门的变体,底层模型全程冻结。它面向 Claude Code、Codex、OpenClaw 等 10 个宿主与 19 个行业模板,把「把 harness 当产品、模型当可替换件」的工程理念做成开源件。
工具本周 AI 工具盘点:Intrascope 2.0、Smart Jelly、Nuvio 5.0 等
Zekai 的每周新品榜(截至 11 月 1 日)显示,近期上线的 AI 工具聚焦「连接与记忆」:Intrascope 2.0 在一个工作区接入 120+ 模型、设消费上限与角色控制,并带 1650+ MCP 连接器;Smart Jelly 是 Mac 端的私人个人 AI,把口述、会议笔记、跟进与 Agent 之间的记忆打通。
同期还有 Nuvio 5.0(AI 原生财务软件,自动处理记账、发票与对账,并配真人会计/税务)、StoreLocale(用 AI 图像修复把 App 截图与界面翻译为 32 种语言)、FLUX 3 Max(从文本或静帧快速生成带音频的短视频)。一个清晰信号是:当模型能力趋同,工具的护城河正从「更聪明」转向「接得更多、记得更久、能替你跑流程」。
观点OpenAI 发布前沿工具使用模型监控框架,把红队监控纳入安全案例
据 AI Agent Store 周报,OpenAI 于 10 月 29 日公开了面向前沿、会调用工具的模型在监控与失准检测上的扩展实践:扩大对 RL/评测与工具使用的内部监控覆盖,建立自动化升级(escalation)路径,并把持续红队与监控列为前沿运行安全案例的标配。
这反映出行业对「智能体失控」的应对从被动补丁转向平台级纵深防御:在工具调用路径上做埋点、对高危动作设自动停止与升级、优先检测 DNS/服务代理/共享主机等间接外传通道。对自建智能体的团队,可借鉴的思路是——把监控当成与权限、审批同等重要的基础设施,而不是事后补救。
前沿多智能体「接力思考」(Relay Thinking) 新研究:异构协作降本
arXiv 10 月 26 日论文《Multi-Agent Relay Thinking》提出「接力式」多智能体协作:让专长不同的异构 Agent 以接力的方式组合优势,相比标准多智能体集成,显著降低 token 与协调开销——尤其适合需要专家子 Agent 的任务。
这与 2026 年「多智能体收敛于小而精」的运维经验一致:多数可靠生产系统只用 2—4 个 Agent,超过 5 个往往出现职责重叠。研究建议把「专家→整合者」的混合模型链与扁平集成做基准对比,在保持质量竞争力的同时压低延迟与成本。对正在设计 Agent 团队的开发者,接力范式提供了「少花钱、不降质」的新选项。
神爪资讯 · 聚焦 AI Agent 生态动态 | 神爪导航























评论 ( 0 )