Skip to content

Latest commit

 

History

History
473 lines (389 loc) · 37.6 KB

File metadata and controls

473 lines (389 loc) · 37.6 KB

OS Agent 记忆能力优化与应用——完整验收测试规范

状态:2026-09-03 按 完整赛题要求.pptx 重新校准

2026-09-08 交付口径更新:作品内容、份数、格式、命名与匿名要求唯一以 赛方交付作品要求冻结记录 为准;本规范其余技术验收条目继续适用。

依据:官方技术/赛事细则 PPTX官方平台赛题文字方案与附录 A;技术要求共同适用,交付要求见冻结记录 目的:把硬门槛、功能、性能、评分、交付和 Agent 完整性转为可执行、可判定、可追溯的清单

团队执行决定:2026-09-03 已批准 ADR-0001, 2026-09-04 已批准 ADR-0002ADR-0003ADR-0004ADR-0005。这些决定确定 PIXIU 的实现、用户会话运行边界与供应链取证方式,不改变或扩写官方评分条款。

0. 证据与判定规则

标识 含义 判定规则
[GATE] PPT 明示硬门槛 任一不满足不得报告“赛题验收通过”;H-01 不满足按 PPT 计 0 分
[M] 明确功能要求 未通过则方案不完整
[K] 量化指标 按指定数据集、环境和统计口径判定
[A] OS Agent 产品完整性 用于证明作品确实运行在可用 OS Agent 中,而非独立检索 Demo
[D] 交付材料 缺失影响材料审查和文档评分
[S] 评分项目 依原始分值打分,不按 PPT 饼图归一化百分比改分

每项记录“通过/部分通过/不通过/未测试”,并附代码提交、机器环境、原始日志、报告页码、截图或视频时间戳。portable、stub、mock、Debian 与银河麒麟 V11 的结果必须分栏,禁止互相替代。

1. 赛题硬门槛

编号 验收项 测试方法 通过标准 PIXIU 当前状态
H-01 [GATE] 部署于银河麒麟桌面操作系统 V11 记录系统版本、架构;安装最终包并完成全链路演示 最终版本在 V11 可安装、启动、操作;PPT 明示不满足计 0 分 安装/启动已通过;最终同版 Agent、三设备和视频待补
H-02 [GATE] 数据库使用系统向量数据库 SDK 跟踪建库、索引、写入、删除、查询调用;检查链接/进程与运行日志 生产向量存储和检索实际调用 kylin-ai-vector-engine/官方客户端;严格模式缺失即失败 技术门通过、最终归档待重跑:当前审阅候选 strict 同包 direct SDK 与产品写入/检索/遗忘/隐藏通过,runtime=kylin/compliant
H-03 [GATE] 文本向量使用系统 Embedding 接口 运行 runtime=kylin 端到端用例;检查调用日志和缺失 SDK 失败行为 实际调用 kylin-coreai-embedding;不能由 portable/hash/stub 顶替 技术门通过、最终归档待重跑:当前审阅候选 strict 同包使用 runtime 1.3.0/gte-base 768 维真实向量,runtime=kylin/compliant

H-02 允许 SQLite 保存结构化元数据、关系和审计,但向量的生产存储/检索必须经过指定系统向量数据库。BGE-M3 等模型只能作为对比实验,不能替代 H-03。

严格原生包采用三段验证:preinst 在解包前验证 Kylin V11/目标架构;Debian 解析 双 SDK 依赖后,后端 strict 启动预检验证实际运行能力;桌面用户激活 Provider 时检查 Agent 宿主,并要求 runtime --version 成功且唯一匹配 0.9.x。构建器拒绝 KYSDK 与 strict 模式错配,组件清单记录 install_strict=true。这些门禁只能证明拒绝语义, 不能替代 H-02/H-03 的真实 SDK 调用证据。

目标 V11 首次严格运行检查表明,官方 AI runtime socket 以调用者 UID 分区;历史 专用系统账户不能复用桌面用户会话 runtime。提交 1751dd6 已改用 systemd user service 与 XDG 私有目录,并在迁移旧数据后验证 MainPID 属于当前 UID、产品版本为 0.1.7、schema 12、双 SDK compliant 和 contest_ready=true。该证据闭环了用户会话 SDK 边界,但仍须在纳入完整 Agent 的同一最终候选上生成内部原始验证记录。 Vector Engine 的生产连接还必须使用官方 demo 的 ConnectParam(appId) 本地传输; host/port 重载在官方头文件中标为测试用途,不得再以 127.0.0.1:19530 作为验收假设。 Embedding 的独立系统组件阻断已完成根因与兼容性验证:原目标组合的 getModelList 返回 err=3,显式初始化返回 err=10。官方 kylin-ai-runtime devel/26w 提交 34843d14363a1c1dff932a9a1cf9b4f09ea75de2LifecycleAwareEmbeddingEngine::parseModelInfo() 明确要求对象型 model_catalog,并从 其中的 TEXT/IMAGE 目录建立模型组。官方 embedding engine 提交 3fbfeb6 增加 目录输出;abstract-models 提交 b999d89(首个包含发布标签 build/1.2.0.0-0k0.16)让 model_bank 输出 YAML others_info。对齐两项官方修复后, 官方 demo 与 PIXIU 安装包内绑定均通过 runtime 1.3.0 返回 gte-base 768 维非零向量。 该结果是组件兼容性/直接适配证据,不是最终候选产品证据;发布前必须把兼容版本纳入 可复现依赖方案并重跑全链路。紧接着的产品探针在写入时暴露 Vector Engine 未执行 LoadDBFile,且旧 /capabilities 仍误报 ready;当前源码已让 strict 预检实际装载 应用数据库并在进程退出时断开;下述 revision 8 已完成 V11 复验。

提交 6f6002e 的 strict revision 8 已完成该复验:V11、Embedding 与 Vector runtime 均报告 compliant,产品 /memory/write/memory/query、两阶段遗忘和删除后 隐藏全部通过。正式取证器没有生成最终证据文件,因为目标系统缺少可执行的 kylin-agentagent-runtime,按 A-11/A-12 门禁提前拒绝。故本节仍保持“不通过”, 但应把“SDK/产品记忆链已实证”与“完整 Agent/可交付依赖未完成”分开记录。

提交 c643b1b699ba34650fdf913dd58f0cccd8168191 的洁净 strict amd64 重建和安装再次 确认:portable 配置可健康运行,strict 系统服务会因桌面用户级 AI runtime 不可达而 失败关闭,恢复配置后数据库与配置摘要保持。该结果只加强 W2.6 边界证据,不改变 H-01~H-03 的未通过状态。

当前公共 API 0.4.0(0.3.0 起)已补 POST /memory/update:目标知识 ID 保持不变,存储层以原子 compare-and-swap 校验 expected_version,更新产生独立 evidence、重建图/向量索引, 并让 shared 更新进入同一 CRDT 实体。双连接并发回归证明同一基线版本只有一个本地 更新可提交;Module E 工具接线和三台真实设备的并发收敛仍未取证,故 A-08 不升级。

无模型宿主探针和最终供应链构建已证明复用路线可行:固定源码经审计适配后在 V11 网络隔离环境可重建,strict 包携带宿主、全量哈希锁定 wheels、对应源码/日志、SPDX 与 NOTICE,离线安装和供应链审计均为 ready=true;Gateway、会话 API 与 memory.provider=pixiu 通过。因此 A-11/A-12 供应链部分已满足。A-01~A-10 的模型 行为仍须单独取证:以上“没有推理提供商”的结果属于历史无模型探针。 ADR-0005 现已提供系统云模型桥接、默认选择和官方直连配置;不能以模型可配置 或局部工具回调测试代替最终候选的规划、Shell、联网搜索、审批与跨会话记忆证据。

新增免密 DDGS 后端时发现固定上游 wheel 会遗漏 bundled plugin 的 plugin.yaml,造成 代码存在但 Runtime 无法发现 provider。发布构建现以仓库内可审计的 distribution manifest 补齐该非代码资产,并在全新离线 venv 中同时验证清单、插件发现、provider 选择和依赖可用;只验证 import ddgs 不再视为 A-06 的充分前置证据。

2. OS Agent 产品集成检查(项目派生项,非官方独立评分表)

PPT 明文口径是“会用工具、会规划、会记忆,不只是聊天”,并说明能理解复杂 指令、调用外部工具、持续学习和记忆。它没有发布“标准 Agent 架构”或要求参赛队 从零实现完整 Agent。以下 A-01~A-10 是项目为了证明集成完整性设置的工程检查, 其中部分细节来自团队产品要求,不是赛方逐项评分条款,不得对外标成官方原文。

编号 验收项 通过标准
A-01 [A] 多会话管理 可创建、搜索、重命名、切换、删除会话;消息与工具调用持久化
A-02 [A] 多轮上下文 同一会话至少三轮正确利用历史;每次模型请求可证明包含系统提示及此前用户/助手历史,而非只复用 session ID;重启后可恢复
A-03 [A] 自主规划 模型根据复杂目标拆解步骤并持续运行,而非固定 if/else 路由
A-04 [A] 工具自主选择 模型决定是否调用、何时调用及调用哪个工具,并消费返回结果
A-05 [A] 系统/Shell 工具 能执行受控系统或 Shell 任务,高风险操作有审批、取消和审计
A-06 [A] 联网搜索 能自主发起联网搜索、使用结果并保留来源;离线时明确降级
A-07 [A] 记忆自主读取 每轮前可按需召回长期记忆并注入上下文,记录命中与来源
A-08 [A] 记忆自主写入 对话或任务后按价值决定写入/更新/忽略,避免机械保存全部聊天
A-09 [A] 工具结果沉淀 Shell、搜索及其他工具结果进入统一多源管线,后续会话可复用
A-10 [A] 运行控制 支持流式事件、停止、失败恢复、工具审批和可观察运行状态
A-10a [A][D] 宿主 UI 可用性(团队质量门) 默认浅色;采用稳重科技蓝语义色板;设置页“浅色 / 深色”控件点击后即时生效并持久化;V11 浅/深主题下文字、占位符、下拉框、按钮与消息均可读;关键普通文本对比度 ≥4.5:1;Enter 发送,Shift+Enter/Ctrl+Enter 换行;提交后立即显示等待气泡;每轮 LLM 文本保留为独立消息;消息气泡离线渲染标准 Markdown、GFM 表格、代码块、KaTeX 公式、Mermaid 思维导图/框图/甘特图/流程图及 Unicode emoji;工具/记忆/Shell/Web 搜索的 running/completed 过程在默认折叠的动态卡片中连续更新,完成并重进会话后仍以折叠卡片呈现且不进入模型上下文;渲染页不得读取远端资源或执行消息内 HTML;空状态不泄露内部路径;100%/125%/150% 缩放与键盘焦点可用;刷新历史、折叠侧栏或缩放后每条消息恰好一个气泡,无错位残影或空状态遮挡;长会话标题不产生横向滚动或挤压主区;宽屏消息保持在居中阅读列内连续排列,短消息不被压成逐字窄列,末条消息不被输入区裁切
A-10b [A][D] 系统云模型优先与安全直连(团队质量门) V11 默认使用麒灵系统 PublicCloud 模型并跟随系统授权;GUI 可导入 DeepSeek/Anthropic/OpenAI 官方直连 API Key,保存前完成连接与模型检测;不展示或调用 OpenRouter、本地模型/服务;密钥不进入源码、命令行、模型清单、日志或证据

项目选定 third_party/kylin-agent + third_party/kylin-agent-runtime,通过原创 MemoryProvider 适配 PIXIU。官方材料未点名允许或禁止该具体基座;能确认的是: 没有“必须从零实现 Agent”的条款,但 PPT 把“直接用开源软件作为作品提交”列为 踩雷点。因此验收对象必须是完成实质性二次开发和原创记忆创新后的 PIXIU 整体。

当前实现证据:Module E 已有 19 项固定上游契约测试,覆盖 A-07/A-13 所需的召回 接缝、公共 API 隔离,以及 A-14 的生命周期/记忆工具代码路径;Foundation schema v12 另覆盖失败 receipt 原载荷校验、一次性恢复授权、独立命名空间和审计留存,这是 A-10 的局部证据,但不等于 Agent run 恢复。A-01~A-10 的真实宿主行为、A-11 分发 审查和 A-14 端到端展示仍不得标为通过。

真实宿主证据由 tests/acceptance/scripts/agent-lifecycle-evidence.py 两阶段采集:第一阶段 只经 Agent Gateway 完成同会话 3 个 run,并要求 SSE 成功事件实际出现 terminalweb_searchpixiu_memory_remember;审批必须由操作者输入与当前 run 绑定的确认语句, 脚本不提供自动批准。随机标记由采集器写入仅本用户可读的临时文件,必须先经 Shell 读取;受控场景要求清理该一次性文件并在删除前请求单次确认,以真实触发审批链,且 要求 Agent 在联网后自主选择长期沉淀。宿主和 Runtime 均重启后,第二阶段要求旧消息摘要完整、 原会话继续运行,并由不同新会话通过 pixiu_memory_search 返回该标记。成功报告固定为 kylin-v11-agent-lifecycle,仅含摘要、计数和工具名;当前仅有采集器契约测试,尚无 最终候选实测报告,故 A-01~A-10 不升级为通过。

另有 pixiu-agent-mock-e2e 工程证据:确定性 OpenAI-compatible 节点不做任何推理, 但通过真实 Runtime/Gateway 执行多轮消息、SSE、审批、Shell、真实联网搜索与 PIXIU 本地/共享记忆工具。去敏 trace 仅保留系统提示与逐条用户消息摘要、角色/轮次数、 assistant 非空消息数、可用及已选工具、工具 schema 摘要与契约布尔值;验收器要求每次 请求的 system prompt 均明确包含 search/remember/update/forget 记忆契约,最终请求按 原顺序含全部用户轮次,且五个 PIXIU 工具的关键参数 schema 完整。原始提示、回复、 工具结果和密钥均不落盘。该证据用于证明请求组装和工具管线,不得作为 A-03/A-04 的 模型自主性证据,也不得计入正式 A-02 的 kylin-v11-agent-lifecycle 主记录。

宿主/组件预检证据:Module E 初始化契约固定验证 runtime 0.9.x、Provider/后端产品 版本一致、Agent Memory API v1、后端组件身份及 /health 数据库就绪;0.10+、API 漂移、混装组件和健康身份不一致均拒绝。该结果属于兼容性自动化证据,不替代目标 系统上的真实宿主多轮验收。

除 A-01~A-10 外,项目交付还必须通过以下原创边界检查:

编号 验收项 通过标准
A-11 [A][D] 上游版本与许可证 固定 commit、许可证、版权与分发义务可追溯
A-12 [A][D] 原创范围 代码清单和架构图明确区分上游、SDK、PIXIU 原创及最小补丁
A-13 [A] 外部适配隔离 Module E 仅走公共 API;无对后端私有实现或上游工作树的隐式修改
A-14 [A] 实质性集成 展示生命周期、记忆工具、双 SDK 和分布式同步,不以启动上游 Agent 代替作品验收

3. 赛题七项功能要求

3.1 多源数据整合 [M]

编号 验收内容 通过标准
F1-01 多轮对话输入 用户/助手轮次携带 session 与来源进入统一管线
F1-02 工具执行结果输入 至少覆盖系统工具、Shell 或搜索结果并成功落库
F1-03 用户行为输入 有知情、可关闭的行为采集;不越权收集
F1-04 手动配置输入 用户显式偏好/记忆配置可写入、更新、撤销
F1-05 统一接入 各来源规范化为统一 evidence/事件模型
F1-06 清洗与格式标准化 噪声、重复、缺失、异构格式得到一致处理
F1-07 质量校验 Schema、质量分、来源和失败原因可追溯

3.2 偏好记忆动态捕捉 [M]

编号 验收内容 通过标准
F2-01 操作习惯提取 标准样本中正确识别工具/操作习惯
F2-02 输出风格提取 正确识别格式、详略、语言等偏好
F2-03 安全策略提取 正确识别并执行授权、隐私和风险偏好
F2-04 自动提取 基于多源证据形成偏好,保留置信度与来源
F2-05 版本化管理 更新形成版本,可查看生效版本和历史
F2-06 跨场景适配 在不同会话/工具场景正确复用且不越作用域
F2-07 回溯/回滚 可恢复历史版本并保留审计

3.3 知识记忆结构化整合 [M]

编号 验收内容 通过标准
F3-01 新旧知识冲突 检测矛盾、按策略融合/仲裁,保留来源和审计
F3-02 关联检索 语义、关键词和实体关系能够联合召回
F3-03 工作流程知识 可结构化存储并由 Agent 智能调用
F3-04 历史案例 可结构化存储并在相似任务中复用
F3-05 可复用模板 可存储、检索、实例化并追踪版本

F3-01 的当前自动化还覆盖远端首次物化:不同 ID 的矛盾共享知识进入 source=sync 仲裁,并以 updated_at/created_at/id 全序消除网络到达顺序差异;两节点 从相反初始版本互换操作后,ACTIVE/SUPERSEDED、version、时间、正文和裁决目标一致。该结果 证明集成语义,不替代最终三台 V11 的并发、重连与冲突现场证据。 远端知识快进、更新与自动仲裁现统一经过 KnowledgeService,测试同时核验向量首次 创建、更新后变化及墓碑后删除;这修复了仅 SQLite/FTS 状态收敛而语义索引未收敛的缺口。 knowledge 先于 evidence 跨批次到达时,接收端持久登记待补 citation,并在 evidence 到达后补链和清理;因此 F3-01/F3-02 的来源追溯不能因网络乱序永久丢失。 本地 shared 冲突写入的回归还验证:MERGE 完成后写入 oplog 的是重新读取的最终持久化 正文与 version 2,而不是仲裁前的新输入;该项防止发送端业务视图和传播载荷立即分叉。 最终 F3-02/H-02/H-03 仍必须以同一 V11 strict 候选包复验。

3.4 端侧、指定 SDK 与轻量化 [M][K]

编号 验收内容 通过标准
F4-01 端侧部署 V11 本地运行,无必须依赖的团队中心云服务
F4-02 Embedding SDK 与 H-03 相同,真实调用指定系统接口
F4-03 Vector Engine SDK 与 H-02 相同,生产向量读写和检索走指定 SDK
F4-04 轻量化 报告安装、常驻内存、CPU、磁盘和索引增长,并给出端侧论证
F4-05 检索延迟 最终 V11 双 SDK 路径 P95 ≤500ms;报告 P50/P95、样本量和冷热口径

3.5 敏感信息与精准遗忘 [M]

编号 验收内容 通过标准
F5-01 敏感信息识别 预定义敏感类型可正确识别并记录策略
F5-02 过滤/最小化 敏感数据被拒绝、脱敏、限制作用域或加密,不静默外传
F5-03 自然语言遗忘 能解析目标和范围;歧义时确认,不误删
F5-04 级联遗忘 清理向量、FTS、关系、缓存和证据引用,保留最小合规审计
F5-05 分布式遗忘 shared 记忆的墓碑传播、离线重连与防复活通过

当前自动化取证:backend/foundation/tests/test_api.py 覆盖手机号自动标敏并从 Agent 上下文排除、敏感 shared:* 写入零落库/零 receipt、检测器故障 fail closed; backend/engine/tests/test_security.py 覆盖身份证、银行卡和手机号规则。F5-03~F5-05 仍须按本表完成最终集成与多设备验收。新增三节点协议回归已覆盖 C 离线错过墓碑、 重连反熵补齐、旧创建操作重复重放、全活跃节点 ACK 后回收及回收后同一旧操作不复活; 它使用三份独立数据库但仍是单进程自动化,不能替代三台 V11 的最终交付证据。 python -m backend.foundation.eval.sync_evidence 会把上述场景连同全连接配对、并发收敛、 私有 scope 拒绝写为绑定 commit/版本的 JSON,并强制标记 final_device_evidence=false;最终证据不能修改该字段来冒充真机。

真实设备的 W6.2 拓扑证据由 tests/acceptance/scripts/three-device-evidence.py 两阶段 生成:三台设备分别在 loopback 上读取 /sync/peers/sync/status,并绑定各自已经 通过的 strict 原生 SDK 证据;汇总校验要求同一 run/候选包/commit/产品与 Debian 版本/架构/Agent Runtime/共享域,三个不同设备身份构成完全图、全部在线、待发送为零, 且采集时间差不超过 300 秒。输出只保留加盐摘要和计数,不包含设备名、地址、共享域 原文或记忆正文。该拓扑报告同样固定 final_device_evidence=false;只有继续完成离线 重连、并发冲突、墓碑防复活、私域不传播及最终逻辑视图收敛,才能形成 F5-05 的最终 三设备验收证据。

并发更新场景进一步使用同一脚本的 capture-concurrency/validate-concurrency:必须 提供绑定上述拓扑的 9 份真机检查点(3 台 × baseline/diverged/converged)。校验器要求 两台暂停同步的节点从共同版本产生内容不同的 v+1 分支,第三台仍保持基线;恢复后 三端同版本、同逻辑视图、全部在线且待发队列为零。查询、正文、共享域和设备信息只 参与加盐摘要,不写入报告。

离线写入场景使用同一脚本的 capture-offline/validate-offline 和另外 9 份检查点: 共同基线后隔离一端,要求其保持旧视图且其余两端在仅两个在线成员时完成一次 v+1 写入传播;恢复后隔离端必须追平相同逻辑视图,三端在线且队列归零。它为 N-02/N-03/N-05 建立真实设备证据契约。

私域场景使用 capture-privacy/validate-privacy 的 6 份检查点:三端清洁基线后仅 一端写入 user:*,要求只有该端命中、另两端零命中、所有待发队列为零,且每端同步 确认计数在写入前后不变。当前三类场景合计只有 10/10 工具测试,尚未输入真机数据, 相关 N 项状态均不升级。

墓碑场景使用 capture-tombstone/validate-tombstone 的 12 份检查点,同时绑定 Agent 可见性与去载荷 CRDT 状态:删除前三端同一非墓碑;隔离期间旧副本仍可见而在线两端 共享 clock+1 墓碑;重连及额外反熵后,三端保持同一墓碑且均不可见。状态不存在不能 替代墓碑证据。四类场景工具现为 12/12,通过不改变尚未真机执行的 N-07 状态。

最终使用 validate-final 绑定初始/最终两份不同拓扑和上述四类场景报告;要求同一 run、候选版本、三个身份与共享域,最终拓扑来自三份全新节点清单,且所有场景处于 两次拓扑取证的时间边界内。只有该总报告可设置 final_device_evidence=true。当前 总门测试加入后取证工具为 14/14;没有真实输入时 N-01~N-08 仍不升级。

3.6 短/中/长期记忆流转 [M]

编号 验收内容 通过标准
F6-01 短期记忆 当前任务上下文可用,边界和清理条件明确
F6-02 中期记忆 会话/项目摘要、状态和中间结果可保存、更新、归档
F6-03 长期记忆 跨会话持久化,检索后注入短期上下文
F6-04 晋升与淘汰 短→中→长期规则及 TTL/归档/遗忘可验证
F6-05 Agent 生命周期 会话切换、结束、压缩前等事件真实触发流转

3.7 量化评测 [M][K]

编号 验收内容 通过标准
F7-01 评测机制 脚本、配置、随机种子、环境和判分公式可复现
F7-02 标准化数据集 说明来源、许可、划分、清洗与黄金答案;禁止只用随意自造样本
F7-03 对比/消融 至少比较无记忆、单机记忆与分布式记忆;BGE-M3 仅作对照
F7-04 原始结果 输出逐样本结果、汇总和失败案例,不只给百分比
F7-05 完整报告 包含数据集、环境、方法、结果、分析、限制和优化方向

PPT 建议参考 MultiWOZ、ToolBench、PersonaChat、BPMN、DailyDialog、TREC、MS MARCO 等,但使用前必须核验许可和任务适配性;这些是建议来源,不是强制指定唯一数据集。

4. 四项性能基础线(初评“性能指标”25 分)

编号 指标 阈值 统一口径
P-01 偏好提取准确率 ≥85% 独立测试集,报告 TP/FP/FN 和样本数
P-02 知识检索召回率 ≥85% 预注册 top-k 与黄金集,报告 Recall@k
P-03 知识检索响应时间 ≤500ms 最终 V11 双 SDK 生产路径,以 P95 为主
P-04 知识冲突处理正确率 ≥88% 覆盖更新、并发、跨设备和不可判定用例

未达基础指标必须明确优化方向。现有 portable 100%/100%/96%/115ms 只可登记为“开发回归通过”,不能填入最终 V11 双 SDK 结果栏。

最终性能 JSON 由 tests/acceptance/scripts/final-performance-evidence.py 汇总。它要求原始 评测报告为 acceptance profile、包含至少 90 个逐样本 outcome,并分别达到偏好 15、 检索 50、冲突 25 和延迟 1000 的最低样本数;四项基础指标会按本节阈值重新判定。 F7-03 还必须提供相同 task_set_sha256 下的 no_memorysingle_device_memorydistributed_memory 三个变体,每组至少 30 例并报告任务成功率 和平均轮数。不得只修改报告标签:无记忆组须显式关闭 Runtime 内置 memory、用户 profile、外部 provider 与 PIXIU 同步,并禁止持久化 context plugin;单机组须使用 strict PIXIU provider 且关闭同步; 分布式组须在同一三设备全连接 run 的两个不同节点间完成教学与新会话召回。三组使用 固定的 30 项合成任务集,保留完整成功/失败布尔结果和工具轨迹摘要并由工具复算,禁止 删掉不利样本。汇总器同时绑定 strict V11 原生证据、Agent 生命周期证据、冻结数据集、 候选包和全部输入文件摘要;当前采集与汇总契约已实现,最终性能仍未实测。

逐样本输入必须由安装包内 backend/scripts/capture_final_eval.py 在同一桌面用户会话中 生成。报告的 execution 必须声明并由门禁核对:V11 amd64、已安装 venv/组件路径、 Embedding/Vector Store 均为 kylin、隔离评测状态、同一 commit/候选包及 native 证据 摘要。仓库解释器、portable 采集或手工补字段均不构成最终性能证据。

F7-02 的冻结产物由 final-dataset-manifest.py 从确定性参考生成器导出。manifest 必须 明确数据为团队合成、仅派生自官方附录 A 场景而非官方或第三方数据集;固定 50 个 fixture、50/15/25 三类共 90 个 test case、无训练/验证集、20 次检索重复,并同时记录 规范化数据摘要、实际 JSON 摘要、test case ID 摘要和赛题记录摘要。生成器要求 clean release commit、strict 原生证据且扫描常见密钥、个人路径、手机号和身份证样式; 当前 4 项契约测试通过,最终候选 manifest 尚未生成。

5. 分布式全连接记忆网络专项(团队创新)

这些不是 PPT 单独规定的零分门槛,但应作为技术创新性、可行性和实用性的主要证据。

编号 考核项目 通过标准
N-01 至少三设备配对 身份、用户确认、信任关系和撤销均可验证
N-02 实时扩散 单节点写入在目标时限内传播到所有在线可信节点
N-03 反熵对账 丢包或长时间离线后自动补齐差异
N-04 并发收敛 多节点并发更新后得到确定、一致结果并保留冲突证据
N-05 无中心可用 任一普通节点离线不导致其余节点无法读写与同步
N-06 隐私作用域 user:* 永不出机,只有授权 shared:* 传播
N-07 遗忘防复活 删除墓碑传播;离线旧副本回归后不能复活数据
N-08 资源与安全 报告带宽、CPU、内存、存储;验证签名、mTLS、防重放

“全连接”描述的是逻辑上的所有可信节点最终共享同一记忆视图,不要求网络拓扑永久维持每两节点一条物理长连接。

6. 初评与复评完整得分标准

6.1 初评 100 分

编号 评分项 分值 考核项目
S1-01 [S] 技术创新性 30 偏好提取、知识冲突、关联检索等核心机制创新及技术突破;PIXIU 的分布式记忆网络在此举证
S1-02 [S] 方案可行性 30 架构合理、算法适配、原型可落地、端侧轻量,并有量化论证
S1-03 [S] 性能指标 25 P-01~P-04 达标情况和未达项优化方向
S1-04 [S] 实用性 10 与 OS Agent/同类产品真实适配并解决业务痛点
S1-05 [S] 文档规范性 5 结构、逻辑、技术细节、测试证据与文档规范

PPT 饼图显示 32%/32%/26%/11%,对应 30/30/25/10 这 95 分的图表归一化,漏画了文档规范性 5 分;评分时必须使用上表原始分值。

6.2 复评/擂台 100 分

编号 评分项 分值 考核项目
S2-01 [S] 设计新颖性 10 方案差异化和原创设计
S2-02 [S] 软件功能实现方案完整性 60 硬门槛、七项功能、Agent 闭环与端到端演示
S2-03 [S] 应用价值 10 真实场景价值、可推广性
S2-04 [S] 表述能力等综合因素 20 清楚说明设计、实现、权衡、数据和限制

7. 交付材料完整清单

唯一依据为赛方交付作品要求冻结记录

交付作品 验收要求
项目报告 1 份 ppt,示例 项目报告.pptx;完整阐述方案架构、多源整合、偏好动态捕捉与版本管理、知识结构化检索、端侧轻量部署、敏感过滤,展示准确率≥85%、召回率≥85%等指标、真实案例、记忆流转及适配结论、算法创新与实用价值
技术方案 1 份 word、pdf,示例 技术方案.doc;完整技术文档与用户手册,含测试结果、架构、算法原理、实现、安装部署及操作说明;附效果验证报告,含数据集说明、对比实验、量化评测实施方案和指标分析
功能演示视频 1 份,5-10 分钟,演示视频.zip,大小不超过 200M;讲解演示所有已实现核心功能,建议字幕
源代码 1 份,完整源代码及必要技术规范要素

7.1 目录与匿名核对

按冻结记录的两层同名目录组织,源代码目录与内层材料目录并列,命名信息与平台一致。 作品内容一律不得出现学校、学院、校徽、指导教师、参赛学生姓名等可识别身份信息。 用户手册、安装部署、测试及效果验证报告属于技术方案内容,不另设必交件。

7.2 PPT 第 21 页“容易踩雷的点”反向验收门

编号 官方警示 PIXIU 必须提供的反证
T-01 端侧部署适配不足,响应超标或资源占用过高 V11 真机安装、检索延迟、CPU/内存/磁盘占用和长稳运行记录
T-02 关联检索低效,无法满足 OS Agent 上下文需求 混合/关联检索消融、上下文注入命中率及真实 Agent 多轮召回证据
T-03 评测数据集构建不标准 固定数据集、来源/划分/去重说明、逐样本结果和可复现脚本
T-04 说不清作品架构、技术栈 架构图、全链路、模块边界、关键算法、SDK/上游/原创边界说明
T-05 只有纯文字介绍或简陋 txt 按冻结要求提交的项目报告、技术方案、源代码和演示视频均可解析
T-06 没有体现在麒麟操作系统上实现 银河麒麟桌面 OS V11、双官方 SDK、安装运行与操作画面同版证据
T-07 直接把开源软件作为作品提交 固定上游及许可证披露、PIXIU 原创清单、适配差异和核心创新实证

测试结论须有真实、可追溯的内部数据支持;量化评测与效果分析纳入技术方案。 内部原始证据不另列为必交压缩包。

7.3 团队追加的软件交付门(非官方原文)

编号 验收项 通过标准
R-01 [D] 单一安装产物 最终 .deb 含 PIXIU 服务、控制台和 Module E;V11 图形安装或一条命令完成
R-02 [D] 安装后即用 自动处理依赖、服务、桌面入口、权限和迁移;无需手工部署源码
R-03 [D] 一致版本 tag、应用、包、API/schema/provider 与资产 manifest 可追溯且兼容
R-04 [D] GUI 一键升级 检查、发行说明、签名/摘要、授权安装、健康检查和受控重启/恢复闭环
R-05 [D] 数据安全升级 同版本重装、跨版本升级和失败恢复不丢记忆、配置、设备身份或审计
R-06 [D] 文档同版 四项作品与实际验证版本一致并经审核

当前 R-01~R-06 均不得标记最终通过;详细现状与门禁见 DELIVERY_PLAN.md。 交付目录、命名与匿名要求按冻结记录执行;内部版本、测试与审核记录支撑材料结论。

当前自动化证据:升级 helper 已在安装后核对实际 dpkg 版本、后端产品/API/schema、 数据库就绪状态和包内 Provider 版本,任一不一致均以专用健康失败状态返回,GUI 不会 误报成功。Ed25519 双架构 CI 签名资产、三资产选择、固定公钥验签及 Kylin V11 有效/篡改签名也已验证。提交 ca35117 的 CI run 33770727108 已在 amd64/arm64 执行健康失败注入并恢复旧包;同一提交又在 Kylin V11 amd64 从 0.1.7-4 尝试安装 签名 0.1.7-1,注入失败后以退出码 5 恢复 0.1.7-4,配置、数据库逻辑数据、完整性 和服务状态不变。受控重启的成功态门控、重启 helper、失败提示和应用有序退出已有 自动化测试。临时 Ed25519 密钥和两个真实 .deb 也已完成旧钥到新钥的信任锚轮换 演练,并确认轮换后旧钥不能验过下一版本。R-03 另有包内组件 manifest 的生成、版本 漂移拒绝及 CI 成包反向校验;根 VERSION 已成为发布脚本、前端 CMake/独立打包 及 Module E 模板渲染的唯一产品版本输入;包外 asset manifest 及自身 checksum/ Ed25519 签名的生成链已实现,但尚未以最终候选六件套归档复验;目标 原生取证器已实现对候选 .deb 摘要/commit、包内与已装 manifest、PIXIU/双 SDK 版本、Agent runtime 及三个运行端点的交叉核对;它用独立临时数据库和唯一集合直接 执行 SDK 的 LoadDBFile/create/load/upsert/search/delete/drop/disconnect,再验证产品 API 写入/召回/遗忘。但银河麒麟 V11 上尚未生成同一严格候选的真实输出,源码钉住值也不等同于运行时证据。 这些只覆盖 R-03~R-05 的部分切片;安装矩阵采集/汇总器及 6 项契约测试已经落地, 但完整真机输入和最终 V11 图形升级/重启证据仍未完成,R-03~R-05 继续判未通过。

8. 附录 A 场景验收

编号 考核项目 通过标准
SC-01 OCR/工具结果写入 支出清单形成结构化 evidence/knowledge
SC-02 模糊语义检索 “水电燃气花了多少”等表达召回正确记录
SC-03 条件与关联 时间范围、类目、商户关系正确过滤和聚合
SC-04 证据追溯 答案可回到原始清单及处理链
SC-05 聚合正确率 金额合计 100% 正确
SC-06 写后修正 新金额触发冲突处理与版本审计
SC-07 自然语言遗忘 精准删除并清理双 SDK 索引、关系及共享墓碑
SC-08 检索子路径无额外 LLM 检索算法本身可仅靠 embedding/结构/图完成;Agent 总体仍可使用 LLM 规划和组织答案

附录 A 给出的补充目标:50 组黄金集 Recall ≥85%,1000 次查询 P95 ≤500ms,聚合正确率 100%,证据追溯成功率 100%。

9. 执行顺序与总体验收

  1. 材料与许可证预审。
  2. H-01~H-03 硬门槛;失败即停止“最终通过”判定,但继续记录整改证据。
  3. A-01~A-14 完整 Agent 闭环与原创边界。
  4. F1~F7 与附录 A 场景。
  5. P-01~P-04 最终 V11 双 SDK 性能。
  6. N-01~N-08 多设备创新专项。
  7. 四项作品完整性与团队 R-01~R-06 工程验证复核,按 S1/S2 独立评分。

总体验收只有在三项 [GATE]、全部关键 [M]、完整 Agent 端到端链路和证据材料 均通过后,才能表述为“赛题验收通过”;PIXIU 最终发布还须同时通过 R-01~R-06。 单元测试通过、客户端能启动或 portable 指标达标都不能单独推出这一结论。

10. 两份官方材料的共同执行口径

  • 官方平台文字方案保留赛题技术与赛事安排,交付条款已按最新图片更新;其中精确节点为 2026-09-15 前向发榜单位提交、9 月底前初审、10 月指导完善、11 月终审。
  • 技术/赛事团队 PPT 是进一步细化材料,补充技术硬门槛、OS Agent 特征、评分展示、常见失分点;其中“10 月上旬提交、10 月初审、11~12 月终审”按赛事阶段概览留档。
  • 工程排期采用文字方案中更精确、更早的 2026-09-15 截止点,不把 PPT 概览解释为延期,也不认定两份官方材料互相替代。