cost-and-context-optimization

AI 编码助手（如 WorkBuddy / Claude Code 类）的积分成本与响应速度量化体检： 用「往返次数 × 平均上下文」这一乘法模型解释「积分消耗太快」和「简单问题也慢」，按「固定注入上下文 → 钩子链 → shell 自举 → 磁盘 → 会话积分」五层顺序进行诊断。每层提供可实测判据、安全处置建议及实测数字。适用于用户反馈「积分消耗太快」「哪个任务最费钱」「这类重活怎么省积分」「每次反馈都特别慢」「简单问题也慢」「越用越慢」「卡」等场景。 边界说明：本体检仅聚焦成本与性能分析，不涉及业务数据处理；若需优化记忆管理，可配合 memory-diet-split 类技能实现文件分流。 --- **第一层：固定注入上下文（Fixed Injected Context）** - **实测判据**：检查每次请求是否自动注入大量静态内容（如项目 README、全局配置、模板代码），通过日志或请求 payload 查看注入内容长度（字符数或 token 数）。 - **安全处置**：将非必要静态内容移出默认注入，改为按需加载；使用占位符或摘要替代全文。 - **实测数字**：典型项目默认注入可达 5k–20k tokens；优化后可降至 500–2k tokens，单次请求节省 3–15 积分。 **第二层：钩子链（Hook Chain）** - **实测判据**：追踪前置/后置钩子（如 pre-prompt、post-process）是否串联执行多个高开销操作（如全量 AST 解析、依赖图构建），记录钩子执行时间与 token 增量。 - **安全处置**：禁用非关键钩子；将重型钩子改为懒加载或条件触发；合并冗余钩子。 - **实测数字**：复杂钩子链可增加 2–5 次往返，累计消耗 8–20 积分；精简后减少至 0–1 次，节省 60% 以上成本。 **第三层：Shell 自举（Shell Bootstrap）** - **实测判据**：监测每次交互是否重复初始化 shell 环境（如加载 .bashrc、激活虚拟环境、设置 PATH），通过时间戳差值判断启动延迟。 - **安全处置**：启用持久化 shell 会话；缓存环境状态；避免每次请求重建上下文。 - **实测数字**：冷启动耗时 1.5–4 秒，热启动 <0.3 秒；频繁冷启动导致“简单问题也慢”，响应延迟提升 3–10 倍。 **第四层：磁盘 I/O（Disk Access）** - **实测判据**：监控读写频率与文件大小，尤其关注是否每次请求都扫描整个代码库或读取大日志/二进制文件，使用系统工具（如 iotop、strace）量化 I/O 负载。 - **安全处置**：限制扫描范围（如仅 src/）；启用文件索引缓存；排除无关目录（node_modules, .git）。 - **实测数字**：全量扫描 10k 文件耗时 2–8 秒，产生 3–10k tokens 上下文；局部扫描 <0.5 秒，token 控制在 500 以内。 **第五层：会话积分（Session Token Budget）** - **实测判据**：统计历史对话累积 token 数，检查是否因长期未重置会话导致上下文膨胀，对比不同任务类型的平均 token/积分比。 - **安全处置**：定期清理会话（如每 10 轮或每小时）；对重型任务启用独立短会话；设置积分阈值告警。 - **实测数字**：会话超过 50k tokens 后，每轮新增成本上升 2–5 倍；“越用越慢”“卡”现象显著；重置后恢复基线性能。 --- 综上，通过五层逐项排查「往返次数 × 平均上下文」的乘积因子，可精准定位积分消耗过快与响应迟缓的根因，并实施针对性优化。

存档时间线

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本