【笔记】用cursor手搓cursor（九）

用了一圈我觉得目前知识库比较接近我的预想的是腾讯的ima但是管理大规模知识的检索以及索引的索引索引的索引的索引…都还是问题说白了就是思维链通路。最新的deepseek v4 flash还不错但deepseek整体还是很令人失望的尤其是最近的deepseek harness产品经理就是想往ecosystem去的真正的harness微乎其微记忆组件、元学习、知识管理以及幻觉控制都没有。虽然目前是v0.1百废待兴可能是想万物都能接成node但是从我个人角度觉得后期也不会太行或者说太符合我的期望。qwen3.8确实还是比较惊艳的到3.8基本上模型已经非常聪明了虽然知识上index是-10分deepseek目前是1分claude大概50分在模型本事的幻觉控制上qwen3.8还是可以的。其实我现在的出发点是qwen3.6 35B A3B因为速度快在mac上单agent能跑到120 token/s然后定义流程或者说是模式比如学习模式比如推理模式。在不同的模式下会有不同的sub agent生成然后通过fork承接上下文再通过message互相发信息添加上下文丰度。但是merge现在还比较粗暴直接summarize以后append到主agent上还做不到按需定点投喂context…这几天又把agent重新写了几遍。首先是context manager已经比较清晰了。对于比较小的模型就是一步一步引导[system prompt, user prompt, ... | step guide, response / tool call output]-[system prompt, user prompt, ... step summary]这样前置可以最大化kv cache hit后面的话可以用一个状态机控制诸如要不要tool call一步一步注入tool call的参数wizrd防止小的模型json乱来比如[..., TOOL CALL guide or NO, WEBPAGE]-[..., WEBPAGE: please provide url, url, content ]-[..., url content summary]。这个就是每轮的大概流程其中还需要在必要的时候进行context compact防止token超。这个就需要context array可以stage可以discard可以commit比如[1, 2, 3 | (stage) 4, 5], 如果discard又变成[1, 2, 3]再加一个commit总结变成[1, 2, 3, 6]相当于fork-merge。接着就是memory我们有几种模式比如nvida voyager模式下我们可以先让LLM分析下user intent和target state然后开启一轮current state的调查之后再从current state到target state在user intent下如何一步一步用状态机tool call。voyager模式就是先使用一个叫learn的模式把网页和文件内容一件一件读取并生成各种问题当初始化课程。voyager模式在此基础上从current state到target state提出我们需要解决哪些问题哪些是简单问题需要嵌套提问哪些可以直接解决。之后我们就要判断是问题属于哪一层比如简单的两层一层是永久知识一层是临时知识——永久知识存在vector db里临时知识放内存里。我们在解决问题的时候会提出很多问题然后查询如果有问题已经解决就查出来总结最后综合所有问题看看最终问题有没有解决。最后我们提前回检测用户的主要语言和目标语言如果是翻译的话否则等于主要语言然后用目标语言进行最终输出解决方案。有不少问题还要解决比如learn的时候如何连接各种问题形成更好的思维链路比如随机抽取问题然后看看它们能不能连起来。但是终极问题是如果LLM不熟悉这个领域它怎么提出正确的问题这个时候只能靠webpage tool让它在不确定的时候先使用搜索引擎。其实写各种模式就已经是各种落地插件了。如果想要通用得一点一点调整状态机的策略。后面得做点实验是状态机好还是LoRA动态训练好了。