深度使用容易发现AI太笨

鼓吹LLM可以替代人、威胁到人的都过虑了。长上下文思考这个当前架构注定解决不了。所以根本不可能像人类一样几乎看不到限制地学习和进化。计算器、计算机只是提高效率的工具而已。LLM也类似。——至少当前这种transformer架构的就这样了。所谓驾驭就是人类规划好任务让LLM真正要做的步骤只是充分发挥LLM作为一个类似计算器一样的工具可以提高效率的那部分工作而已。出问题的地方或者幻觉主要是使用者自己的“幻觉”导致的误以为LLM聪明如人类、不是工具。记住我这个结论Prompt, Context, Harness, Loop Engineering,都是人类跟自己对LLM存在的深刻误解做斗争的过程中产生的、消除误会的系统性方法。