LLM Ideas
这里记录着我个人对 LLM Agent 的 Ideas
LLM 现状 在这篇文章发出的时候,LLM 的能力在客观上依旧不足。但是 LLM 本身的能力边界依然有待开发 大部分的 Agent 处于野蛮探索的阶段,本文基于若干个符合直觉的假设,大胆提出未来 Agent 的发展方向。
假设 LLM 本质上是一个混沌系统。 软件链条极度脆弱,链条上的任意一个节点的崩坏都会导致整条链路的失败。 消耗更多的 Token, 达成更好的生成效果 单次生成承担任务越多,生成出来的事物越畸形扭曲 推导 基于上面的四条假设我们可以推导出很多东西
LLM 在合成软件的时候,它生成的内容越少,生成的代码越可靠 提示词工程是必要的,其是混沌系统的靶向药,也是限制工作量的紧箍咒 当前客观条件下,单一对话完成一个项目时,无论速度还是效果都不尽人意 非技术人员和 LLM 均存在大量难以明确洞悉的技术盲区 这四点将和前面的假设一起做出一个我个人认为符合直觉的 Agent 设计
生成将以函数为单位,每一个函数对应一个提示词,对于没有提示词的函数,交由 LLM 进行总结
LLM 表示出类似人类心智的事情,那么 Agent 可以应用上项目管理的模式
即一个 Agent 存在 3 个及以上的 SubAgent,其中每个 SubAgent 代表自身不同的身份 Leader(SubAgent) 负责项目整体逻辑/需求的调整,其负责提供使用的技术栈和所要实现的整体框架之类.. Mentor(SubAgent) 会接下 Leader 所产生的某一个模块方向的业务,生成对应的 TODO List,也负责验收 Worker(SubAgent) 负责接收 Mentor 的 TODO 项,每次根据 TODO 项里对函数的具体描述生成指定代码和单测。看起来是很慢的设计,但是对于 Mentor 来说,其可以同时启动无数个 Worker。后续进一步可以构建类似的 Thread Pool 的结构,用来并发进行工作。 这样会催生一个巨大的 .
Read more...