Discuz! Board

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 29|回复: 0

开放问题20261111

[复制链接]

40

主题

56

回帖

323

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
323
发表于 2026-11-11 11:31:37 来自手机 | 显示全部楼层 |阅读模式
先概述一下现在这个基于大语言模型的Agent,它的工作流程,也就是一般来说用户去使用它的流程:
一般来说,用户自己遇到了某一个问题,就会去开一个会话,然后将问题打给这个LLM,agent就知道了。处理完答完了以后,会话就结束了。
 
目前有一个直接的直觉:有没有方法让这个机器的语言推理24小时连轴转,然后从这个问题再延伸出一系列咱们要考量的点:
- 大语言模型有没有一些更新的架构去支持这么一个直觉。就是去看一下前沿的一些文章,有没有支持这个直觉的。
- 计算的如何优化,包括但不限于现有这个上下文存储。
- 怎么去构造这个上下文。就是我们要将这个世界用文字描出来的话,我们这个24小时不停轮转的agent,类似于全双工的,它怎么去构造这个上下文?
**就算先前我们有非常厉害的KVCache,那么你这24小时连着转,积累上下文,它也是撑不住的。**
 
所以说还要考虑的就是怎么去优化这个一直是基于前缀匹配的上下文的构造机制,同时再怎么去优化整个的推理过程。要整一个大的题目,将它拆成多个子系统,然后再去分别研究。

子Agent独立研究时,一半要求生物思考模式的仿生,另一半无仿生指令。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|DiscuzX

GMT+8, 2026-11-23 05:14 , Processed in 0.065246 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表