基于本地知识库的智能问答

多轮问答优化

受限于LLM的上下文窗口，多轮问答可能出现“偏离主题”等问题。

常见的解决方案

MemoryOS

在LoCoMo上，其在F1和BLEU-1分数上分别实现了平均 49.11%和46.18%的提升

它通过分层的方式来管理记忆，分为短期、中期以及长期记忆，使AI能更高效的处理信息

可以自动更新，系统会自动把短期记忆整合到中期记忆中，中期记忆的内容如果被频繁使用，就会被分析，关键信息会被存到长期记忆里

有上下文感知能力，生成回复时，系统会从所有记忆层检索相关信息，提供更符合上下文的回复

有四个核心模块：存储、更新、检索、生成
1、存储，存储不同层级的记忆
2、更新，在不同记忆层级之间转移和更新信息
3、检索，从记忆中检索相关信息
4、生成，根据查询和检索到的记忆生成回复

参考

MemoryOS