对于这次拖延的道歉。我这里有一个非常粗略的草稿，关于 SummarizedTokenWindowChatMemory : #1351

你好，

1. 你在考虑新的内存类型吗？
   是的
2. 关于这个工作有任何预期完成时间(或者你认为这个工作的优先级应该是怎样的)吗？
   没有
3. 有哪些人可能帮助到这项工作呢？*
   你可以协助实现。应该不会太复杂，可以使用 ChatLanguageModel 作为新实现的组件(用于总结),以及/或者使用 EmbeddingModel 和 EmbeddingStore 接口作为新实现的组成部分。

你好，这条评论是否仍然相关？不确定你是否已经删除了它，还是GitHub出现了问题。

2024年6月1日，星期六，下午6点41分，John Sosoka ***@***.***>写道：我们可以在构造时设置一个接受ChatLanguageModel的SummarizedChatMemory。我们可以将滑动出窗口的消息摘要存储在一个为给定的ChatMemoryStore预留的索引中，但该索引中的元素最终可能会变得太大。我需要更多地思考如何将其与嵌入存储结合。我可以想到很多方法来实现更先进的内存。无论我们做什么，我认为在消息数组中保留一个用于提示摘要和/或来自嵌入存储的结果的预留索引可能是前进的方向。在进行更多讨论后，我有兴趣尝试实现它。——直接回复此电子邮件，查看GitHub上的<#1184 (comment)>,或取消订阅 < https://github.com/notifications/unsubscribe-auth/A7RGMWTV7RFF7HNT5V5Q5VLZFH2TRAVCNFSM6AAAAABILWS4O2VHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMZDCNBTGUYDSMRZHE > 。您收到此邮件是因为您发表了评论。消息ID:***@***.***>

@johnsosoka

我删除了它，因为这是一个半成品的想法。我可以在SummarizedWindowChatMemory上工作。我已经在一个私人的LangChain4J项目中实现了类似的功能。我可以将聊天摘要存储在消息索引中的预留消息中。两个问题

1. 将摘要塞入系统消息是否安全？(将摘要附加到现有的消息或如果不存在则添加新的消息)
2. 有什么建议来处理摘要消息变得过大的问题？

你好@johnsosoka,我首先会查看在线现有的实现(例如LangChain,LlamaIndex等)。
将摘要放入系统消息中是否安全？(在现有的消息后追加摘要，如果不存在则添加新的消息)
可能安全，但应该用引号括起来以减少提示注入的可能性。
另一个需要考虑的问题是：当RAG内容被注入到系统消息中时，这将如何工作？或者当用户添加一个常规系统消息时，又会如何？
对于摘要消息过大的问题有什么想法吗？
我想进一步压缩/总结？:)
以防万一，我想总结不应该每次将新消息添加到内存时都执行，对吧？
由于这是一个相当耗费资源的操作，它可能应该在N次操作中执行一次，例如ArrayList调整大小。WDYT?

@langchain4j

1. I'll refer to existing implementations to get an idea for managing the summarized message size.
2. Yes, I was only envisioning the summarization call when a message slides out of the window (when the array is resized)
   Should we assign a ticket for SummarizedWindowedChatMemory implementation to me? I can take that on and have a PR this week. The embedding store solution should be implemented as a separate task/ChatMemory IMHO.