品玩

科技创新者的每日必读

打开APP
关闭

加州大学伯克利分校推出MemGPT,解决大模型输入限制

2023年10月16日

品玩10月16日讯,据 Arxiv 页面显示,大模型聊天工具的输入和输出限制一直影响着他们的能力发挥,为了解决这个问题,加州大学伯克利分校的研究者们推出了一款名为MemGPT 的大语言模型系统。

研究团队通过借鉴传统操作系统中的层次内存系统,提出虚拟上下文管理技术,通过在快速和慢速内存之间移动数据,提供大内存资源的外观。MemGPT 系统智能地管理不同的内存层次,以在 LLM 的有限上下文窗口内有效提供扩展上下文,并利用中断来管理自身与用户之间的控制流。

实验显示,MemGPT 在多会话聊天和文档分析实验中表现出良好的性能,有效克服了现有方法在有限上下文中性能的限制。

取消 发布

下载品玩App,比99.9%的人更先知道关于「生成式模型」的新故事

下载品玩App

比99.9%的人更先知道关于「生成式模型」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测