솔루션 Tip/chatGPT & Prompt
[Study, ing] LLM의 컨텍스트를 확장시키는 MemGPT (Memory-GPT)
Awesomist
2023. 11. 10. 11:17
728x90
MemGPT
Memory-GPT(또는 줄여서 MemGPT)는 LLM의 제한된 컨텍스트 잇풋을 확장해서 사용할 수 있는 구조다
다시 말해 내용을 장기기억처럼 작동할 수 있게 LLM의 다양한 메모리 계층을 지능적으로 관리하는 프레임워크
MemGPT는 중요한 정보를 벡터 데이터베이스에 푸시할 시기와
나중에 채팅에서 이를 검색할 시기를 파악하여 지속적인 대화를 가능하게 합니다.
관련 논문은 아래를 참조
https://arxiv.org/abs/2310.08560
MemGPT: Towards LLMs as Operating Systems
Large language models (LLMs) have revolutionized AI, but are constrained by limited context windows, hindering their utility in tasks like extended conversations and document analysis. To enable using context beyond limited context windows, we propose virt
arxiv.org
반응형