가볍게 배우고 깊게 즐기고 오래 남기기

[Study, ing] LLM의 컨텍스트를 확장시키는 MemGPT (Memory-GPT) 본문

솔루션 Tip/chatGPT & Prompt

[Study, ing] LLM의 컨텍스트를 확장시키는 MemGPT (Memory-GPT)

Awesomist 2023. 11. 10. 11:17
728x90

MemGPT

Memory-GPT(또는 줄여서 MemGPT)는 LLM의 제한된 컨텍스트 잇풋을 확장해서 사용할 수 있는 구조다

다시 말해 내용을 장기기억처럼 작동할 수 있게  LLM의 다양한 메모리 계층을 지능적으로 관리하는 프레임워크

 

MemGPT는 중요한 정보를 벡터 데이터베이스에 푸시할 시기와
나중에 채팅에서 이를 검색할 시기를 파악하여 지속적인 대화를 가능하게 합니다. 

 

 

관련 논문은 아래를 참조

 

https://arxiv.org/abs/2310.08560

 

MemGPT: Towards LLMs as Operating Systems

Large language models (LLMs) have revolutionized AI, but are constrained by limited context windows, hindering their utility in tasks like extended conversations and document analysis. To enable using context beyond limited context windows, we propose virt

arxiv.org

 

반응형
저작자표시 비영리 변경금지 (새창열림)

'솔루션 Tip > chatGPT & Prompt' 카테고리의 다른 글

[OpenAI & GPT | Error 해결방안] APIRemovedInV1 : no longer supported in openai>=1.0.0 (Azure OpenAI )  (1) 2023.12.07
AI for Fun || ChatGPT 신규 모델 테스트 - MS Azure OpenAI gpt-4-turbo-preview 대답비교 (2023.11.06 updated)  (0) 2023.11.29
Python & Bookmark || OpenAI와 Azure OpenAI 코드 문법 차이  (0) 2023.11.02
Azure & OpenAI || 내년에 Azure OpenAI에서 서비스 OFF되는 모델들 (2023.10.11 Azure Article)  (0) 2023.10.12
[Study|ING] Kusto as a Vector database for AI embeddings  (0) 2023.09.12
'솔루션 Tip/chatGPT & Prompt' Related Articles more
Comments