모델은 한 번에 기억할 수 있는 텍스트 양(컨텍스트 윈도우)에 한도가 있습니다. 대화가 길어지거나 큰 파일을 첨부할수록 이 한도에 가까워지고, 한도를 넘으면 오래된 메시지가 잘려나가거나 요청 자체가 거부됩니다. 이 미터는 그 보이지 않는 한도를 막대 하나로 눈에 보이게 만듭니다.
평소엔 굳이 신경 쓸 필요가 없도록 눈에 띄지 않게 두다가, 한도의 70~80% 근처부터 색을 노랑으로, 거의 다 찼을 때 빨강으로 바꿔서 "슬슬 정리하거나 새 대화를 시작하라"는 신호를 줍니다. 숫자(예: "128K 중 96K 사용")를 함께 보여주면 개발자·파워유저에게는 더 유용합니다.
한도에 도달했을 때 무슨 일이 벌어지는지도 함께 알려주는 게 좋습니다 — 오래된 메시지가 조용히 잘려나가는 제품이라면, 사용자가 그걸 모른 채 "아까 말했잖아"라고 답답해하는 상황을 막을 수 있습니다.
언제 쓰나
긴 대화나 대용량 파일 첨부가 흔한 제품(코딩 어시스턴트, 문서 분석)에 씁니다. 짧은 단발성 질문·답변 위주 제품에서는 거의 채워질 일이 없어 불필요합니다.