세션이 바뀔 때마다 컨텍스트를 다시 붙여넣고 있다면

같은 모델을 쓰는데 창만 새로 열면 처음부터 설명하게 되죠. 이건 모델 성능 문제가 아니라 맥락이 «대화창»에 붙어 있어서 생기는 일입니다. 창이 닫히면 같이 사라지니까요. 해결은 프롬프트를 더 잘 쓰는 쪽이 아니라, 맥락을 붙여둘 자리를 바꾸는 쪽이었습니다.

매번 다시 붙여넣는 것들

거의 항상 이 셋입니다

세어보면 대개 같은 문단이더라구요. 프로젝트가 뭔지, 지키기로 한 규칙이 뭔지, 지난번에 뭘 정했고 왜 그렇게 정했는지. 매번 조금씩 다르게 요약해서 붙이다 보니 세션마다 전제가 미묘하게 달라지는 문제까지 생깁니다.

	대화창에 붙어 있을 때	일에 붙어 있을 때
창을 닫으면	같이 사라짐	남음
다음 세션	다시 붙여넣기	이어서 시작
전제	매번 조금씩 달라짐	한 벌로 고정
다른 사람	공유 불가	열어보면 됨

"시스템 프롬프트에 박아두면 되지 않나요?"

규칙은 그렇게 해결됩니다. 문제는 규칙이 아니라 이력이에요. 「이 방식은 지난주에 시도했다가 이 이유로 접었다」 같은 건 시스템 프롬프트에 계속 쌓을 수가 없습니다. 쌓다 보면 그 자체가 관리 대상이 되고요.

그래서 고정할 것과 흐를 것을 나눠야 했습니다. 배경·규칙처럼 잘 안 바뀌는 건 고정하고, 그날그날의 논의는 흐르게 두되 결정만 그 자리에 적히게 하는 쪽이요.

대화창 단위가 아니라 일 단위로

"전부 다시 읽히면 토큰이 터지지 않나요"

맞는 걱정이에요. 그래서 «전부 싣는 것»과 «필요할 때 꺼내는 것»은 다릅니다. 매 요청에 히스토리를 통째로 넣으면 비용도 비용이고, 오래된 맥락이 최근 결정을 덮어쓰는 일도 생겨요.

실제로 쓸 만했던 건 시점으로 되짚는 방식이었습니다. 「저번에 그거」라고 하면 그 언저리부터 시간순으로 꺼내오는 식이요. 전부를 안고 가는 게 아니라, 필요한 구간만 불러옵니다.

지난 기록을 시점으로 되짚어 불러온 화면입니다

붙여넣기의 진짜 비용은 시간이 아니었다

매번 붙여넣는 게 30초라면 하루 몇 분입니다. 그건 견딜 만해요. 문제는 그 30초가 일을 시작하는 문턱이 된다는 겁니다.

짧게 물어보면 될 일도 "맥락 붙이기 귀찮으니까 그냥 내가 하지"로 가거든요. 그렇게 AI를 안 쓰는 구간이 조금씩 넓어집니다. 저는 이게 토큰 비용보다 컸어요.

충돌은 시간순으로 푼다

기록이 쌓이면 서로 어긋나는 진술이 생깁니다. 3월에 "A로 간다"고 적혀 있고 7월에 "B로 바꿨다"가 있으면, 어느 쪽이 지금 기준인지가 문제예요.

이건 요약으로 뭉개면 안 됩니다. 가장 최근 것이 현재 결론이고, 그 앞의 것은 «왜 바뀌었는지»를 보여주는 재료로 남겨두는 게 맞았어요. 요약본 한 장만 남기면 이 판단 자체가 불가능해집니다.

한 사람이 아니라 팀으로 넘어갈 때

혼자 쓸 때는 붙여넣기가 귀찮은 정도입니다. 팀이 되면 얘기가 달라져요. 각자의 대화창에 각자의 전제가 쌓이면, 같은 질문에 다른 답이 나옵니다. 그게 리뷰 때 드러나면 되돌리는 비용이 큽니다.

팀이면 한 가지가 더 붙습니다. 누가 어떤 전제로 시켰는지가 안 보이면, 결과물만 놓고는 왜 그렇게 나왔는지 따질 수가 없어요. 리뷰가 «맞다/틀리다»에서 «어떤 맥락이었냐»로 한 단계 더 들어가야 합니다.

일 단위로 자리를 두면 팀이 같은 맥락 위에서 움직입니다

제가 확인한 범위

맥락이 프로젝트 단위로 남고, 다음 세션이 이어서 쓰고, 시점으로 되짚어 꺼내는 것 — 여기까지는 됩니다. 모델을 바꿔도 그 맥락은 그대로 쓰고요.

과장하지 않고 말하면 이게 프롬프트 설계를 없애주지는 않습니다. 무엇을 고정할지는 여전히 사람이 정해야 해요. 다만 «정한 걸 매번 다시 붙여넣는» 단계가 빠집니다. 그 단계가 사라지면 세션을 새로 여는 부담 자체가 줄어요.

먼저 해볼 것

다음에 새 창을 열 때, 붙여넣는 문단을 그대로 한 번 저장해 보세요. 그게 지금 어디에도 안 붙어 있는 맥락의 목록입니다. 대개 생각보다 짧고, 대개 매번 같습니다.

함께 보면 좋은 글

• 업무 자동화, 승인 한 번 때문에 자리를 못 뜬다면
• 로컬 AI, 회사 문서를 안 올리고 쓰는 구조를 봤습니다
• AI 메모리, 모델 갈아탈 때마다 기억이 사라지는 이유를 봤습니다

마이두 무료로 시작하기