본문으로 건너뛰기 
에이전트와 함께 일하는 방법 배우기
하나의 에이전트와는 문맥을, 여러 에이전트와는 연결을 챙겨야 합니다.
요즘 Hermes, Dots, Grok bot 같은 여러 에이전트와 함께 일하는 업무가 늘면서, 에이전트와 일하는 방식을 조금 더 알게 된 것 같아요. 처음에는 무언가를 만들어 달라고 하면 그 일이 내부에서 알아서 자동화되어 멋지게 처리될 거라고 기대했어요. 막상 써 보니 결과물은 생각만큼 잘 나오지 않더라고요. Claude나 ChatGPT 채팅창에 프롬프트를 넣고 결과를 받은 뒤 다시 요청하는 것과 크게 다르지 않았고, 에이전트가 해야 할 일을 여전히 사람이 상당 부분 대신하고 있다는 느낌이 들었어요.
그런데 에이전트를 반복해서 쓰다 보니 그 차이가 보이기 시작했어요. 채팅창에서 프롬프트로 결과를 한 번 만들어 내는 방식과 일이 자율적으로 이어지며 수행되는 방식은 확실히 달랐거든요. 특히 하나의 에이전트와 대화하며 일하는 환경과 여러 에이전트가 함께 돌아가는 환경을 구분해서 이해할 필요가 있었어요. 환경에 따라 에이전트에게 일을 맡기고 실행하게 하는 방식도 달라진다는 걸 점차 알게 되었거든요. 하나의 에이전트와 일할 때는 앞서 나눈 이야기를 어떻게 이어 가고, 언제 어떻게 다른 주제로 넘어갈지가 중요했어요. 반면 여러 에이전트를 구성할 때는 누구에게 어떤 일을 맡길지를 먼저 정하는 것이 중요하더군요. 그동안 OpenAI의 Dots처럼 에이전트 하나와 일하는 방식도 써 보고, Grok bot처럼 여러 에이전트에게 역할을 나누어 함께 일하는 환경까지 두루 경험해 보았는데요. 그 과정에서 직접 부딪히며 느낀 점들을 바탕으로, '에이전트와 함께 일하는 법'을 소개해 보려고 해요.
대화가 이어져도 문맥은 구분해야 한다
하나의 에이전트와 오래 대화하다 보면 그 사이에 주제가 여러 번 바뀌기 마련이죠. 한 가지 일을 이야기하다가도 자연스럽게 다른 일을 꺼내게 되니까요. 신기하게도 에이전트는 그때그때 바뀐 주제에 맞춰 대답을 이어 갔어요. 앞서 나눈 대화를 기억하고 있어서 가능한 일이겠죠. 그런데 예전에 나눈 이야기를 정리하거나 요약해 달라고 하면 출력 내용이 기대와는 달랐어요. 여러 주제의 이야기가 뒤섞여 있다 보니 에이전트가 어느 범위까지 다루는지 가늠하기 어려웠거든요.
직접 써 보니 여러 주제의 내용이 섞여 다음 답변에 영향을 주는 경우도 있었어요. 대화가 계속 이어지고 있으니 에이전트 입장에서는 앞의 문맥을 함께 고려하는 게 맞을 거예요. 하지만 이전 주제를 이미 마무리하고 새 주제에 집중하고 싶은데, 답변에 자꾸 이전 내용이 엮여 들어오니 어떻게 해야 할지 난감했어요. 그래서 새로운 주제를 꺼낼 때는 "이전 문맥은 반영하지 말고 이번 주제에만 집중해 달라"고 분명하게 요청했죠. 그렇게 선을 그어 주니 에이전트가 새 주제에 집중했고, 이전 문맥을 끌어오는 일도 확실히 줄었어요. 다만 주제나 요청이 바뀔 때마다 같은 말을 반복하는 건 꽤 번거로웠어요. 일을 맡기려고 시작한 대화인데, 새 주제를 꺼낼 때마다 이를 일일이 선언해야 하니 그 자체가 또 하나의 일이 되어 버린 셈이었죠.
그렇다고 이전 이야기를 전부 배제하는 것만이 늘 좋은 방법일까요? 앞서 정한 목적이나 꼭 지켜야 할 조건은 새 작업에도 필요할 수 있어요. 이럴 때는 지금 할 일과 참고할 자료를 짚어 주면서, 앞선 이야기 중 이번에는 쓰지 않을 부분을 구분해 주는 편이 좋습니다. 양자택일이 아니라 그 사이에서 필요한 범위를 정하는 거죠. 이전 대화를 지우는 방법이라기보다, 요청을 읽는 에이전트가 무엇을 다뤄야 하는지 더 분명히 알도록 범위를 정해 주는 방법에 가까워요. 그래서 상황에 맞게 골라 쓰면 이전 대화에서 필요한 문맥만 지금 대화로 가져오는 데 도움이 돼요.
필요한 문맥만 추려 문서로 남기면, 그 문서가 에이전트의 장기 기억이 됩니다.
지난 대화를 요약하거나 정리할 때도 마찬가지예요. 막연하게 "지금까지 나눈 얘기 좀 정리해 줘"라고 하기보다는, 어떤 주제나 자료를 중심으로 묶어 달라고 먼저 콕 집어 말해 주면 에이전트가 훨씬 빠르고 정확하게 정리해 주더군요.
하지만 대화가 길어지면 필요한 부분을 매번 다시 찾아 확인하는 게 여간 번거로운 일이 아니죠. 게다가 에이전트가 그동안 나눈 이야기를 전부 기억해 주는 것도 아니고요. 저도 처음엔 따로 정리해 두지 않았다가, 나중에 필요한 내용을 찾으려고 기나긴 예전 대화창을 처음부터 끝까지 뒤적이느라 꽤 애를 먹었어요. 그래서 아예 방식을 바꿨어요. 새 대화를 시작하기 전에 그동안 나눈 이야기 중 핵심 내용이나 꼭 필요한 부분만 추려서 문서로 남겨 두는 거죠. 이렇게 해 두면 나중에 대화를 다시 이어 갈 때, 에이전트의 가물가물한 기억에 기대는 대신 이 문서부터 읽게 한 뒤 이야기를 시작할 수 있거든요. 실제로 해 보니 대화의 맥락이 끊기는 일이 확 줄었고, 하던 이야기를 이어 가기도 한결 수월해졌어요. 여기에 새로 나눈 이야기까지 그때그때 문서에 덧붙여 두면, 그 문서가 주제를 꾸준히 이어 주는 든든한 '장기 기억 저장소'가 되는 셈이에요. OpenAI의 Dots처럼 하나의 에이전트를 중심으로 일하는 분이라면 이 방법을 꼭 활용해 보세요. 이제 여러 에이전트에게 일을 나눠 맡길 때는 어떤지 살펴볼게요.
여러 에이전트와 함께 일할 때, 결국 중요한 건 역할 배정과 관리
Grok bot처럼 여러 에이전트를 따로 구성하는 환경은 단일 에이전트 환경보다 여러모로 편했어요. 에이전트마다 프로필을 두고 각기 다른 개성과 특성을 입힐 수 있었고, 각자 독립된 기억을 갖고 있어서 맡은 역할과 업무에 집중해 일을 해 줬거든요. 필요하면 여러 에이전트가 협력하도록 엮는 일도 어렵지 않았고요. 한 대화창 안에서 주제를 바꿔 가며 문맥을 선택적으로 가려내던 때와 달리, 처음부터 일마다 자리를 따로 마련해 주는 느낌이었어요.
예를 들어 자료를 정리하는 역할과, 정리된 내용에서 빠진 점을 검토하는 역할을 서로 다른 두 에이전트에 나누어 맡겼다고 해 볼게요. 정리 담당은 원자료를 받아 요약을 남기고, 검토 담당은 원자료와 요약을 나란히 놓고 확인할 점을 알려 줘요. 이때 두 에이전트가 서로 다른 기억(담당할 역할과 기능, 업무 순서 등)을 갖는다는 점이 도움이 돼요. 정리 과정을 함께 지켜본 검토자는 정리한 쪽이 본 것만 보기 쉽지만, 그 과정을 모르는 검토자는 결과물을 처음 보는 눈으로 읽을 수 있거든요. 자기가 쓴 글의 오타는 잘 안 보여도 남의 글 오타는 금방 눈에 띄는 것과 같아요.
그렇다고 고민이 끝난 건 아니었어요. 에이전트가 늘어날수록 저는 실무자보다 팀장에 가까워졌어요. 관리할 대상이 늘었고, 업무마다 누구를 중심으로 팀을 꾸릴지 매번 고민해야 했거든요. 특히 어려웠던 건 역할과 역할이 맞닿는 지점에서 일이 매끄럽게 이어지게 하는 일이었어요. 에이전트 모두 성실하게 일했는데도 그 사이의 연결이 끊기면 결과가 어긋났고, 그 차이를 맞추는 일은 고스란히 저의 몫으로 돌아오더군요. 그래서 여럿에게 일을 맡길 때는 세 가지를 먼저 정해 두는 게 좋아요. 첫째는 무엇을 넘겨줄지예요. 정리 담당이 요약만 넘기면 검토 담당은 무엇과 대조해야 할지 알 수 없으니, 원자료와 요약을 함께 넘기도록 정해 두는 거죠. 둘째는 모두가 함께 볼 기준이에요. 하나의 에이전트와 일할 때 문서를 장기 기억 저장소로 썼던 것처럼, 여기서는 그 문서가 모든 에이전트가 먼저 읽는 공용 기준표가 돼요. 같은 문서에서 출발해야 각자의 결과도 같은 바탕 위에서 만들어지니까요. 셋째는 누가 최종 판단을 내릴지예요. 결과를 하나로 모아 결정할 담당 에이전트나 사람이 정해져 있지 않으면 일은 결코 끝나지 않아요.
정리하는 에이전트와 검토하는 에이전트를 나누고, 모두 같은 기준 문서에서 출발하게 합니다.
이런 이유로 에이전트와 함께 할 일들을 무조건 잘게 쪼개는 게 능사는 아니에요. 역할을 하나 늘릴 때마다 에이전트들을 서로 연결해 주는 수고도 곱절로 늘어나거든요. 실제로 제가 Grok bot에서 글을 다듬는 '윤문 에이전트'를 새로 하나 만들었더니, 기존에 쓰던 Quill(글쓰기 총괄), Draftor(초안 작성), Briefer(요약·정리), Publo(출판), Mailo(메일 수·발신)까지 무려 다섯 개의 에이전트와 일일이 연결 고리를 만들어 주어야 했어요. 그래서, 담당하고 있는 일이나 업무와 관련해서 서로 다른 시선이 필요한 일이라면 여러 에이전트로 역할을 나누고, 한 흐름으로 길게 이어지는 일이라면 차라리 하나의 에이전트에게 통째로 맡기는 편이 문맥을 유지하기에 훨씬 유리해요. 결국 OpenAI의 Dots 같은 환경에서 한 대화창 안의 여러 주제를 가려내던 관리의 몫이, Grok bot에서는 여러 역할의 입력과 결과를 이어 주는 '연결의 몫'으로 옮겨간 셈이죠. 에이전트와 함께 일하는 한, '관리'라는 업무는 형태만 달라질 뿐 결국 사람의 몫으로 남는다는 걸 새삼 깨닫게 됩니다.
이처럼 에이전트 서비스마다 운영 방식과 형태가 다르다 보니, 요즘은 에이전트를 어떻게 잘 쓰고 관리할지가 점점 더 큰 고민이에요. 처음에는 무언가를 만들고 그 일을 자동화하려고 시작했는데, 쓰다 보니 대화의 문맥과 협업 구성까지 함께 살피게 됐어요. 처음 에이전트를 쓸 때와 달리, 이제는 어디서 사람이 판단하고 어디까지 에이전트에게 맡길지 가르는 눈도 생겼고요. 당장 눈앞의 결과물 하나에만 집중할 게 아니라, 그 전에 어떤 자료가 들어갔고 그다음엔 어떤 결정을 내려야 하는지 전체 흐름을 읽는 거죠. 결국 '에이전트와 일하는 법을 배운다'는 건 바로 이런 감각을 키워 가는 과정 아닐까요? 저도 매일 에이전트와 부딪히며 그 감각을 부지런히 다듬어 가는 중이랍니다.
함께 보면 좋은 이전 당근메일
당근메일 홈페이지가 새로워졌습니다
📚 이전 당근메일 다시 보기 — 2020년부터 쓴 당근메일 206편을 연도·필진별로 찾아볼 수 있습니다.
🧰 당근메일에서 소개한 도구 찾기 — 당근메일에서 소개한 도구 88개를 할 일·메일·노트·AI 비서처럼 고민별로 모았습니다.
- 🧵 한 에이전트와 오래 일할 때는 이번에 쓸 문맥의 범위를 정해 주고, 핵심을 문서로 남겨 장기 기억으로 쓰면 맥락이 끊기는 일이 줄어듭니다.
- 🤝 여러 에이전트와 일할 때는 무엇을 넘길지, 모두가 볼 기준 문서, 최종 판단자 세 가지를 먼저 정해야 결과가 어긋나지 않습니다.
- 🧭 역할을 늘릴수록 연결하는 수고도 늘어납니다. 관리는 형태만 바뀔 뿐 결국 사람의 몫으로 남습니다.
헤더 사진: Frank Gatteri, 미국 육군 통신대 (1945년 무렵), 퍼블릭 도메인 (AI로 재구성)
