본문으로 건너뛰기 
요즘 주변에서 이런 질문을 자주 받아요. 도대체 어떻게 써야 AI를 잘 쓰는 거냐고요.
그런 질문이 나오는 데는 이유가 있습니다. 유튜브 쇼츠나 인스타그램 릴스를 넘기다 보면 「AI 직원을 10명 채용했습니다」, 「이거 모르면 1년 뒤 도태됩니다」 같은 광고가 몇 개씩 연달아 나오거든요. 거기에 오케스트레이션, 멀티 에이전트 같은 말이 일부러 어렵게 섞여 있죠. 그래서 보고 나면 나만 뒤처진 것 같은 기분은 드는데, 정작 무엇부터 해야 하는지는 여전히 모르는 채로 남습니다.
이런 광고, 한 번쯤 보셨죠? 실제 광고를 흉내 내 만든 가상의 화면입니다.
이런 분위기는 해외도 크게 다르지 않습니다. 시장조사기관 가트너는 작년 6월 에이전트 워싱(agent washing), 즉 원래 있던 챗봇이나 자동화 도구에 「에이전트」라는 이름표만 새로 붙여 파는 일이 많아졌다고 꼬집었습니다. 친환경이 아닌데 친환경인 척하는 「그린워싱」에서 따온 말이죠. 그리고 지금 기업들이 시작한 에이전트 프로젝트의 40% 이상이 2027년 말까지 중단될 것이라고 내다봤습니다. 돈은 계속 드는데 효과가 분명하지 않기 때문이라고 합니다.
그래서 저는 거꾸로 묻고 싶어졌습니다.
그렇게 만든 에이전트, 지금도 열심히 쓰고 계신가요?
사실 저도 지난 291호에서 AI 봇 열두 개 이야기를 했습니다. 그런데 그 열두 개도 처음에는 Claude Code 하나였어요. 폴더 하나를 열어 두고 그 안에서 슬라이드를 만들거나 프로젝트 하나를 진행하는 식이었죠. Claude Code를 써 보신 분이라면 대부분 이렇게 시작하셨을 거예요. 그렇게 하나둘 쓰다 보니 에이전트가 어떻게 움직이는지 자연스럽게 알게 됐고, 그 뒤로 목적별 폴더가 하나씩 늘어났습니다. 폴더 하나가 곧 프로젝트 하나였으니까요.
그 과정에서 제가 알게 된 건 의외로 단순했습니다. 지금 우리가 쓰는 에이전트만 제대로 이해해도 충분히 잘 쓸 수 있다는 것이죠. 그래서 오늘은 그 바탕이 되는 구조, Agent Loop 이야기를 최대한 쉬운 말로 풀어 보려고 합니다.
Agent Loop는 생각보다 단순합니다
저는 AI 제품을 만드는 회사에 있었기 때문에 에이전트가 어떻게 돌아가는지 어렴풋이는 알고 있었습니다. 그런데 그 구조를 눈으로 확실하게 본 건 Anthropic이 직접 여는 온라인 강의, Anthropic Academy의 「Claude Code 101」에서였어요. 이 기본 강의는 Claude Code가 어떻게 일하는지 설명하면서 Agent Loop부터 짚고 넘어가는데, 저는 그 대목에서 정말 감탄했습니다. 왜냐하면 우리가 하는 거의 모든 일의 과정을 가장 단순한 모양으로 담아 둔 표준이었기 때문입니다.
Agent Loop, 즉 AI가 일을 끝낼 때까지 같은 순서를 되풀이하는 구조는 이렇게 생겼습니다.
- 상황을 살핀다 — 파일을 열어 보고, 검색하고, 필요한 정보를 모읍니다.
- 도구를 써서 일을 한다 — 문서를 고치고, 메일 초안을 쓰고, 표를 만듭니다.
- 결과를 확인한다 — 제대로 됐는지 다시 열어 봅니다.
- 아직 모자라면 1번으로 돌아간다.
어디서 많이 본 모습 아닌가요? 회사에 새로 온 인턴에게 「지난달 매출 정리해 주세요」라고 맡겼다고 해 볼게요. 인턴은 먼저 지난달 자료를 찾아 열어 봅니다. 그다음 엑셀로 표를 만들고, 합계가 맞는지 한 번 더 확인하죠. 숫자가 안 맞으면 자료를 다시 찾아봅니다. Agent Loop는 바로 이 인턴의 일하는 순서를 그대로 옮겨 놓은 겁니다.
살피고, 하고, 확인하고, 다시. ChatGPT 생성 이미지
그리고 이 구조는 한 회사만의 이야기도 아닙니다. Anthropic은 Claude Code가 일하는 방식을 「맥락을 모으고, 행동하고, 검증하고, 반복한다」고 설명합니다. OpenAI도 올해 1월 Codex가 일하는 방식을 풀어 쓴 글에서 이 반복 구조를 「에이전트 루프」라고 불렀고요. 개발자 사이먼 윌리슨은 이것을 아예 한 문장으로 정리했습니다.
「AI 에이전트는 목표를 이룰 때까지 도구를 반복해서 쓰는 것이다.」 사이먼 윌리슨, 2025년 9월
회사가 달라도 구조는 같습니다. 그래서 저는 이것을 표준이라고 부릅니다.
예전에는 AI에게 길을 미리 그려 줬습니다
Agent Loop가 자리 잡기 전에는 랭체인(LangChain) 같은 도구로 에이전트를 만들었습니다. 사람이 먼저 순서도를 그려 두고, AI는 그 칸을 하나씩 채우는 방식이었죠. 「먼저 검색하고, 그 결과를 요약하고, 요약이 길면 다시 줄여라」처럼 길을 한 칸 한 칸 정해 주는 겁니다.
물론 이 방식이 쓸모없다는 뜻은 아닙니다. 순서가 정해진 일이라면 여전히 이쪽이 더 잘 맞을 때가 있고, AI가 헤매지 않으니 토큰, 즉 AI 사용료도 아낄 수 있거든요. Anthropic도 이 둘을 나눠서 설명합니다. 사람이 미리 짜 둔 경로를 따라 움직이면 워크플로, AI가 스스로 과정과 도구를 골라 가며 일하면 에이전트라고요. 그리고 가장 단순한 방법에서 시작하고, 꼭 필요할 때만 복잡하게 만들라고 권하죠.
그런데 그사이 AI 모델의 성능이 정말 빠르게 좋아졌습니다. 예전에는 AI가 길을 잃을까 봐 순서도를 촘촘히 그려 줘야 했다면, 이제는 목적지만 알려 줘도 스스로 길을 고를 만큼 똑똑해졌죠. 택시를 타고 「서울역 가 주세요」 한마디만 하면 기사님이 알아서 길을 고르는 것처럼요. 그러자 한 가지 일에만 맞춘 순서도보다, 어떤 일이든 담을 수 있는 범용적인 방식이 더 중요해졌습니다.
ChatGPT 생성 이미지
순서도를 만들던 랭체인도 이 흐름에 맞춰 「딥 에이전트(Deep Agents)」를 내놓았습니다. 계획을 세우고, 파일을 읽고 쓰고, 일을 나눠 맡기는 도구를 루프에 미리 붙여 둔 형태인데, 랭체인은 이것을 「에이전트 하네스」라고 부릅니다.
하네스는 잘 차린 책상입니다
그렇다면 하네스는 무엇일까요? 291호에서는 「내가 점점 말을 덜 해도 AI가 알아서 일하게 만드는 맥락 환경」이라고 했는데, 저는 주변 사람들에게 이걸 책상에 빗대어 설명하곤 합니다.
앞에서 말한 인턴의 책상을 떠올려 보세요. 왼쪽에는 읽고 참고할 수 있는 매뉴얼이 놓여 있습니다. 오른쪽에는 프린터, 컴퓨터, 스캐너, 전화기처럼 쓸 수 있는 도구가 있고요. 그리고 책상 한가운데에는 늘 펼쳐 둔 기본 지침 한 장이 있습니다. Claude에서는 CLAUDE.md, Codex에서는 AGENTS.md라고 부르는 파일이죠.
