AI가 스스로 일하게 하기

AI가 한 번 답하고 끝내는 대신, 도구를 쥐고 결과를 확인하며 다음 걸음을 스스로 정하게 하는 방식이에요. 힘이 세지는 만큼 권한과 상한을 같이 정해야 해요.

쉽게 말하면

주방 직원에게 "양파 3kg 사 와" 라고 시키는 것과 "오늘 점심 장사 준비해 둬" 라고 시키는 것은 다른 부탁이에요. 앞의 것은 한 번 다녀오면 끝이에요. 뒤의 것은 냉장고를 열어 보고, 뭐가 없는지 세고, 시장에 다녀오고, 돌아와서 다시 확인해야 끝나요. AI를 스스로 일하게 한다는 건 뒤쪽 부탁을 맡기는 거예요. 한 번 대답하고 마는 대신, 열어 보고 다시 판단하기를 몇 번 되풀이해요.

한 번 답하기

"이번 주 매출 정리해 줘" → 그럴듯한 표 한 장

실제 장부는 열어 보지 않았어요. 숫자를 지어낼 수 있어요.

스스로 일하기

"이번 주 매출 정리해 줘" → 장부 열기 → 합계 → 빠진 날 확인 → 표

진짜 자료를 보고 답해요. 대신 장부를 열 권한을 쥐여 줘야 해요.

차이는 똑똑함이 아니라 손이 있는지예요. 손이 생기면 일을 해내지만, 손이 있으니 사고도 낼 수 있어요. 이 문서의 절반은 그 손을 어디까지 허락할지에 관한 이야기예요.

무엇이 에이전트를 에이전트로 만드나

이름은 거창하지만 구조는 단순해요. 네 걸음이 뱅글뱅글 도는 것뿐이에요.

1목표를 받아요. "이번 주 빠진 재고 채워 둬" 처럼 결과만 받고 방법은 안 받아요.
2지금 상태를 봐요. 도구를 써서 밖을 확인해요. 장부를 읽고, 화면을 보고, 목록을 세요.
3한 걸음만 실행해요. 전부 하지 않고 다음 한 걸음만 해요.
4끝났는지 판단해요. 끝나지 않았으면 2번으로 돌아가요. 이 되돌아감이 핵심이에요.

2번이 없으면 아무리 여러 번 생각해도 혼잣말이에요. 그래서 판단 기준은 하나예요. 도구를 쥐고 있고, 결과를 보고 다시 판단하는가. 둘 중 하나라도 없으면 이름만 에이전트예요.

도구를 늘리는 건 기능을 늘리는 게 아니에요

도구 하나를 붙이는 것은 권한 하나를 주는 것이에요. 문자 발송 도구를 붙였으면 그 AI는 이제 손님에게 문자를 보낼 수 있는 직원이에요. 도구를 늘릴 때마다 상한과 기록을 같이 늘려야 해요.

선택지는 넷이고, 각각 대가가 있어요

"AI로 자동화한다"는 말 안에 서로 아주 다른 네 가지가 섞여 있어요. 무엇을 고르느냐가 요금과 사고 위험을 거의 다 결정해요.

방식	이럴 때 맞아요	치르는 대가
한 번 답하기	글쓰기·요약·번역처럼 밖을 볼 필요가 없는 일	실제 자료를 안 봐요. 사실 확인은 사람 몫이에요
순서 정해진 자동화	매번 똑같은 순서로 도는 일(주문 오면 알림, 매일 백업)	예상 밖 상황이 오면 그냥 멈춰요. 융통성이 없어요
스스로 일하게 두기	상황마다 순서가 달라지는 일(원인 찾기, 자료 모으기, 정리)	느리고 비싸요. 같은 요청도 결과가 매번 달라요
승인 끼운 방식	돈·발송·삭제처럼 되돌릴 수 없는 일	사람을 기다려요. 야간·주말에는 줄이 서 있어요

순서를 누가 정하는지가 갈림길이에요

순서를 사람이 미리 정할 수 있으면 정해진 순서 자동화가 이겨요. 더 싸고, 더 빠르고, 매번 같은 결과를 줘요. 스스로 일하게 두는 방식은 순서를 미리 못 정할 때만 값을 해요. 멋있어 보여서 고르는 선택이 아니에요.

어디서 무너지나

이 방식은 조용히 잘 돌다가 어느 지점부터 갑자기 못 쓰게 돼요. 그 지점들은 대략 계산할 수 있어요.

무너지는 곳	언제부터	증상
오차 누적	한 걸음을 95% 맞히는 AI라면 10걸음에서 약 60%, 20걸음에서 약 36% (0.95를 그만큼 곱한 값)	중간에 엉뚱한 길로 접어들고, 그 길로 끝까지 가요
앞말 잊음	걸음이 쌓여 기록이 길어질 때	처음에 준 조건을 무시해요. 맥락창 한계예요
요금 급증	걸음 수가 두 배면 읽는 총량은 대략 네 배	10분 돌린 요금이 예상의 몇 배로 나와요
제자리 맴돔	실패를 고치려다 비슷한 시도를 반복할 때	걸음 수 상한이 없으면 스스로 멈추지 않아요
권한 과다	삭제·발송·결제 도구를 쥐여 준 순간부터	판단이 한 번 어긋나면 되돌릴 수 없어요

첫 줄이 특히 중요해요. 사람들은 정확도를 더하기로 생각해요. 한 걸음이 95%면 열 걸음도 대충 그 근처일 거라고요. 실제로는 곱하기예요. 그래서 대책은 더 똑똑한 AI가 아니라 더 짧은 걸음이에요. 걸음을 짧게 끊고 중간에 확인을 넣는 쪽이 늘 이겨요.

장면 1 · 새벽에 안내 문자가 나갔다

“재고 정리해 두라고 시켰는데, 손님들한테 품절 안내가 밤새 나갔어요.”

목표는 맞았고 수단이 과했어요. 그 AI는 발송 도구를 쥐고 있었고, 몇 통까지가 상한인지 아무도 정해 주지 않았어요. 이런 사고는 대개 "잘못된 판단"보다 "너무 넓은 권한"에서 나와요. 지시문을 다듬는 것보다 도구를 좁히는 게 먼저예요.

하면 안 되는 때

기초는 하는 법을 알려주고, 여기부터는 하지 말아야 할 때를 알려줘요. 아래 다섯 중 하나라도 걸리면 스스로 일하게 두지 마세요.

1되돌릴 수 없는 일이다. 돈 보내기, 문자·메일 발송, 삭제, 공개 게시. 사람 승인 한 칸을 반드시 앞에 끼워요.
2답이 이미 규칙으로 정해져 있다. 조건이 명확하면 정해진 순서 자동화가 더 싸고 결과도 일정해요.
3손님이 화면에서 기다리는 자리다. 여러 걸음을 밟으면 수십 초가 걸려요. 결제 화면이나 로그인 화면에 두면 안 돼요.
4맞았는지 확인할 방법이 없다. 사람이 검증할 수 없는 일을 맡기면, 틀린 결과가 조용히 쌓여요.
5한 번 실수가 법이나 개인정보로 번진다. 손님 정보 열람·수집·발송이 그래요. 개인정보 규정 확인이 먼저예요.

돈에서는 특히 그래요

걸음마다 요금이 붙어요. 한 번에 몇 걸음까지, 하루 얼마까지를 숫자로 걸어 두지 않으면 사고가 나기 전에 요금이 먼저 사고를 냅니다. 상한 거는 방법은 AI 요금 쪽이 더 자세해요.

장면 2 · 외주 개발자가 제안한다

“이건 에이전트로 만들면 알아서 다 해요. 사람 손 안 갑니다.”

"알아서"가 나오면 두 가지를 되물어야 해요. 무슨 도구를 쥐여 주나요, 그리고 몇 걸음까지 시도하고 포기하나요. 이 두 개에 숫자로 답이 없으면 아직 설계가 아니라 기대예요. 나쁜 뜻이 아니라, 대개 아직 안 정한 거예요.

남에게 맡길 때 요구할 것

직접 만들지 않아도 돼요. 대신 아래 여섯 가지를 문서로 받으세요. 사고가 났을 때 이게 있으면 하루 안에 원인을 찾고, 없으면 며칠을 헤매요.

1도구 목록. 이 AI가 쥔 도구가 무엇이고, 각각 읽기만 되는지 쓰기도 되는지 한 장으로요.
2상한 숫자 세 개. 최대 몇 걸음, 최대 몇 분, 하루 최대 요금. 숫자로 못 말하면 아직 안 정한 거예요.
3승인 게이트 위치. 되돌릴 수 없는 행동 앞에 사람 확인이 있는지, 어느 행동 앞인지.
4기록. 무엇을 보고 무엇을 했는지 순서대로 남는지. 사고가 나면 활동 기록이 유일한 단서예요.
5멈춤 버튼. 지금 돌고 있는 것을 사람이 즉시 세울 수 있는지.
6실패했을 때 기본 동작. 조용히 넘어가는지, 멈추고 사람을 부르는지. 정답은 후자예요.

여섯 개 중 하나만 고르라면 멈춤 버튼이에요. 나머지는 사고를 줄이지만, 멈춤 버튼은 사고 크기를 줄여요.

자주 묻는 것

Q. 챗봇과 뭐가 달라요?: 챗봇은 말로 답하는 창구예요. 스스로 일하는 방식은 답 대신 행동을 해요. 창구 직원과 심부름 다녀오는 직원의 차이예요. 둘을 붙여 쓰기도 하지만, 붙이는 순간 창구 직원이 창고 열쇠를 갖게 된다는 걸 기억하세요.
Q. 제 서비스에 지금 필요할까요?: 대부분 아직 아니에요. 첫 손님을 받는 단계에서는 사람이 하는 게 더 빠르고 정확해요. 시점은 이때예요. 같은 판단을 하루에 열 번 넘게 반복하고 있고, 그 판단 기준을 말로 적을 수 있게 됐을 때요.
Q. 결과가 매번 다른데 고장인가요?: 정상이에요. 같은 목표라도 도중에 본 것이 다르면 경로가 달라져요. 그래서 결과가 항상 같아야 하는 일에는 쓰면 안 돼요. 정산 계산 같은 건 규칙으로 짜는 쪽이 맞아요.
Q. 더 좋은 지시문으로 사고를 막을 수 있나요?: 줄일 수는 있어도 막지는 못해요. 지시문은 부탁이고 권한은 자물쇠예요. 부탁을 잘하는 것보다 자물쇠를 좁히는 게 확실해요. 기본 규칙 적는 법은 기본 지시문에 있어요.
Q. 왜 갑자기 이 말이 많이 들려요?: AI가 도구를 쓸 수 있게 되면서 "말하는 것"에서 "하는 것"으로 넘어왔기 때문이에요. 다만 하는 것에는 책임이 따라붙어요. 권한과 상한이 늘 같이 와야 해요.
Q. AI가 정말 못 하는 일도 있나요?: 있어요. 걸음을 늘려도 안 되는 것들이 있어요. AI 한계와 환각을 같이 보면 어디까지 맡길지 감이 잡혀요.

확인해 보세요

품절 안내 문자를 보내는 일을 AI가 스스로 하게 두려고 해요. 가장 먼저 넣어야 할 것은?

하나 더

한 걸음을 20번 중 19번 맞히는 AI가 10걸음을 연달아 밟아요. 끝까지 다 맞을 확률은 대략?

직접 해보기

스튜디오에서 걸음이 쪼개지는 걸 직접 보세요

만들고 싶은 것을 한 줄로 시켜 보세요. 곧바로 만들지 않고 되물어 오고, 계획을 먼저 보여주고, 그다음 만들어요. 이렇게 한 부탁을 걸음으로 쪼개는 것이 스스로 일하는 방식의 뼈대예요. 끝까지 만들지 않아도 흐름만 보면 충분해요.

스튜디오 열기

더 깊이 (안 읽어도 괜찮아요)

왜 요금이 곡선으로 오르나 · 걸음마다 AI는 앞에서 무슨 일이 있었는지 다시 읽어요. 3번째 걸음은 1~2번을, 10번째 걸음은 1~9번을 읽어요. 그래서 걸음 수가 두 배가 되면 읽는 총량은 대략 네 배가 돼요. 오래 돌린 작업의 요금이 예상보다 튀는 이유가 대개 이것이에요. 대책은 중간에 요약을 끼워 읽는 양을 줄이는 것이고, 이건 만드는 사람에게 요구할 항목이에요.

여럿을 붙이는 설계 · 조사하는 쪽과 검토하는 쪽으로 역할을 나눠 여러 AI를 붙이는 방식도 있어요. 품질은 올라갈 수 있지만 요금과 시간도 인원수만큼 올라요. 사람 조직과 같아요. 둘이 붙으면 두 배 빨라지는 게 아니라 회의가 생겨요. 한 명으로 안 되는 이유를 설명할 수 있을 때만 늘리세요.

비유가 어디부터 다른가 · "신입 직원" 비유는 여기까지만 맞아요. 사람 직원은 어제 실수를 기억하고 다음엔 안 그래요. 이 방식은 기본적으로 매번 새로 시작해요. 기억은 저절로 생기지 않고, 누군가 남겨 주는 기록으로만 생겨요. 그래서 "한 번 알려줬는데 또 그러네"는 게으름이 아니라 구조예요.

숫자를 정할 때 확인처 · 걸음 상한이나 요금 상한의 적정값은 서비스마다 달라요. 쓰는 AI 서비스의 사용량·한도 화면에서 실제 요금 단위를 확인한 다음 정하세요. 남이 말한 숫자를 그대로 옮기는 게 가장 위험해요.

이것만 기억하세요

·도구를 쥐고, 결과를 보고 다시 판단하는 것을 되풀이하는 게 이 방식의 정체예요
·순서를 미리 정할 수 있으면 정해진 자동화가 더 싸고 정확해요
·걸음이 늘면 정확도는 곱하기로 줄고 요금은 곡선으로 올라요
·되돌릴 수 없는 행동 앞에는 사람 승인 한 칸을 넣어요
·맡길 때는 도구 목록·상한 숫자·기록·멈춤 버튼을 문서로 받으세요