내 자료를 AI에게 읽히기

내 가게 자료를 AI가 근거로 삼아 답하게 만드는 방법이에요. AI를 똑똑하게 만드는 게 아니라, 답할 자료를 손에 들려 주는 거예요. 지어내기를 줄이는 가장 확실한 길이에요.

쉽게 말하면

새로 온 알바에게 환불 규정을 외우게 시키는 사장님은 없어요. 계산대 옆에 규정을 코팅해 붙여 두고 "손님이 물으면 이거 보고 답해"라고 하죠. 자료를 AI에게 읽히는 일이 정확히 이거예요. AI 머릿속을 고치는 게 아니라, 답할 근거를 손에 들려 주는 것이에요. 그래서 규정이 바뀌면 알바를 다시 교육하는 게 아니라 코팅지만 갈아 끼우면 돼요.

자료 없이 물었을 때

손님: "환불 며칠까지 돼요?" AI: "보통 7일 이내에 가능합니다"

내 가게 규정을 본 적이 없으니 세상의 평균값을 말해요. 그럴듯해서 사장님도 틀린 걸 못 알아채요.

자료를 근거로 줬을 때

손님: "환불 며칠까지 돼요?" AI: "환불규정 3조에 따라 개봉 전 14일입니다"

규정 원문을 보고 답하고, 어느 문서 몇 조를 봤는지까지 말해요. 사장님이 검증할 수 있어요.

이 차이가 할루시네이션을 줄이는 가장 실질적인 방법이에요. AI가 지어내는 이유는 거짓말을 하려는 게 아니라 모르는 걸 모른다고 인식하지 못해서예요. 근거 자료가 손에 있으면 지어낼 자리가 줄어들어요.

방법은 세 가지고, 값이 다 달라요

"AI에게 내 자료를 읽힌다"는 말 안에 완전히 다른 세 가지가 섞여 있어요. 셋을 구분하지 못하면 개발자와의 대화도, 견적도 어긋나요.

방법	어떻게 하는 것	준비 비용	자료가 바뀌면	약한 지점
통째로 붙여넣기	질문할 때 자료 전문을 대화창에 그대로 붙여요	거의 없어요. 오늘 당장 가능	붙일 때마다 최신본을 쓰면 끝	자료가 길면 다 안 들어가요. 질문마다 다시 붙여야 해요
골라서 넣기	자료를 보관해 두고, 질문마다 관련된 부분만 찾아 넣어요	만드는 작업이 필요해요	자료함의 파일만 갈아요	엉뚱한 부분을 골라 오면 그대로 틀린 답이 나와요
모델을 직접 가르치기	AI 자체를 내 자료로 다시 훈련시켜요	가장 비싸고 오래 걸려요	다시 훈련해야 해요	사실을 외우는 데는 잘 안 맞아요. 말투를 익히는 데 맞아요

가장 흔한 오해부터 풀어요

"AI를 학습시킨다"는 말은 보통 세 번째를 뜻하는데, 사장님이 필요한 건 거의 항상 첫째나 둘째예요. 가격표와 규정을 정확히 답하게 하려면 외우게 시키는 게 아니라 보게 해야 해요. 사람도 그래요. 규정을 외운 직원보다 규정집을 펴 보는 직원이 정확하죠.

왜 골라서 넣어야 하나, 원리까지

AI는 한 번에 볼 수 있는 글의 양이 정해져 있어요. 그 한도를 맥락 창이라고 해요. 계산대 위에 한 번에 펼칠 수 있는 서류 장수가 정해진 것과 같아요. 자료가 늘어나면 어느 순간부터 통째로 붙여넣는 게 불가능해져요.

그래서 질문이 올 때마다 자료함에서 그 질문에 필요한 조각만 꺼내 AI에게 건네요. 손님이 환불을 물으면 환불규정 부분만, 배송을 물으면 배송 안내 부분만요.

1자료를 조각으로 쪼개요. 규정집 한 권을 조항 단위로 자르는 것과 같아요. 조각의 크기가 나중에 품질을 좌우해요.
2조각마다 좌표를 붙여요. 글의 뜻을 숫자 좌표로 바꿔 두면, 뜻이 비슷한 조각끼리 가까운 자리에 놓여요. 이 작업을 임베딩이라고 불러요.
3질문도 같은 방식으로 좌표를 매겨요. 그러면 질문 좌표 근처에 있는 조각들이 곧 관련 있는 조각이에요.
4가까운 조각 몇 개만 뽑아 질문과 함께 AI에게 줘요. AI는 그 조각들만 읽고 답을 씁니다.
5답에 어느 조각을 봤는지 표시해요. 이게 있어야 사장님이 답을 검증할 수 있어요.

좌표를 붙이는 게 왜 필요한지는 창고를 떠올리면 명확해요. 상품을 아무 데나 쌓아 두면 "매운 소스"를 찾을 때 창고를 다 뒤져야 해요. 매운 것끼리 한 코너에 모아 두면 그 코너만 가면 되죠. 임베딩은 글의 뜻으로 코너를 나누는 일이에요. 그래서 손님이 "환불"이 아니라 "돈 돌려받을 수 있어요"라고 물어도 같은 코너로 안내돼요. 글자가 아니라 뜻으로 찾으니까요.

여기가 핵심이에요

이 방식에서 답이 틀리면 AI가 틀린 게 아니라 조각을 잘못 골라 준 경우가 대부분이에요. 엉뚱한 조각을 받은 AI는 그 조각에 충실하게 엉뚱한 답을 씁니다. 그래서 개선할 곳도 AI가 아니라 자료를 쪼갠 방식과 찾는 방식이에요. 이걸 알면 "AI가 멍청해요"라고 항의하는 대신 정확히 어디를 고쳐 달라고 말할 수 있어요.

실제로 무너지는 지점

잘 만들어도 특정 조건에서 눈에 띄게 나빠져요. 미리 알면 자료를 준비할 때부터 피할 수 있어요.

무너지는 조건	왜 무너지나	대처
조각을 너무 크게 쪼갬	한 조각에 여러 주제가 섞여서, 뽑아도 정답 문장이 잡음에 묻혀요	주제 하나가 한 조각이 되게 나눠요. 조항·문단 단위가 무난해요
조각을 너무 작게 쪼갬	"단, 개봉 시 제외" 같은 예외 문장이 본문과 떨어져 나가요. 예외를 빠뜨린 답이 나와요	조각 경계를 조금 겹치게 잘라요. 조건절이 본문과 붙어 있게
표와 엑셀 자료	표는 가로세로가 뜻인데, 글로 자르면 행과 열의 연결이 깨져요. 가격표를 넣었는데 값이 뒤섞이는 사고가 여기서 나요	표는 조각내지 말고 한 덩어리로 넣거나, 문장으로 풀어써서 넣어요
스캔한 PDF	글자가 아니라 사진이에요. 컴퓨터가 읽을 글자가 없어서 조각이 텅 비어요	복사해서 붙여넣기가 되는지 먼저 확인해요. 안 되면 글자 추출이 먼저예요
옛 자료와 새 자료가 함께 있음	실전에서 가장 흔한 사고예요. AI는 어느 파일이 최신인지 판단하지 않아요. 둘 다 근거로 보고 둘 중 하나를 답해요	자료함에 최신본 하나만 둬요. 파일명에 날짜를 넣고, 갱신은 교체로
자료에 답이 아예 없음	찾기는 항상 무언가를 가장 가까운 것으로 골라 와요. 답이 없는 질문에도 가장 비슷한 엉뚱한 조각이 배달돼요	"자료에 없으면 모른다고 답하라"를 시스템 프롬프트에 못 박아요

규모 쪽 감도 잡아 두면 좋아요. A4 열 장 안쪽이면 만들 것도 없이 통째로 붙여넣는 편이 더 정확해요. 자료가 수백 장으로 늘어나면 골라서 넣기가 사실상 필수가 돼요. 정확한 경계는 쓰는 AI의 맥락 창 크기에 달려 있으니, 그 모델의 공식 안내에서 확인하는 게 맞아요.

사람 수도 계산에 넣어야 해요. 질문 한 번마다 찾는 비용과 답하는 비용이 같이 발생해요. 하루 열 명이 쓰던 챗봇에 하루 천 명이 들어오면 요금도 그만큼 늘어나요. 이건 사고가 아니라 구조라서, 미리 AI 비용을 계산해 두고 한도를 걸어 두는 게 정석이에요.

이럴 때는 하지 마세요

기초는 하는 법을 알려주고, 심화는 하지 말아야 할 때를 알려줘요. 아래 다섯 가지는 자료 읽히기가 답이 아닌 경우예요.

1자료가 몇 장뿐일 때. 만들 이유가 없어요. 매번 붙여넣는 게 더 정확하고 공짜예요. 자료가 늘어난 다음에 만들어도 늦지 않아요.
2숫자를 세거나 더해야 하는 일. "오늘 매출 합계", "재고 몇 개 남았나" 같은 질문은 자료를 읽혀서 풀 일이 아니에요. 데이터베이스에 물어보게 만들어야 정확해요. 찾아온 조각을 보고 계산하면 틀려요.
3자료가 하루에 여러 번 바뀔 때. 재고와 실시간 가격이 그래요. 자료함은 사본이라 원본보다 늘 늦어요. 이럴 땐 사본을 뒤지는 게 아니라 원본을 그때그때 조회하게 해야 해요.
4자료에 개인정보가 섞여 있을 때. 상담 기록이나 주문 내역을 그대로 넣으면 손님 이름과 연락처가 답에 섞여 나올 수 있어요. 넣기 전에 지워야 해요. 손님 정보와 개인정보 쪽 규칙이 먼저예요.
5틀리면 책임이 큰 답. 의료·법률·세무처럼 답이 곧 책임이 되는 영역은 근거가 붙어도 사람 확인이 필요해요. 근거 표시는 검증을 쉽게 해 주는 장치이고, 검증을 없애 주는 장치가 아니에요.

순서가 중요해요

자료 읽히기를 만들기 전에 할 일이 하나 있어요. 손님이 실제로 묻는 질문 20개를 적는 것이에요. 그 20개에 통째로 붙여넣기로 답이 나오면 만들 필요가 없어요. 20개 중 절반이 자료를 못 찾아 실패하면 그때가 만들 때예요. 순서를 거꾸로 하면 필요 없는 걸 비싸게 만들어 놓고 쓰지 않게 돼요.

사장님이 실제로 겪는 장면

장면 1 · 개발 업체가 견적서에 이렇게 썼다

“고객사 자료로 지식베이스를 구성하고 RAG 파이프라인을 붙이겠습니다. 임베딩과 벡터 검색은 별도 항목으로 산정했습니다.”

이제 해석돼요. 자료를 조각내고 좌표를 붙여 자료함을 만들고, 질문마다 관련 조각을 찾아 AI에게 건네는 구조를 만들겠다는 뜻이에요. 여기서 물어볼 것은 기술 이름이 아니라 두 가지예요. "답에 어느 문서 어느 부분을 봤는지 표시되나요?"와 "자료가 바뀔 때 제가 직접 갈아 끼울 수 있나요?" 이 둘이 안 되면 만들어 놓고 매번 업체를 불러야 해요.

장면 2 · 챗봇이 없어진 규정을 답했다

“3개월 전에 없앤 무료 교환 규정을 챗봇이 손님에게 그대로 안내했어요. 규정 파일은 새로 올렸는데요.”

AI가 옛것을 기억한 게 아니에요. 자료함에 옛 파일이 지워지지 않고 남아 있는 거예요. 새 파일을 올린 것과 옛 파일이 사라지는 것은 별개예요. 키를 새로 발급해도 옛 키가 자동으로 죽지 않는 것과 똑같은 구조의 사고예요. 자료함 목록을 열어 옛 파일부터 지우세요. 그리고 다음부터는 갱신을 추가가 아니라 교체로 하세요.

남에게 맡길 때 요구할 것

직접 만들지 않더라도 이 여섯 줄만 요구서에 넣으면 품질이 달라져요. 받을 때 확인하는 방법까지 같이 적어 뒀어요.

요구할 것	왜	받을 때 확인법
답에 근거 표시	근거가 없으면 틀렸는지 맞았는지 사장님이 알 수 없어요. 검증 불가능한 답은 쓸 수 없어요	아무 질문이나 던져 어느 문서 어디를 봤다고 나오는지 봐요
모르면 모른다고 답하기	자료에 없는 질문에 억지 답을 하는 게 사고의 절반이에요	자료에 없는 걸 일부러 물어봐요. 그럴듯한 답이 나오면 실패예요
자료 갱신을 내가 직접	규정과 가격은 계속 바뀌어요. 매번 업체를 불러야 하면 안 바꾸게 돼요	파일 하나를 직접 교체해 보고 답이 달라지는지 확인해요
자료 목록과 최신본 담당자	어떤 파일이 들어 있는지 모르면 옛 규정 사고를 못 막아요	자료함 목록 화면을 보여 달라고 해요. 목록이 없으면 위험해요
개인정보 지운 사본 사용	상담 기록을 그대로 넣으면 손님 정보가 답에 섞여 나와요	손님 이름으로 검색해 보고 아무것도 안 나와야 정상이에요
검수 질문 목록과 합격 기준	"잘 되나요"는 검수가 아니에요. 숫자가 있어야 다툼이 안 생겨요	질문 30개를 미리 주고, 몇 개 이상 맞아야 인수인지 계약에 적어요

이 목록은 외주 요구서에 그대로 붙여 쓸 수 있어요. 넘겨받을 때 자료함 접근 권한까지 같이 받아야 한다는 점은 인수인계 쪽 규칙과 같아요.

자주 묻는 것

Q. 자료를 넣었는데도 지어내요. 왜죠?: 세 가지를 순서대로 봐요. 첫째, 그 답의 근거로 어느 조각을 썼는지 봐요. 엉뚱한 조각이면 쪼개기와 찾기 문제예요. 둘째, 자료에 그 내용이 실제로 있는지 봐요. 없으면 AI가 아니라 자료가 부족한 거예요. 셋째, "자료에 없으면 모른다고 하라"는 지시가 들어 있는지 봐요. 대부분 이 셋 중 하나예요.
Q. 파일만 올려 두면 알아서 되는 건가요?: 올리는 것과 잘 찾아지는 것은 다른 일이에요. 스캔 PDF는 글자가 없어서 텅 빈 조각이 되고, 표는 조각내면 뜻이 깨져요. 올린 뒤에 질문 몇 개를 던져서 제대로 찾아오는지 확인하는 단계가 반드시 필요해요.
Q. 내 자료가 AI 회사 학습에 쓰이지는 않나요?: 쓰는 서비스마다 정책이 달라서 여기서 단정하면 안 되는 부분이에요. 계약 화면의 데이터 처리 조항을 직접 확인하거나 업체에 서면으로 물어보세요. 손님 개인정보가 들어간 자료라면 확인 전에는 넣지 않는 게 안전해요.
Q. 그럼 모델을 직접 가르치는 방법은 언제 쓰나요?: 사실을 외우게 할 때가 아니라 형식과 말투를 익히게 할 때예요. 우리 브랜드 문체로 상품 설명을 쓰게 하는 것 같은 일이요. 가격과 규정처럼 자주 바뀌는 사실은 훈련이 아니라 자료를 보게 하는 쪽이 맞아요.
Q. 자료가 여러 언어로 있으면요?: 뜻으로 찾는 방식이라 언어가 달라도 어느 정도 연결돼요. 다만 정확도는 떨어져요. 손님 응대용이면 응대할 언어의 자료를 따로 갖추는 편이 안전해요.
Q. 만들어 두면 손이 안 가나요?: 손이 가요. 규정이 바뀔 때 파일을 교체하는 일과, 새로 들어온 질문 유형을 점검하는 일이 남아요. 대신 그 손질은 개발이 아니라 서류 정리라서 사장님이 직접 할 수 있어요. 그게 이 방식의 가장 큰 장점이에요.

헷갈리기 쉬운 것

비유가 어디까지 맞나. 코팅지 비유는 "보고 답한다"까지는 정확해요. 다른 점은 알바는 코팅지를 스스로 골라 꺼내지만, AI는 누가 골라 준 조각만 봐요. 계산대에 잘못된 코팅지를 놓아 두면 알바는 이상하다고 느끼지만 AI는 그대로 읽어요. 그래서 무엇을 골라 줬는지 표시하는 장치가 그토록 중요해요.

자료를 읽히면 AI가 똑똑해지나. 아니에요. 아는 게 늘어나는 게 아니라 볼 수 있는 게 늘어나는 거예요. AI가 원래 못하는 계산이나 판단은 자료를 아무리 넣어도 그대로 못해요. 한계 자체는 AI의 한계 쪽이 따로 다뤄요.

최신 정보 문제와 같은 건가. 원인은 다르고 처방은 겹쳐요. AI가 옛 정보를 말하는 이유는 학습 시점이 지난 일을 모르기 때문이고, 내 가게 규정을 모르는 이유는 애초에 본 적이 없기 때문이에요. 둘 다 답은 같아요. 원문을 손에 들려 주는 것.

확인해 보세요

챗봇이 3개월 전에 없앤 규정을 손님에게 안내했어요. 새 규정 파일은 이미 올려 뒀어요. 원인은?

하나 더

가게 안내문이 A4 세 장이에요. 자료 읽히기를 만들어야 할까요?

마지막

받을 때 딱 하나만 확인할 수 있다면 무엇을 보겠어요?

직접 해보기

규정 원문을 붙여넣고 같은 질문을 두 번 해 보세요

먼저 자료 없이 "우리 가게 환불 며칠까지 되나요?"를 물어보세요. 그다음 환불 규정 원문을 그대로 붙여넣고 같은 질문을 하세요. 두 답을 나란히 놓고 보면 자료를 읽힌다는 게 무슨 뜻인지 설명보다 빨리 이해돼요. 이게 첫 번째 방법인 통째로 붙여넣기이고, 사장님 자료가 아직 몇 장뿐이라면 여기서 멈춰도 충분해요.

스튜디오 열기

더 깊이 (안 읽어도 괜찮아요)

찾기와 답하기는 다른 일이에요 · 이 구조에는 일꾼이 둘 있어요. 조각을 찾아오는 일꾼과 답을 쓰는 일꾼이요. 품질이 나쁠 때 어느 일꾼 잘못인지 나눠서 봐야 해요. 찾아온 조각에 정답이 들어 있는데 답이 틀렸다면 답하는 쪽 문제이고, 조각에 정답이 아예 없었다면 찾는 쪽 문제예요. 이 구분만 해도 개발자와의 대화가 훨씬 짧아져요.

뜻으로 찾기의 사각지대 · 뜻으로 찾는 방식은 고유명사와 모델명에 약해요. "A-3200과 A-3300 중 어느 게 방수인가" 같은 질문에서 두 모델의 좌표가 거의 붙어 있어서 엉뚱한 쪽을 집어 오기 쉬워요. 그래서 실무에서는 뜻으로 찾기와 글자 그대로 찾기를 같이 쓰는 경우가 많아요. 모델명과 품번이 많은 가게라면 이걸 요구서에 적어 두면 좋아요.

몇 조각을 넣을지도 선택이에요 · 조각을 많이 넣으면 정답이 포함될 확률은 올라가지만 잡음도 늘고 요금도 늘어요. 적게 넣으면 깔끔하지만 정답을 놓쳐요. 정답이 있는 값은 없고, 검수 질문 목록으로 맞춰 가는 일이에요. 그래서 검수 질문 30개가 성능을 재는 자이자 조정하는 자예요.

자료 자체가 답할 수 없게 쓰여 있을 때 · 가장 자주 만나는 진짜 원인이에요. 사람끼리는 통하지만 문서에는 안 적힌 규칙이 많아요. "단골은 알아서 해 드린다" 같은 것이요. 자료에 없는 건 어떤 방법으로도 나오지 않아요. 이 작업의 절반은 기술이 아니라 그동안 머릿속에만 있던 규칙을 문서로 적는 일이에요. 그 문서는 나중에 직원 교육에도 그대로 쓰여요.

이것만 기억하세요

·AI 머리를 고치는 게 아니라 답할 자료를 손에 들려 주는 거예요
·자료가 몇 장이면 통째로 붙여넣기가 더 정확하고 공짜예요
·답이 틀리면 대개 AI가 아니라 조각을 잘못 골라 준 거예요
·옛 파일을 지우지 않는 것이 가장 흔한 사고예요. 갱신은 교체로
·맡길 때 딱 두 개를 요구하세요. 근거 표시, 그리고 내가 직접 자료 교체