AI 모델이란
사람이 평생 읽어도 못 읽을 양의 글을 읽고 "다음에 올 말"을 고르는 법만 익힌 프로그램이에요. 뜻을 알아서 답하는 게 아니라 가장 그럴듯한 말을 골라요.
쉽게 말하면
가게에서 20년 주문을 받아 온 직원을 떠올려 보세요. 손님이 "저기, 그거..." 하고 말을 흐리면 "아이스로 드릴까요?" 하고 먼저 알아맞혀요. 그 직원이 손님 속을 읽은 건 아니에요. 그 상황에서 그 말이 제일 많이 나왔던 걸 몸으로 기억하는 거죠. AI 모델도 똑같아요. 사람이 평생 읽어도 못 읽을 양의 글을 읽으면서 "이런 말 다음에는 이런 말이 온다"를 익힌 프로그램이에요.
모델 속에서 실제로 무슨 일이 벌어지는지는 만든 사람들도 다 밝혀내지 못했어요. 하지만 겉으로 하는 동작은 분명해요. 다음에 올 말을 고르는 것, 그 하나예요. 이 한 줄만 붙잡고 있으면 AI가 왜 그렇게 행동하는지 대부분 설명돼요.
이렇게 믿으면 틀린 답을 봐도 "AI가 그렇다니 맞겠지" 하고 넘겨요. 사고는 여기서 나요.
그럴듯한 것과 맞는 것은 대체로 겹쳐요. 항상 겹치지는 않아요. 그래서 확인이 필요해요.
모델은 이렇게 만들어져요
AI는 만드는 시간과 쓰는 시간이 완전히 나뉘어 있어요. 이 구분 하나만 알아 두면 뒤에 나오는 얘기가 전부 쉬워져요.
- 1읽히기. 엄청난 양의 글을 넣고 문장 뒷부분을 가려요. 모델이 가려진 말을 맞혀 보고, 틀린 만큼 내부 숫자를 아주 조금 고쳐요. 이걸 사람이 셀 수 없을 만큼 반복해요.
- 2다듬기. 그다음엔 사람이 참여해요. 같은 질문에 답을 여러 개 내게 하고 더 나은 쪽을 골라 줘요. 모델은 그 취향까지 배워요. 요즘 AI가 말투가 공손하고 위험한 요청을 거절하는 건 여기서 배운 거예요.
- 3굳히기. 다 배우면 결과가 숫자 덩어리로 굳어요. 이 굳은 덩어리가 바로 모델이에요. 여기서 학습은 끝나요.
- 4쓰기. 사장님이 질문을 넣으면 모델은 굳은 숫자로 계산만 해요. 이때 새로 배우는 건 하나도 없어요.
여기가 가장 많이 오해받는 곳
대화 중에 알려 준 내용을 모델이 배우는 게 아니에요. 그 대화 안에서만 기억하는 것처럼 보이고, 창을 닫으면 사라져요. 어떤 서비스는 사장님 정보를 따로 저장해 두고 다음에 다시 넣어 주는데, 그건 그 서비스가 대신 챙겨 주는 기능이에요. 모델이 배운 게 아니에요.
그래서 이런 성질이 나와요
아래 다섯 줄은 서로 다른 얘기가 아니에요. 전부 "미리 다 배워서 굳었고, 다음 말을 고른다"는 한 가지 사실에서 나온 결과예요.
| 성질 | 무슨 뜻인가 | 가게에서는 이렇게 나타나요 |
|---|---|---|
| 지식 기준일 | 학습을 끝낸 시점이 있어요. 그 뒤에 생긴 일은 몰라요 | 지난달 바뀐 규정이나 어제 올린 우리 신메뉴를 몰라요 |
| 한 번에 보는 분량 | 한 대화에서 다룰 수 있는 글 분량에 상한이 있어요 | 아주 긴 자료를 통째로 넣으면 앞부분을 놓칠 수 있어요 |
| 답이 매번 조금씩 달라요 | 후보 여러 개 중에서 골라 쓰기 때문이에요 | 같은 요청을 두 번 넣어도 문장이 똑같지 않아요 |
| 모르는 것도 그럴듯하게 말해요 | 다음 말을 고르는 구조라, 빈칸을 그냥 비워 두지 못해요 | 없는 규정이나 없는 가게 정보를 지어내요. 지어내기 참고 |
| 잘 못하는 영역이 있어요 | 글을 고르는 데 특화돼 있어요. 정확한 셈이나 오늘 시세는 약해요 | 숫자 계산은 계산기로 다시 확인하세요 |
이 표가 사실상 AI 사용 설명서예요. "왜 이걸 못 해?"라는 물음의 답이 거의 다 여기 있어요.
모델은 한 종류가 아니에요
모델은 하나가 아니에요. 같은 회사에서도 큰 모델과 작은 모델을 나란히 팔아요. 자동차에 경차와 트럭이 있는 것과 같아요. 어느 쪽이 좋은 게 아니라 짐이 다른 거예요.
| 따져 볼 것 | 큰 모델 | 작은 모델 |
|---|---|---|
| 잘하는 일 | 어려운 판단, 긴 글, 복잡한 만들기 | 짧은 분류, 요약, 정해진 답 고르기 |
| 속도 | 느려요. 생각하는 시간이 길어요 | 빨라요. 거의 바로 나와요 |
| 요금 | 비싸요 | 훨씬 싸요 |
| 어울리는 자리 | 사장님이 직접 검토하는 중요한 작업 | 손님 문의에 즉시 답해야 하는 자리 |
그래서 잘 만든 서비스는 자리마다 다른 모델을 씁니다. 손님 문의 분류는 작은 모델에 맡기고, 답변 초안은 큰 모델에 맡기는 식이에요. 전부 큰 모델로 돌리면 요금이 몇 배로 뜁니다. AI 요금에서 이 계산을 다뤄요.
사장님이 실제로 겪는 장면
장면 1 · 외주 개발자가 말했다
“문의 분류는 가벼운 모델로 돌리고, 답변 쓰는 것만 좋은 모델로 부를게요. 그게 요금이 훨씬 싸요.”
정상적인 설계예요. 등급을 섞어 쓰는 건 아끼려고 품질을 깎는 게 아니라, 쉬운 일에 비싼 사람을 붙이지 않는 것이에요. 다만 어느 자리에 어느 모델을 썼는지는 기록으로 남겨 달라고 하세요. 나중에 답이 이상할 때 어디를 볼지 바로 알 수 있어요.
장면 2 · AI가 우리 가게 신메뉴를 모른다
“우리 가게 신메뉴를 물었는데 엉뚱한 걸 말해요. 홈페이지에는 올려 뒀는데요.”
고장이 아니에요. 모델은 학습을 끝낸 뒤로 새로 배우지 못해요. 홈페이지는 사람이 보는 곳이고, 모델이 알아서 읽어 오는 게 아니에요. 해결은 하나예요. 물어볼 때 메뉴 자료를 같이 넣어 주는 것. 이렇게 자료를 함께 건네는 방법이 프롬프트예요.
이름이 비슷해서 헷갈리는 것
모델과 서비스는 달라요. 모델은 엔진이고, 사장님이 화면에서 쓰는 챗봇은 그 엔진을 올린 자동차예요. 같은 엔진으로 여러 회사가 서로 다른 차를 만들어요. 그래서 같은 모델을 쓰는데도 서비스마다 답이 다르게 느껴져요.
모델과 프롬프트도 달라요. 모델을 바꾸는 건 엔진을 갈아 끼우는 일이라 돈과 시간이 들어요. 프롬프트는 사장님이 지금 당장 고칠 수 있어요. 답이 마음에 안 들 때 손볼 순서는 프롬프트가 먼저예요. 모델 탓은 맨 나중에 해도 늦지 않아요.
글자 수와 [[token|토큰]]도 달라요. 모델은 글을 글자 단위가 아니라 조각 단위로 잘라서 세요. 요금은 그 조각 수로 붙어요. 그래서 "몇 자까지 되나요?"라는 질문에는 정확히 답하기 어려워요.
확인해 보세요
어제 우리 가게 가격을 올렸어요. AI에게 물으니 옛 가격을 말해요. 왜 그럴까요?
하나 더
똑같은 요청을 두 번 넣었더니 답이 조금 다르게 나왔어요.
직접 해보기
같은 질문을 두 번 던져 보세요
스튜디오 채팅에 짧은 질문 하나를 넣고, 똑같은 문장을 한 번 더 넣어 보세요. 답이 미묘하게 다르게 나오는 걸 눈으로 보면 "확률로 고른다"는 말이 손에 잡혀요. 무언가 만들기를 시작하지 않아도 되고, 질문만 해 봐도 충분해요.
스튜디오 열기더 깊이 (안 읽어도 괜찮아요)
다음 말 고르기만으로 왜 이렇게 잘하나 · 다음 말을 정확히 고르려면 문법도 알아야 하고, 세상 상식도 알아야 하고, 앞에서 무슨 얘기가 나왔는지도 붙잡고 있어야 해요. 그러니까 다음 말 맞히기를 아주 잘하도록 훈련하면, 그 능력들이 덤으로 따라와요. 사람들이 이걸 미리 알고 설계한 게 아니라, 크게 만들어 보니 그렇게 되더라는 게 지금 AI 열풍의 출발점이에요.
"모델이 크다"는 게 무슨 뜻인가 · 학습으로 얻은 내부 숫자의 개수를 말해요. 이 숫자들이 모델의 전 재산이에요. 크면 대체로 더 똑똑하지만 느리고 비싸요. 최근에는 작게 만들고 훈련을 잘해서 큰 모델을 따라잡는 흐름도 뚜렷해요. 그래서 "큰 게 무조건 낫다"는 이제 맞는 말이 아니에요.
왜 모르는 걸 모른다고 안 하나 · 구조상 "모릅니다"라고 답하고 멈추는 선택지가 약해요. 다음 말을 고르는 기계라서, 뭐라도 고르는 쪽으로 기울어요. 훈련으로 많이 나아졌지만 완전히 없어지지는 않았어요. 그래서 숫자·날짜·법 규정처럼 틀리면 손해가 나는 것은 사람이 확인하는 습관이 필요해요.
이것만 기억하세요
- ·AI 모델은 다음에 올 말을 고르는 법을 익힌 프로그램이에요
- ·배우는 시간과 쓰는 시간이 나뉘어요. 대화 내용으로 다시 배우지 않아요
- ·그래서 최신 소식과 우리 가게 사정은 몰라요. 물어볼 때 같이 넣어 주세요
- ·같은 질문에 답이 조금씩 다른 건 정상이에요
- ·모델은 등급이 여러 개예요. 자리에 맞는 등급을 쓰면 요금이 크게 줄어요