콘텐츠 필터
멀쩡한 요청이 막히는 이유예요. 필터는 속뜻이 아니라 겉에 드러난 말을 보고 판정해요. 알면 우회가 아니라 다시 쓸 수 있어요.
쉽게 말하면
택배 접수 창구에 붙은 금지 품목 목록을 떠올려 보세요. 접수원은 상자를 열지 않아요. 송장에 적힌 품목명만 보고 목록과 맞춰 봐요. 그래서 안에 든 게 물티슈인데 송장에 스프레이라고 적으면 반려돼요. 반대로 품목명을 순하게 적으면 그냥 접수되기도 해요. 콘텐츠 필터가 정확히 이 접수원이에요. 요청의 속뜻이 아니라 겉에 드러난 말과 나온 결과물을 보고 판정해요.
그래서 필터에 걸린 요청은 나쁜 요청이 아니에요. 판정하는 쪽이 읽은 겉모습이 위험해 보였다는 뜻이에요. 이 한 가지를 알면 다음에 할 일이 정해져요. 뜻은 그대로 두고 겉모습을 바꿔 다시 내는 거예요.
필터는 사정을 들어 주는 창구가 아니에요. 설명을 붙이면 요청만 길어지고 걸린 낱말은 그 자리에 그대로 남아요. 글자를 쪼개 넣는 쪽은 이용약관이 막는 행동이라 계정이 제한될 수 있어요.
걸린 자리를 찾아 바꾸면 같은 목적의 요청이 그대로 통과해요. 세 번 바꿔도 같으면 그건 겉모습이 아니라 정말 안 되는 일이라는 신호라, 그것도 알아낸 값이에요.
필터는 요청 앞과 결과 뒤, 두 군데에 서 있어요
필터는 AI 안에 있는 게 아니에요. AI를 감싸고 있는 별도의 검사 층이에요. 검사가 어느 자리에 서 있느냐에 따라 사장님 화면에 보이는 증상이 달라져요.
| 검사가 서 있는 자리 | 이렇게 보여요 | 사장님이 할 일 |
|---|---|---|
| 요청 앞 검사 | 보내자마자 막혀요. AI가 답을 시작하지도 않아요 | 요청에 든 낱말을 바꿔요. 대개 한두 낱말이 원인이에요 |
| 결과 뒤 검사 | 답이 나오다 중간에서 끊기거나, 아무 말도 없는 빈 답이 와요 | 주제는 그대로 두고 결과의 방향을 좁혀서 다시 시켜요 |
| AI 자신의 판단 | "그건 도와드릴 수 없어요" 처럼 문장으로 이유를 말해 줘요 | 이건 필터가 아니라 거절이에요. AI가 거절할 때 순서를 따라요 |
| 그림과 영상 쪽 검사 | 설명은 통과했는데 그림만 안 나와요. 글보다 기준이 좁아요 | 사람 얼굴, 실제 상표, 유명인 지시를 빼요. 원하는 그림을 얻는 말에 요령이 있어요 |
| 우리가 직접 만든 검사 | 손님 입력을 우리 코드가 먼저 걸러요. 우리가 정한 규칙이에요 | 기준을 우리가 정하니 안내 문구도 우리 말로 쓸 수 있어요 |
빈 답과 거절은 다른 신호예요
문장으로 이유를 말해 주면 거절이고, 아무 말 없이 끊기거나 비어 있으면 필터예요. 이 둘을 섞으면 엉뚱한 데를 고쳐요. 거절은 목적을 밝히면 풀리는 쪽이고, 필터는 걸린 낱말을 바꿔야 풀리는 쪽이에요.
멀쩡한 요청이 걸리는 자리
실제로 사장님이 걸리는 자리는 몇 군데로 정해져 있어요. 아래에서 내 업종에 해당하는 줄을 찾으면 원인이 거의 나와요.
| 걸리는 자리 | 실제로 이런 요청 | 바꾸는 방법 |
|---|---|---|
| 업종 자체가 규제 품목 | 주류, 담배, 성인용품, 의료기기를 파는 가게예요. 품목 이름만으로 판정이 까다로워져요 | 품목 설명 대신 매장 안내, 이용 조건, 연령 확인 절차 쪽으로 요청을 돌려요 |
| 효능과 수익을 단정하는 말 | "3일에 5킬로", "원금 보장", "통증이 낫는" 같은 문구를 넣었을 때예요 | 사실만 적는 문구로 바꿔요. 이건 필터를 지나도 규정에 걸려요. 광고에 쓰면 안 되는 말을 같이 보세요 |
| 상대를 겨누는 말투 | "경쟁 가게 저격", "박살내는 문구" 처럼 장사판에서 흔한 표현이에요 | 문자 그대로 읽히면 공격으로 판정돼요. 뜻은 그대로 두고 순한 말로 바꿔요 |
| 남의 이름과 상표 | 유명인, 브랜드, 캐릭터를 그대로 넣어 달라고 했을 때예요 | 이건 겉모습 문제가 아니에요. 내 것으로 바꿔야 해요. 저작권과 이미지 쪽 이야기예요 |
| 손님이 쓴 글을 그대로 붙였을 때 | 항의 메일이나 상담 기록을 통째로 붙이면 그 안의 험한 말이 내 요청으로 읽혀요 | 인용할 부분을 요약하고 험한 낱말과 개인정보를 지운 뒤에 넣어요 |
| 긴 요청 안의 한 조각 | 열 가지를 한 번에 시켰는데 그중 한 줄이 걸려서 전체가 막혀요 | 요청을 쪼개면 걸린 조각이 바로 보여요. 한 번에 너무 많이 시키기와 같은 증상이에요 |
장면 1 · 필라테스 학원을 하는 사장님이 겪은 일
“수업 소개 문구를 만들어 달라고 했는데 보내자마자 막혔어요. 그냥 운동 소개인데요.”
요청 안에 "몸매 교정" 과 "살 빼는" 이 같이 들어 있었어요. 몸과 체중을 다루는 말은 판정이 까다로운 쪽이라 두 낱말이 겹치면서 위험한 주제로 읽혔어요. "자세를 바로잡는 수업", "주 2회 60분 수업" 처럼 사실만 적는 문구로 바꾸면 바로 나와요. 그리고 바꾼 문구가 광고 규정 쪽에서도 더 안전해요.
막혔을 때 다시 쓰는 순서
- 1어디서 막혔는지부터 봐요. 보내자마자 막혔으면 요청 쪽 검사, 답이 나오다 끊겼으면 결과 쪽 검사예요. 이 한 가지로 고칠 자리가 반으로 좁아져요.
- 2요청을 세 조각으로 쪼개요. 열 줄짜리 요청은 어디가 걸렸는지 알 수가 없어요. 조각을 하나씩 보내면 걸린 조각이 한 번에 드러나요.
- 3걸린 조각에서 낱말을 바꿔요. 뜻은 그대로 두고 말만 순하게요. 죽이는, 박살, 폭탄 같은 말은 장사판에서 칭찬이지만 필터는 문자 그대로 읽어요.
- 4목적과 쓰임을 앞에 한 줄 적어요. "동네 학원 수업 소개 문구예요" 처럼요. 필터를 설득하는 장치가 아니라, AI가 안전한 방향으로 답을 만들게 하는 장치예요.
- 5세 번 바꿔도 같으면 멈춰요. 여기서부터는 겉모습 문제가 아니에요. 요청 자체를 바꾸거나 사람이 쓰는 쪽으로 방향을 트는 편이 훨씬 싸요.
글자를 쪼개 통과시키는 방법은 쓰지 마세요
낱말 사이에 점을 넣거나 글자를 바꿔 통과시키는 방법은 이용약관이 막는 행동이에요. 통과해도 결과 품질이 나쁘고, 계정이 제한되면 만들던 것까지 멈춰요. 상업 이용에서 어디까지가 선인지는 AI 서비스 약관(상업 이용)에 정리돼 있어요.
확인해 보세요
요청을 보내자마자 막혔어요. 가장 먼저 할 일은?
손님이 쓰는 화면에는 필터를 미리 준비해요
여기가 이 문서를 중급으로 두는 이유예요. 혼자 쓸 때 필터는 불편이지만, 손님이 쓰는 화면에서 필터는 고장으로 보여요. 손님은 왜 막혔는지 모르고 그냥 나가요.
| 언제 생기나 | 손님 화면에 보이는 것 | 미리 만들어 둘 것 |
|---|---|---|
| 손님이 험한 말을 넣었을 때 | 답이 안 오고 화면이 그대로 멈춰요 | "이 내용으로는 답을 만들 수 없어요" 같은 안내와 다시 쓰기 버튼이요 |
| 손님이 상담 내용을 길게 붙였을 때 | 빈 답이 와서 고장 난 것처럼 보여요 | 빈 답도 하나의 답으로 받아 안내를 띄워요. 아무것도 없을 때 화면과 같은 이야기예요 |
| 우리가 만든 결과가 걸렸을 때 | 절반만 나오고 문장 중간에서 끊겨요 | 끊긴 답을 손님에게 그대로 보여주지 않고 다시 시도 안내로 바꿔요 |
| 손님이 남의 이름을 넣어 그림을 시켰을 때 | 그림 자리만 비어 있어요 | 만들기 전에 입력 규칙을 한 줄 보여줘요. 막힌 뒤에 설명하면 늦어요 |
| 같은 손님이 계속 막힐 때 | 손님은 서비스가 망가졌다고 판단해요 | 두세 번 막히면 사람에게 연결되는 길을 열어요. 손님 응대와 불만 쪽 준비예요 |
직접 해보기
막혔던 주문을 쪼개서 다시 내 보세요
막혔던 요청을 그대로 다시 넣지 말고, 세 조각으로 쪼개 하나씩 넣어 보세요. 어느 조각이 걸리는지 눈으로 확인하는 게 이 문서에서 가장 값나가는 30초예요. 걸린 조각을 찾았으면 그 안의 낱말 하나만 바꿔 다시 넣어요.
스튜디오에서 쪼개 보기장면 2 · 문의 챗봇을 연 사장님이 겪은 일
“손님이 화가 나서 욕을 섞어 문의했더니 챗봇이 아무 말도 안 하고 멈췄어요. 그 손님이 제일 크게 화가 났어요.”
손님 글이 필터에 걸렸는데 화면에 막혔다는 안내가 없었던 거예요. 필터가 답을 안 준 것과 챗봇이 고장 난 것은 손님 눈에 똑같아요. 답이 비어 있을 때 무엇을 보여줄지 정해 두면 이 상황이 사고가 아니라 정상 경로가 돼요. 화난 손님일수록 걸릴 말을 쓰기 쉬워서, 사람에게 연결되는 버튼이 바로 이 자리에 있어야 해요.
헷갈리기 쉬운 것
이 주제는 이름이 비슷한 것들이 많아 자주 뭉쳐요. 다섯 가지를 갈라 두면 엉뚱한 데를 고치지 않아요.
| 뭉치기 쉬운 것 | 실제로 어떻게 다른가 |
|---|---|
| 필터와 거절 | 필터는 요청과 결과를 겉모습으로 걸러요. 거절은 AI가 문장으로 이유를 말하며 안 하겠다고 한 거예요. 고칠 자리가 달라서 AI가 거절할 때와 나란히 읽으면 갈라져요 |
| 필터와 못 하는 일 | 필터는 할 수 있는데 막은 거예요. 오늘 시세나 우리 가게 매출은 애초에 AI 바깥에 있어서 막힌 게 아니라 없는 거예요. AI가 못 하는 것 쪽이에요 |
| 필터와 지어낸 답 | 막힌 것과 틀린 것은 반대예요. 필터는 답을 안 주고, 지어낸 답은 그럴듯하게 줘요. 장사에 더 위험한 쪽은 뒤예요. 할루시네이션을 보세요 |
| 필터와 손님의 공격 | 필터는 우리를 막는 층이고, 손님이 우리 규칙을 뚫는 건 반대 방향이에요. 챗봇을 열면 둘 다 만나요. AI를 속이는 공격과 짝으로 읽어요 |
| 필터 통과와 광고 허가 | AI가 통과시킨 문구도 광고 규정에는 걸릴 수 있어요. 필터는 도구의 기준이고 규정은 법이에요. 광고 표시 규칙은 따로 지켜야 해요 |
자주 묻는 것
- Q. 필터 기준을 목록으로 볼 수 있나요?
- 쓰는 도구마다 다르고, 어느 낱말이 걸리는지 목록으로 공개하는 곳은 거의 없어요. 목록이 공개되면 그대로 우회하는 데 쓰이니까요. 그래서 기준을 외우는 대신 막혔을 때 쪼개서 찾는 방법을 익히는 편이 실전에서 빨라요.
- Q. 어제 되던 게 오늘 막혀요. 기준이 바뀐 건가요?
- 기준이 조정되기도 하고, 같은 요청에도 판정이 조금씩 흔들리기도 해요. AI는 매번 답을 새로 만들기 때문에 결과 쪽 검사에서 특히 그래요. 그래서 한 번 통과한 요청도 다음에 막힐 수 있어요. 손님이 쓰는 기능이라면 이 흔들림을 전제로 안내 문구를 만들어 둬야 해요.
- Q. 다른 AI 도구로 바꾸면 되나요?
- 겉모습 때문에 걸린 요청은 다른 도구에서 통과되기도 해요. 다만 남의 상표나 법이 걸린 요청은 도구를 바꿔도 결과물을 장사에 쓴 책임이 사장님에게 남아요. 통과 여부와 안전 여부는 다른 문제예요.
- Q. 우리 서비스에도 필터를 따로 붙여야 하나요?
- 손님이 자유롭게 글을 넣는 화면이 있으면 붙이는 쪽이 나아요. 우리가 정한 금지 낱말과 길이 제한을 먼저 걸면 AI까지 가지 않고 우리 안내 문구로 돌려줄 수 있어요. 요금도 아끼고 손님도 이유를 알게 돼요.
- Q. 필터에 막힌 요청도 요금이 나가나요?
- 도구마다 달라요. 요청 앞에서 막히면 안 나가는 경우가 많고, 답을 만들다 결과 쪽에서 끊기면 만든 만큼 계산되는 경우가 있어요. 확실한 건 이용 내역에서 확인하는 것이고, 같은 요청을 반복해 넣는 것이 요금이 새는 자리예요.
- Q. 막힌 기록을 남겨야 하나요?
- 남기는 편이 좋아요. 무엇이 막혔는지 모아 보면 손님이 실제로 쓰는 말이 보이고, 안내 문구를 어디에 넣을지 정할 수 있어요. 다만 손님이 쓴 글에는 개인정보가 섞이기 쉬워서 보관 기간을 먼저 정해 두세요.
하나 더
문의 챗봇에서 답이 비어서 오는 일이 종종 있어요. 가장 먼저 만들 것은?
더 깊이 (안 읽어도 괜찮아요)
필터는 뜻을 읽는 게 아니라 종류로 점수를 매겨요 · 검사 층은 요청과 결과를 몇 가지 종류로 나눠 두고, 각 종류에 얼마나 가까운지 점수를 매겨요. 점수가 선을 넘으면 막아요. 그래서 뜻이 착한지 나쁜지가 아니라 어느 종류에 가까워 보이는지가 판정을 정해요. 몸, 체중, 약, 무기, 돈을 다루는 말이 자주 걸리는 이유가 이거예요. 그 종류 근처에 있는 낱말이기 때문이에요. 뜻은 그대로 두고 낱말만 바꿨는데 통과하는 것도 같은 이유예요.
선 가까이 있는 요청은 결과가 매번 달라요 · 점수가 선에서 멀면 늘 통과하고, 아주 가까우면 늘 막혀요. 문제는 선 근처예요. AI는 매번 답을 새로 만들기 때문에 결과 쪽 점수가 조금씩 흔들려요. 그래서 열 번 중 몇 번만 막히는 요청이 생겨요. 이건 운이 아니라 위치예요. 반복해 넣어 통과시키는 대신 선에서 멀어지게 요청을 고치는 것이 다음에도 같은 결과를 얻는 유일한 방법이에요.
손님 입력은 우리 규칙과 합쳐져서 함께 검사받아요 · 손님이 챗봇에 쓴 글은 우리가 미리 정한 지시문과 합쳐져 한 덩어리로 검사를 받아요. 손님이 험한 말을 쓰면 우리 지시문까지 같이 막히는 셈이에요. 여기서 두 가지가 나와요. 첫째로 손님 입력을 우리 코드가 먼저 훑어 길이와 금지 낱말을 걸러 두는 게 이득이에요. 둘째로 손님 글을 지시문과 섞지 않고 자료로 구분해 넣는 편이 안전해요. 뒤쪽은 AI를 속이는 공격과 뿌리가 같은 이야기예요.
필터 통과는 광고 허가가 아니에요 · AI가 만들어 준 문구가 필터를 지났다는 건 그 도구의 기준을 넘었다는 뜻일 뿐이에요. 효능을 단정한 문구, 최저가 같은 단정, 후기처럼 보이게 쓴 광고는 필터를 지나도 규정 위반이에요. 그리고 그 책임은 도구가 아니라 게시한 사장님에게 와요. 손님에게 보이는 문구는 필터와 별도로 눈으로 한 번 더 보고 올리세요.
손님에게 보일 안내 문구는 세 줄로 정해 둬요 · 막혔을 때 화면에 뭐라고 쓸지 미리 정해 두면 급할 때 고민하지 않아요. 첫 줄은 무슨 일이 생겼는지예요. 답을 만들 수 없었다는 사실만 담백하게 적어요. 둘째 줄은 손님이 지금 할 수 있는 일이에요. 다시 써 보기 버튼이나 표현을 바꿔 달라는 부탁이요. 셋째 줄은 그래도 안 될 때 갈 곳이에요. 사람에게 연결되는 길이요. 이 세 줄이 있으면 필터가 사고가 아니라 흐름의 한 갈래가 돼요.
이것만 기억하세요
- ·필터는 AI 안이 아니라 AI를 감싼 별도 검사 층이에요. 요청 앞과 결과 뒤에 각각 서 있어요
- ·문장으로 이유를 말하면 거절이고, 끊기거나 비어 있으면 필터예요. 고칠 자리가 달라요
- ·막혔으면 요청을 세 조각으로 쪼개 걸린 조각을 찾고, 그 안의 낱말만 바꿔요
- ·손님이 쓰는 화면에서는 빈 답도 정상 경로예요. 안내 문구와 사람 연결을 미리 만들어요
- ·글자를 쪼개 통과시키는 건 품질도 계정도 잃어요. 세 번 바꿔도 같으면 방향을 틀어요