검색 로봇에게 지도 주기

내 사이트에 어떤 화면이 있는지 한 파일에 목록으로 적어 검색엔진에 건네는 일이에요. 순위를 올려 주지는 않지만, 새로 만든 화면이 발견되기까지 걸리는 시간을 크게 줄여 줘요.

쉽게 말하면

가게가 3층 건물이라고 해 봐요. 손님은 1층 입구까지는 잘 들어오는데, 3층 상담실이 있다는 건 모르고 돌아가요. 그래서 사장님은 입구에 층별 안내도를 세우죠. "2층 시술실, 3층 상담실, 3층은 지난주에 새로 꾸몄어요"까지 적어서요. 검색 로봇도 이 손님과 똑같아요. 첫 화면만 보고 돌아가면 안쪽 화면은 세상에 없는 것이 돼요. 화면 목록 파일이 입구에 세우는 그 안내도예요.

이 파일의 실제 이름은 보통 sitemap.xml 이에요. 내 주소 뒤에 붙여서 `내가게주소/sitemap.xml` 로 열면 사람도 볼 수 있어요. 예쁘게 안 보이는 게 정상이에요. 사람이 읽는 화면이 아니라 기계가 읽는 목록이라서요.

목록이 없을 때
로봇: 첫 화면 읽음 (첫 화면에 링크된 곳까지만 따라감) 가격표·예약·후기 화면 = 미발견

로봇은 링크를 따라서만 돌아다녀요. 메뉴 안쪽에 있거나 어디에도 링크되지 않은 화면은 몇 주가 지나도 발견되지 않아요.

목록을 건넸을 때
로봇: 목록 파일 읽음 화면 8개 주소 + 마지막 수정 날짜 → 8개를 차례로 방문

"여기 화면이 여덟 개 있어요"를 한 번에 알려 줘요. 링크를 따라 헤매는 단계를 건너뛰니 발견이 빨라져요.

검색에 뜨게 하기에서 검색이 수집 · 색인 · 순위 세 단계로 진행된다고 했어요. 이 문서는 그중 첫 단계 하나만 다뤄요. 목록 파일은 순위를 건드리는 장치가 아니라, 1단계에서 막혀 있는 화면을 통과시키는 장치예요.

이 파일 안에 실제로 뭐가 들어 있나

칸이 네 개뿐이에요. 그중 반드시 있어야 하는 건 하나고, 나머지 셋은 있어도 검색엔진이 별로 안 봐요. 이걸 알면 어디에 힘을 쓸지가 정해져요.

적는 칸무엇을 적나검색엔진이 얼마나 보나
주소화면 하나의 전체 주소를 https 부터 끝까지 적어요. 이 칸만 필수예요전부 봐요. 목록의 존재 이유가 이 칸이에요
마지막 수정 날짜그 화면을 마지막으로 고친 날짜예요날짜가 정확하게 관리될 때만 참고해요. 안 고쳤는데 매번 오늘로 찍히면 신뢰를 잃고 무시돼요
변경 주기이 화면이 매일 바뀌는지 한 해에 한 번 바뀌는지 적는 칸이에요구글은 사실상 쓰지 않는다고 자기 안내 문서에 밝혀 뒀어요
중요도0에서 1 사이 숫자로 내 사이트 안에서의 서열을 적는 칸이에요역시 거의 안 봐요. 내 사이트 안의 서열이라 다른 가게와의 순위와는 상관이 없어요

여기서 힘 빼지 마세요

중요도 칸에 전부 1.0 을 박아 넣는 분이 많아요. 아무 일도 안 일어나요. 모두가 1등이라고 적힌 목록은 서열이 없는 목록과 같아요. 목록 파일의 품질은 딱 하나로 결정돼요. 살아 있는 화면 주소가 빠짐없이, 오탈자 없이, 대표 주소 하나로 적혀 있는가.

규모 감도 잡아 둘게요. 표준상 한 파일에 주소 5만 개, 압축하지 않은 파일 크기 50MB 까지 담을 수 있어요. 넘으면 파일을 여러 개로 나누고 "목록의 목록"을 하나 더 둬요. 상품이 수만 개인 쇼핑몰이 아니면 만날 일이 없는 한도예요. 정확한 수치는 쓰는 검색엔진의 공식 안내 문서에서 확인하는 게 맞아요.

언제 효과가 크고, 언제 없나

"사이트맵 넣으면 검색 잘 된다"는 말은 절반만 맞아요. 내 사이트 모양에 따라 효과가 극과 극이에요. 아래 표에서 내 경우를 먼저 찾으세요.

내 사이트 모습목록 파일의 효과이유
화면이 한 장뿐인 한 장 소개 화면거의 없어요찾을 화면이 하나뿐이라 안내도가 필요 없어요. 이때 할 일은 목록이 아니라 주소를 세상에 알리는 일이에요
방금 만들어 아무도 링크하지 않은 사이트가장 커요로봇은 링크를 따라 옵니다. 들어오는 링크가 하나도 없으면 목록을 직접 건네는 게 사실상 유일한 통로예요
화면이 열 장을 넘고 메뉴가 깊은 사이트커요메뉴를 세 번 눌러 들어가는 화면은 로봇도 늦게 도착해요. 여러 페이지로 나눈 사이트가 여기예요
상품이나 글이 계속 늘어나는 사이트커요새 화면이 생길 때마다 목록이 자동으로 갱신되면, 올린 날 발견되는 것과 한 달 뒤 발견되는 것의 차이가 나요
화면끼리 링크가 촘촘한 작은 사이트작아요첫 화면에서 모든 화면으로 두 번 안에 갈 수 있으면 로봇도 알아서 다 돌아요. 넣어서 손해는 없지만 극적인 변화도 없어요
순위를 올리고 싶은 경우없어요목록은 발견을 돕는 장치예요. 순위는 화면에 무엇이 적혀 있는지의 문제라 검색에 뜨게 하기 쪽 일이에요

가장 흔한 오해

목록을 제출하면 그 화면이 반드시 검색에 실리는 게 아니에요. 목록은 초대장이고, 실을지 말지는 검색엔진이 정해요. 내용이 거의 없는 화면, 다른 화면과 내용이 같은 화면은 발견되고도 안 실려요. 제출은 "여기 있어요"까지고, "실어 주세요"가 아니에요.

짝이 되는 파일이 하나 더 있어요

목록 파일과 항상 같이 나오는 이름이 robots.txt 예요. 둘을 혼동하면 사고가 나요. 하는 일이 정반대라서요.

파일무슨 말을 하는 파일인가가게로 치면
sitemap.xml"우리 집에 이런 화면들이 있어요"라고 알려 줘요. 초대하는 쪽이에요입구에 세운 층별 안내도
robots.txt"여기는 들어오지 마세요"라고 부탁해요. 막는 쪽이에요직원 전용 문에 붙인 "관계자 외 출입 금지" 종이

그리고 robots.txt 안에 목록 파일이 어디 있는지 한 줄로 적어 둘 수 있어요. 로봇이 어느 집에 가든 이 파일부터 확인하는 습관이 있어서, 여기 한 줄이 목록을 발견시키는 가장 값싼 방법이에요. 검색엔진마다 따로 제출하지 않아도 이 줄만으로 찾아가는 경우가 많아요.

막는 것과 감추는 것은 달라요

robots.txt 로 막으면 로봇이 그 화면을 읽지 않을 뿐이에요. 검색 결과에서 사라지는 게 아니에요. 다른 곳에 그 주소 링크가 있으면 내용 없이 주소만 결과에 뜰 수 있어요. 검색에서 정말 빼려면 그 화면 자체에 "색인하지 말라"는 표시를 넣어야 하고, 그 표시를 로봇이 읽으려면 그 화면이 robots.txt 로 막혀 있지 않아야 해요. 둘을 동시에 걸면 서로를 방해해서 아무것도 안 돼요. 순서를 잘 봐야 하는 대표적인 지점이에요.

하나 더 있어요. robots.txt 는 누구나 열어 볼 수 있는 공개 파일이에요. 여기에 "관리자 화면은 들어오지 마세요"라고 적으면, 관리자 화면 주소를 세상에 공개하는 셈이 돼요. 사람이 못 들어가게 하는 건 이 파일이 아니라 로그인이에요. 이 얘기는 권한 쪽 규칙과 같아요.

제출까지 해야 끝이에요

파일을 만들어 놓기만 하고 끝내는 경우가 많아요. 그러면 로봇이 우연히 찾아올 때까지 기다리는 셈이에요. 순서대로 하면 반나절이면 끝나요.

  1. 1화면 목록 파일을 만들어요. 화면이 여러 장이면 스튜디오에 "화면 목록 파일과 robots.txt 를 같이 만들어 달라"고 주문하면 돼요. 손으로 적는 파일이 아니라 화면이 늘 때 자동으로 채워지는 쪽이 좋아요.
  2. 2게시한 뒤 눈으로 확인해요. 게시한 주소 뒤에 `/sitemap.xml` 을 붙여 열어 보세요. 주소들이 죽 나오면 성공이에요. 아무것도 없거나 화면을 찾을 수 없다고 나오면 여기서 멈추고 고쳐야 해요.
  3. 3robots.txt 에 목록 위치를 한 줄 적어요. `내가게주소/robots.txt` 를 열어 목록 파일 주소가 적혀 있는지 확인하세요.
  4. 4검색엔진 관리 도구에 등록해요. 구글은 서치 콘솔, 네이버는 서치어드바이저를 쓰고 둘 다 무료예요. 내 사이트가 내 것임을 확인하는 절차를 거친 뒤 목록 파일 주소를 제출해요.
  5. 5며칠 뒤 상태를 다시 봐요. 관리 도구가 "제출한 주소 몇 개, 실제로 실린 주소 몇 개"를 알려 줘요. 이 두 숫자의 차이가 곧 진단표예요.
  6. 6화면을 새로 만들 때마다 목록에 들어갔는지 확인해요. 자동으로 갱신되게 만들어 뒀다면 눈으로 한 번만 보면 돼요.

소유 확인이 먼저예요

관리 도구는 아무나 남의 사이트를 제출하지 못하게 소유 확인을 요구해요. 화면에 표시 하나를 넣거나, 파일을 하나 올리거나, 도메인 설정에 값을 넣는 방식 중 하나예요. 이 절차는 사장님 명의 계정으로 직접 하는 게 좋아요. 대행사 계정으로 해 두면 나중에 숫자를 못 보게 되는 일이 흔해요. 관리 도구의 메뉴 이름과 화면 구성은 종종 바뀌니, 막히면 그 도구의 도움말에서 현재 화면 기준으로 확인하세요.

사장님이 실제로 겪는 장면

장면 1 · 외주 개발자가 말했다

사이트맵 생성해서 서치 콘솔에 제출해 뒀습니다. robots 도 열어 놨어요.

이제 해석돼요. 화면 목록 파일을 만들어 구글 관리 도구에 등록했고, 로봇의 접근을 막지 않도록 설정했다는 뜻이에요. 여기서 물어볼 건 두 가지예요. "제출한 계정이 제 계정인가요?"와 "화면을 새로 추가하면 목록에 자동으로 들어가나요?" 계정이 업체 것이면 계약이 끝나는 날 숫자도 같이 사라져요. 자동이 아니면 다음 달부터 목록은 옛것이 돼요.

장면 2 · 새로 만든 화면만 검색에 안 나온다

가격 안내 화면을 새로 만들어 붙였는데 두 달째 검색에 안 나와요. 첫 화면은 잘 나오는데요.

첫 화면이 나온다는 건 로봇이 이미 집에 왔다는 뜻이에요. 그런데 새 화면까지는 못 갔다는 뜻이기도 해요. 두 가지를 봐요. 첫째, 첫 화면 메뉴에서 그 화면으로 가는 링크가 있는지요. 링크가 아예 없으면 로봇은 갈 길이 없어요. 둘째, 목록 파일에 그 주소가 들어 있는지요. 손으로 만든 목록이면 새 화면이 빠져 있는 경우가 대부분이에요.

장면 3 · 검색 결과에 안 보여야 할 화면이 떴다

테스트로 만든 화면과 결제 완료 화면이 검색 결과에 떠 있어요. 목록에서 지웠는데도요.

목록에서 지우는 것과 검색에서 빠지는 것은 완전히 다른 일이에요. 목록은 초대장이라, 초대장에서 이름을 빼도 이미 들어온 손님이 나가지는 않아요. 검색에서 빼려면 그 화면에 "색인하지 말라" 표시를 넣고 관리 도구에서 삭제를 요청해야 해요. 그리고 결제 완료 화면처럼 손님 정보가 비칠 수 있는 화면은 애초에 로그인 뒤에서만 열리게 만드는 게 맞아요. 개인정보가 검색에 노출된 경우의 처리 기준은 개인정보보호위원회 안내를 확인하세요.

실제로 무너지는 지점

제출까지 다 했는데 효과가 없는 경우가 있어요. 원인은 거의 정해져 있어요. 관리 도구에서 "제출 몇 개, 실린 것 몇 개"의 차이가 크다면 아래를 순서대로 보세요.

무너지는 조건무슨 일이 벌어지나대처
손으로 만든 목록을 방치함가장 흔해요. 만든 날의 화면 목록으로 굳어요. 그 뒤에 만든 화면은 영원히 목록에 없어요화면이 늘 때 자동으로 채워지게 만들어요. 목록을 사람이 관리하기 시작하면 반드시 밀려요
없어진 화면 주소가 남아 있음로봇이 가 보고 없는 문 앞에 서요. 이런 주소가 목록에 많으면 목록 전체의 신뢰가 떨어져요화면을 지웠으면 목록에서도 빠지게 해요. 관리 도구가 오류 목록으로 알려 줘요
같은 화면이 두 주소로 존재함주소 앞에 www 가 붙은 것과 안 붙은 것, http 와 https 가 각각 목록에 있으면 힘이 나뉘어요대표 주소 하나만 목록에 넣어요. 보안 연결을 쓰는 주소를 대표로 잡는 게 기본이에요
로봇 접근을 막아 놓고 목록을 제출함초대장을 보내면서 문을 잠근 상태예요. 제출은 되지만 아무것도 실리지 않아요robots.txt 를 열어 전체 차단이 걸려 있는지 봐요. 만드는 중에 걸어 둔 차단을 게시 후에 안 푸는 일이 잦아요
로그인해야 보이는 화면을 목록에 넣음로봇은 로그인을 못 해요. 빈 화면이나 로그인 화면만 보고 가서 실을 게 없어요회원 전용 화면은 목록에서 빼요. 목록에는 누구나 볼 수 있는 화면만 넣어요
화면 내용이 글자가 아니라 그림뿐임발견은 되는데 실릴 내용이 없어요. 가격표를 사진 한 장으로 넣은 경우가 여기예요핵심 정보는 글자로 적어요. 사진 정리누구나 쓰기 쪽 원칙과 같아요

속도 기대치도 맞춰 두면 마음이 편해요. 제출한 다음 날 다 실리지 않아요. 며칠에서 몇 주가 정상 범위고, 새로 만든 사이트는 더 걸려요. 제출 뒤에 할 일은 새로 고침을 반복하는 게 아니라, 그동안 지도 등록처럼 손님을 실제로 데려오는 일을 하는 거예요.

남에게 맡길 때 요구할 것

직접 만들지 않아도 이 다섯 줄만 요구서에 넣으면 결과가 달라져요. 받을 때 확인하는 방법까지 같이 적어 뒀어요.

요구할 것받을 때 확인법
목록 자동 갱신화면이 늘 때마다 사람이 손대야 하면 결국 안 하게 돼요화면 하나를 새로 만들어 보고 목록 파일에 그 주소가 들어오는지 열어 봐요
관리 도구 계정은 사장님 명의업체 계정으로 등록하면 계약 종료와 함께 숫자를 못 보게 돼요구글 서치 콘솔에 사장님 계정으로 로그인해서 내 사이트가 보이는지 확인해요
대표 주소 하나로 통일같은 화면이 여러 주소로 돌아다니면 검색 성적이 나뉘어요www 를 붙인 주소와 안 붙인 주소를 각각 열어 한쪽으로 넘어가는지 봐요
회원 전용 화면과 테스트 화면 제외손님 정보가 비치는 화면이나 미완성 화면이 검색에 실리면 되돌리기가 번거로워요목록 파일을 열어 관리자·테스트·결제 완료 같은 주소가 없는지 눈으로 훑어요
차단 설정 해제 확인만드는 동안 걸어 둔 전체 차단을 게시 후에 푸는 것을 잊는 사고가 잦아요`내가게주소/robots.txt` 를 열어 전체를 막는 줄이 남아 있지 않은지 봐요

이 목록은 외주 요구서에 그대로 붙여 쓸 수 있어요. 관리 도구 계정 권한까지 같이 넘겨받아야 한다는 점은 인수인계 쪽 규칙과 같아요.

자주 묻는 것

Q. 사이트맵을 넣으면 검색 순위가 올라가나요?
안 올라가요. 목록 파일이 하는 일은 발견을 돕는 것뿐이에요. 순위는 화면에 무엇이 적혀 있고 남들이 얼마나 링크했는지로 정해져요. 다만 발견이 안 되면 순위 경쟁 자체가 시작되지 않으니, 순위의 출발선을 앞으로 당겨 주는 정도로 이해하면 정확해요.
Q. 화면이 한 장뿐인데도 만들어야 하나요?
만들 이유가 크지 않아요. 찾을 화면이 하나뿐이니 안내도가 필요 없죠. 그 시간에 지도 등록을 하거나, 사회관계망 계정 소개란에 주소를 걸어 두는 편이 훨씬 이득이에요. 화면이 여러 장으로 늘어난 다음에 만들어도 늦지 않아요.
Q. 구글하고 네이버에 각각 제출해야 하나요?
robots.txt 에 목록 위치를 적어 두면 대개 알아서 찾아가요. 다만 관리 도구에 직접 등록하면 "몇 개 제출, 몇 개 실림"이라는 숫자를 볼 수 있어요. 그 숫자가 유일한 진단 수단이라 등록해 두는 편이 좋아요. 동네 손님을 받는 가게라면 네이버 쪽을 먼저 해요.
Q. 제출한 지 2주가 지났는데 몇 개만 실렸어요. 실패인가요?
실패가 아닌 경우가 많아요. 검색엔진은 실을 가치가 있다고 판단한 화면만 실어요. 안 실린 화면을 열어 보세요. 글자가 거의 없거나, 다른 화면과 내용이 사실상 같거나, 만드는 중인 화면일 거예요. 관리 도구가 화면별로 이유를 알려 주니 그 이유부터 읽는 게 순서예요.
Q. 특정 화면을 검색에 안 나오게 하고 싶어요. 목록에서 빼면 되나요?
그것만으로는 안 돼요. 목록은 초대장이라 이름을 빼도 이미 들어온 것은 남아요. 그 화면에 "색인하지 말라" 표시를 넣고, 관리 도구에서 삭제를 요청하는 두 단계가 필요해요. 그리고 그 표시를 로봇이 읽어야 하니 그 화면을 robots.txt 로 막지는 마세요.
Q. 만들어 두면 그 뒤로 손이 안 가나요?
자동으로 갱신되게 만들었다면 거의 안 가요. 대신 두 가지는 남아요. 화면을 크게 개편했을 때 목록이 새 주소를 담고 있는지 확인하는 일, 그리고 도메인을 바꿨을 때 목록의 주소를 통째로 갈아 주는 일이에요. 둘 다 사장님이 직접 확인할 수 있는 일이에요.

헷갈리기 쉬운 것

비유가 어디까지 맞나. 층별 안내도 비유는 "안쪽 화면의 존재를 알려 준다"까지 정확해요. 다른 점이 하나 있어요. 실제 안내도는 손님이 3층에 갈지 말지를 손님이 정하는데, 이 목록은 로봇이 갈지 말지를 자기가 정해요. 목록에 적었다고 반드시 방문하는 게 아니고, 방문했다고 반드시 검색에 싣는 것도 아니에요. 그래서 이 파일은 명령서가 아니라 초대장이에요.

지도앱 등록과 같은 건가. 아니에요. 이름이 비슷해서 헷갈리는데 상대가 달라요. 화면 목록 파일은 검색엔진 로봇에게 내 화면들을 알리는 것이고, 지도 등록지도 서비스에 내 가게의 위치와 영업시간을 등록하는 것이에요. 오프라인 가게라면 손님을 먼저 데려오는 쪽은 지도 등록이에요. 둘 다 하되 순서는 지도가 먼저예요.

메뉴 구조와 같은 건가. 다르지만 붙어 있어요. 손님이 보는 메뉴는 화면 위에 그려지는 것이고, 목록 파일은 화면 뒤에 숨어 기계만 읽어요. 다만 메뉴에서 갈 수 없는 화면은 목록에만 적어도 성적이 나쁘게 나와요. 로봇은 "어디서도 링크되지 않은 화면"을 덜 중요하게 봐요. 여러 페이지를 나눌 때 메뉴와 목록을 같이 손보는 게 맞아요.

확인해 보세요

가격 안내 화면을 새로 만들었는데 두 달째 검색에 안 나와요. 첫 화면은 잘 나와요. 먼저 볼 것은?

하나 더

결제 완료 화면이 검색 결과에 떴어요. 목록 파일에서 그 주소를 지웠는데 그대로예요. 왜죠?

마지막

목록 파일에서 딱 하나만 관리해야 한다면 무엇을 보겠어요?

직접 해보기

내 주소 뒤에 /sitemap.xml 을 붙여 열어 보세요

이미 게시한 화면이 있다면 주소 뒤에 `/sitemap.xml` 을 붙여 열어 보세요. 주소들이 죽 나오면 목록이 살아 있는 거예요. 이어서 `/robots.txt` 도 열어, 목록 파일 주소가 적혀 있는지와 전체를 막는 줄이 남아 있지 않은지 보세요. 이 두 번의 확인이 검색 문제의 절반을 걸러 내요. 화면이 여러 장인데 목록이 없으면, 스튜디오에서 "화면 목록 파일과 robots.txt 를 만들어 달라"고 주문하면 돼요.

스튜디오 열기

더 깊이 (안 읽어도 괜찮아요)

왜 xml 이라는 낯선 형식인가 · 이 파일 형식은 특정 회사가 만든 게 아니라 검색엔진들이 함께 쓰기로 한 공개 규격이에요. 그래서 한 번 만들면 구글·네이버·다른 검색엔진에 같은 파일을 그대로 줄 수 있어요. 형식이 딱딱해 보이는 이유도 여기 있어요. 사람이 읽기 좋게 만든 게 아니라 여러 회사 기계가 오해 없이 읽게 만든 거예요. 참고로 주소만 한 줄씩 적은 단순 텍스트 파일도 목록으로 인정돼요. 화면 수가 적을 때 쓸 수 있는 가장 단순한 형태예요.

목록에 넣을 주소를 고르는 기준 · "우리 사이트의 모든 주소"가 아니라 "검색에서 손님을 맞을 화면" 이 기준이에요. 그래서 넣지 않는 것들이 있어요. 대표 주소가 아닌 중복 주소, 로그인 뒤에서만 열리는 화면, 검색·필터 결과처럼 조건에 따라 무한히 늘어나는 주소, 없어진 화면, 만드는 중인 화면이요. 목록을 이렇게 깎는 이유는 로봇의 방문 횟수가 무한하지 않기 때문이에요. 쓸모없는 주소를 잔뜩 넣으면 정작 중요한 화면에 올 차례가 밀려요.

제출 뒤에 볼 숫자는 하나뿐이에요 · 관리 도구에는 화면이 많은데 처음에는 딱 두 숫자만 보면 돼요. 제출한 주소 개수실제로 검색에 실린 개수요. 둘이 비슷하면 잘 되고 있어요. 제출은 40개인데 실린 게 5개라면 목록 문제가 아니라 화면 내용 문제일 가능성이 커요. 이 두 숫자를 월 단위로 적어 두면, 화면을 손볼 때마다 효과가 있었는지를 감이 아니라 기록으로 알 수 있어요. 방문자 숫자를 함께 보는 방법은 방문 기록 보기 쪽에 있어요.

이것만 기억하세요

  • ·화면 목록 파일은 순위를 올리는 장치가 아니라 발견을 앞당기는 장치예요
  • ·화면이 한 장이면 필요 없고, 여러 장이거나 링크가 없는 새 사이트면 효과가 가장 커요
  • ·robots.txt 는 반대로 막는 파일이고, 막는 것과 검색에서 감추는 것은 다른 일이에요
  • ·만들어 두는 것으로 끝이 아니에요. 관리 도구에 사장님 계정으로 제출해야 숫자가 보여요
  • ·손으로 관리하는 목록은 반드시 밀려요. 화면이 늘 때 자동으로 따라오게 만드세요
VibeCampusNew build