개발자

구글봇 크롤링 버젯은 어떻게 책정되는 건가요?

2023년 03월 08일조회 369

SEO 작업 중인데 리서치를 하다가보니 크롤링 버젯이라는 개념이 있더라구요. 혹시 구글봇이 이 크롤링 버젯을 어떻게 책정하는지 알고 계신분 있을까요?

이 질문이 도움이 되었나요?
'추천해요' 버튼을 누르면 좋은 질문이 더 많은 사람에게 노출될 수 있어요. '보충이 필요해요' 버튼을 누르면 질문자에게 질문 내용 보충을 요청하는 알림이 가요.
profile picture
익명님의 질문

답변 2

인기 답변

장익순님의 프로필 사진

크롤링 버젯은 구글봇이 하루에 볼 수 있는 책의 페이지(페이지나 URL) 수라고 생각하면 됩니다. - 구글봇은 다음 두 가지 요소에 따라 크롤링 버젯을 결정합니다 1. 책을 보는 데 걸리는 시간(크롤 속도 제한): 책의 글씨가 작거나, 그림이 많거나, 잘못된 글씨가 있으면 구글봇은 책을 보는 데 오래 걸립니다. 그래서 하루에 볼 수 있는 페이지 수가 줄어듭니다. 2. 책을 보고 싶어하는 정도 (크롤 수요): 구글봇은 다른 사람들이 많이 읽거나 자주 바뀌는 책을 더 보고 싶어합니다. 그래서 그런 책의 페이지 수를 더 많이 봅니다. (도메인 권한, 백링크, 사이트 속도, 크롤 에러, 랜딩 페이지의 개수 등이 영향을 줍니다.) - 구글봇은 다음과 같은 방법으로 크롤링 버젯을 책정합니다. 1. 구글봇은 책장에서 원하는 책을 찾기 위해 목차와 북마크를 확인합니다. 목차와 북마크가 잘 정리되어 있으면 구글봇은 원하는 페이지를 빨리 찾아갑니다. (서버가 느리거나 오류가 많으면 구글봇은 크롤 속도를 낮춥니다.) 2. 구글봇은 한 번에 너무 많은 책을 가져가면 다른 사람들이 볼 수 없으니까 조금씩 가져갑니다. 만약 한 번에 너무 많은 페이지를 가져가려고 하면 구글봇은 다음 날부터 덜 가져갑니다. 참고 홈페이지 입니다. - https://setupad.com/blog/crawl-budget/ - https://www.oncrawl.com/technical-seo/googles-crawl-budget-optimization/ - https://www.oncrawl.com/technical-seo/googles-crawl-budget-optimization/ - https://seosly.com/blog/crawl-budget-optimization/ - https://developers.google.com/search/docs/crawling-indexing/large-site-managing-crawl-budget?hl=ko - https://webmasters.googleblog.com/2017/01/what-crawl-budget-means-for-googlebot.html 이 내용이 맞을 까요?? 저도 잘 모르지만 적어봤습니다.

profile picture

익명

작성자

2023년 03월 14일

오 넵 맞습니다! 적어주신 내용들 잘 참고하겠습니다 :)

인기 답변

손정현님의 프로필 사진

안녕하세요! 크롤링 버젯이 어떻게 책정되는지 정확하게 공개된 자료는 없는 것으로 알고 있는데요. 대략적인 가이드는 공식문서도 있고 다른 기술블로그들도 많은 것으로 알고 있어요. 위에 장익순님이 첨부해주신 구글 문서를 읽어보시면 도움이 되실 것 같습니다. - https://developers.google.com/search/docs/crawling-indexing/large-site-managing-crawl-budget?hl=ko 크게 "크롤링 용량 한도"와 "크롤링 수요"에 의해서 책정된다고 설명하고 있네요.

profile picture

익명

작성자

2023년 03월 14일

넵 감사합니다!

지금 가입하면 모든 질문의 답변을 볼 수 있어요!

현직자들의 명쾌한 답변을 얻을 수 있어요.

또는

이미 회원이신가요?

목록으로
키워드로 질문 모아보기

실무, 커리어 고민이 있다면

새로운 질문 올리기

지금 가입하면 모든 질문의 답변을 볼 수 있어요!