26.09.29
0
조회 158
26.09.26
1
조회 130
26.09.24
0
조회 155
26.09.23
0
조회 161
26.09.19
0
조회 479
26.09.11
0
조회 142
26.09.10
0
조회 135
26.09.10
0
조회 140
26.09.10
0
조회 109
26.09.10
0
조회 96
26.09.09
1
조회 91
26.09.04
0
조회 341
26.09.03
0
조회 336
26.09.01
1
조회 131
26.08.29
0
조회 171
26.08.22
0
조회 281
26.08.20
0
조회 310
26.08.13
0
조회 304
26.08.13
0
조회 353
26.08.13
0
조회 198
댓글 5
정말 많은 크롤러가 긁어 가더라고요.
조회 수가 비정상적으로 올라가는 원인이기도하죠. 트래픽도 차지하고 성능도 떨어트리고..
서버 로그에서 비정상적으로 접근이 많은 IP 대역을 차단해야할거예요.
100명에 1만 뷰면 크게 눈에 띄는 접근이 쉽게 보일 것 같네요.
일반 웹호스팅에서도 차단 도구를 제공할 수도 있으니 해당된다면 확인해보세요.
방문자수에 비해 게시판에 쌓여 있는 글이 많은 커뮤니티 사이트라면
크롤러가 처음부터 끝까지 쭉 긁어가기만 해도 서버가 터질 정도의 위력을 발휘합니다.
구글봇도 평소 조용하다가 갑자기 작정하고 긁어갈 때가 있더군요.
하지만 구글봇처럼 필요악인 경우
robots.txt에 Crawl-delay를 걸어두었습니다.
구글봇은 딜레이만 설정해줘도 얌전해지는 것같습니다...
User-agent : Googlebot-Image
Crawl-delay: 30
Allow: /
User-agent : Googlebot
Crawl-delay: 10
Allow: /