검색 봇 차단 해제와 조회수 증가 (수정 완료)(1)

안녕하세요. 필고 회원님.

아래의 문제는 이미 수정이 되었습니다.

홈페이지에서 검색 봇이 글을 가져가는 경우, 조회수 증가를 시키지 않도록 변경을 하였습니다.

감사합니다.

---------------------------

안녕하세요 필고회원님

며칠사이 글의 조회수가 평소보다 굉장히 많이 늘어난 것을 확인을 할 수 있을 것입니다.

주된 이유는 검색봇(Search Engine Bot Crawler) 때문입니다.

그 동안 필고에서는 검색봇이 너무나 많이 필고의 글을 긁어가서 홈페이지가 느려지는 현상이 발생하였습니다.
그래서 구글과 네이버 검색 봇만 허용을 하고 다른 봇을 모두 막았습니다.



며칠 전 서버 증설을 하면서, 서버 성능이 매우 좋아져 검색 봇을 차단 해제하였습니다.



그 이후, 정말 듣도 보도 못한 수 많은 검색 봇들이 접속을 하고 있습니다.

- 구글, 빙, 페이스북/메타, 트위터, 네이버, 바이두 등의 유명 검색 엔진 또는 소셜 미디어 부터 시작해서
- 애플, 아마존 등의 대형 서비스 업체,
- 클로드, ChatGPT, Perplexity 등의 유명 AI cralwer 등

인공지능 시대가 열리면서, 과거와는 다르게 더욱 경쟁적으로 필고 데이터를 가져 가고 있습니다.

이러한 유명한 서비스들이 홈페이지 글을 가져가는 것은 전체에서 10% 도 안되며 중소규모 서비스 뿐만아니라 듣도 보도 못한 검색 봇들까지 정말 엄청나게 필고 사이트의 데이터를 수집해서 색인화 및 2차 가공한 다음 자신들의 사용자들에게 정보를 제공하고 있습니다.

검색 봇이나 AI 봇 등, 타 서비스에서 글을 가져가서 자사 회원들에게 서비스하고, 필고로 돌아오게 하는 것은, 결국에는 필고에 도움이 된다고 판단을 하고 있습니다.


이 조회 수 문제를 해결하기 위해서는 아래의 방법이 있겠습니다.

1. 단순히 과거 처럼 검색 봇을 모두 걸러내든지

2. 글 조회 기능을 없애 버리던지

3. 검색 봇이 글을 가져가는 경우는 조회수 증가를 하지 않던지 (가장 유력)


최대한 빠른 시간 내에 보완을 할 수 있도록 노력을 하겠습니다.

감사합니다.