검색 봇 차단 해제와 조회수 증가 (수정 완료)(1)
필고
쪽지전송
Views : 508
2024-11-20 08:19
자유게시판
1275577839
|
안녕하세요. 필고 회원님.
아래의 문제는 이미 수정이 되었습니다.
홈페이지에서 검색 봇이 글을 가져가는 경우, 조회수 증가를 시키지 않도록 변경을 하였습니다.
감사합니다.
---------------------------
안녕하세요 필고회원님
며칠사이 글의 조회수가 평소보다 굉장히 많이 늘어난 것을 확인을 할 수 있을 것입니다.
주된 이유는 검색봇(Search Engine Bot Crawler) 때문입니다.
그 동안 필고에서는 검색봇이 너무나 많이 필고의 글을 긁어가서 홈페이지가 느려지는 현상이 발생하였습니다.
그래서 구글과 네이버 검색 봇만 허용을 하고 다른 봇을 모두 막았습니다.
며칠 전 서버 증설을 하면서, 서버 성능이 매우 좋아져 검색 봇을 차단 해제하였습니다.
그 이후, 정말 듣도 보도 못한 수 많은 검색 봇들이 접속을 하고 있습니다.
- 구글, 빙, 페이스북/메타, 트위터, 네이버, 바이두 등의 유명 검색 엔진 또는 소셜 미디어 부터 시작해서
- 애플, 아마존 등의 대형 서비스 업체,
- 클로드, ChatGPT, Perplexity 등의 유명 AI cralwer 등
인공지능 시대가 열리면서, 과거와는 다르게 더욱 경쟁적으로 필고 데이터를 가져 가고 있습니다.
이러한 유명한 서비스들이 홈페이지 글을 가져가는 것은 전체에서 10% 도 안되며 중소규모 서비스 뿐만아니라 듣도 보도 못한 검색 봇들까지 정말 엄청나게 필고 사이트의 데이터를 수집해서 색인화 및 2차 가공한 다음 자신들의 사용자들에게 정보를 제공하고 있습니다.
검색 봇이나 AI 봇 등, 타 서비스에서 글을 가져가서 자사 회원들에게 서비스하고, 필고로 돌아오게 하는 것은, 결국에는 필고에 도움이 된다고 판단을 하고 있습니다.
이 조회 수 문제를 해결하기 위해서는 아래의 방법이 있겠습니다.
1. 단순히 과거 처럼 검색 봇을 모두 걸러내든지
2. 글 조회 기능을 없애 버리던지
3. 검색 봇이 글을 가져가는 경우는 조회수 증가를 하지 않던지 (가장 유력)
최대한 빠른 시간 내에 보완을 할 수 있도록 노력을 하겠습니다.
감사합니다.
아래의 문제는 이미 수정이 되었습니다.
홈페이지에서 검색 봇이 글을 가져가는 경우, 조회수 증가를 시키지 않도록 변경을 하였습니다.
감사합니다.
---------------------------
안녕하세요 필고회원님
며칠사이 글의 조회수가 평소보다 굉장히 많이 늘어난 것을 확인을 할 수 있을 것입니다.
주된 이유는 검색봇(Search Engine Bot Crawler) 때문입니다.
그 동안 필고에서는 검색봇이 너무나 많이 필고의 글을 긁어가서 홈페이지가 느려지는 현상이 발생하였습니다.
그래서 구글과 네이버 검색 봇만 허용을 하고 다른 봇을 모두 막았습니다.
며칠 전 서버 증설을 하면서, 서버 성능이 매우 좋아져 검색 봇을 차단 해제하였습니다.
그 이후, 정말 듣도 보도 못한 수 많은 검색 봇들이 접속을 하고 있습니다.
- 구글, 빙, 페이스북/메타, 트위터, 네이버, 바이두 등의 유명 검색 엔진 또는 소셜 미디어 부터 시작해서
- 애플, 아마존 등의 대형 서비스 업체,
- 클로드, ChatGPT, Perplexity 등의 유명 AI cralwer 등
인공지능 시대가 열리면서, 과거와는 다르게 더욱 경쟁적으로 필고 데이터를 가져 가고 있습니다.
이러한 유명한 서비스들이 홈페이지 글을 가져가는 것은 전체에서 10% 도 안되며 중소규모 서비스 뿐만아니라 듣도 보도 못한 검색 봇들까지 정말 엄청나게 필고 사이트의 데이터를 수집해서 색인화 및 2차 가공한 다음 자신들의 사용자들에게 정보를 제공하고 있습니다.
검색 봇이나 AI 봇 등, 타 서비스에서 글을 가져가서 자사 회원들에게 서비스하고, 필고로 돌아오게 하는 것은, 결국에는 필고에 도움이 된다고 판단을 하고 있습니다.
이 조회 수 문제를 해결하기 위해서는 아래의 방법이 있겠습니다.
1. 단순히 과거 처럼 검색 봇을 모두 걸러내든지
2. 글 조회 기능을 없애 버리던지
3. 검색 봇이 글을 가져가는 경우는 조회수 증가를 하지 않던지 (가장 유력)
최대한 빠른 시간 내에 보완을 할 수 있도록 노력을 하겠습니다.
감사합니다.
@알림 : 코멘트를 작성하시려면 로그인을 하십시오.
No. 96826
Page 1937
Reminder :
인공지능 GPT-4o Mini 적용 안내
Reminder :
필고 닉네임 업데이트 안내
( 12 )
[사진] BI 김희철, 서민, 김용수 체포 (3)
2424V2424
15,010
24-11-18
Deleted ... ! (1)
라라끼18
7,916
24-11-18
마닐라 콘도 렌트 가격 오른거 같네요 (6)
하루하루라이...
21,863
24-11-17
루이비통 가방 급처분 (5)
tkfwk
20,931
24-11-16
30일비자연장 2명 비용궁금합니다
454562
3,872
24-11-15
아포스티유, 번역,공증 순서 (6)
d663ff
10,816
24-11-15
세부 죽이기 프로젝트 돌입 보홀시대인가.. (13)
Coolsama
16,927
24-11-15
서울하숙에서 레몬하숙으로 상호 다시 변경 (4)
Kimkim8888
5,103
24-11-14
11월 29일 세부시티 워터프론트 카지노 행사
카이라고합니...
2,978
24-11-14
매트로마닐라 2040 친목골프 오픈채팅(스크린&필드)
재용@카카오톡-...
3,103
24-11-14
구찌 클러치백 팝니다 (27)
sionk0916
19,638
24-11-14
Deleted ... ! (26)
마닐라코피노
13,852
24-11-14
[MUSIC/DANCE] APT/2024 Miss International 우승자 (16) 1
MUSICIANANDACTOR
14,087
24-11-13
필리핀에서 렌트카 계약하기 ‘약속’이란 무엇인가? (16)
ike kim@구글-uy
7,702
24-11-12
영어 선생님 구합니다 (1)
jauin자유
2,692
24-11-12
Good Morning (7)
20Billion
6,682
24-11-12
한카지노 너무하네... (21)
roy-5
9,186
24-11-12