怎么防止网站被采集

4 sec read

最近公司一些独有的数据被竞争对手采集了。想了想有没有可以防止被采集的方法。自己想了下发现这个问题很难解决,下面是我自己想到的。

  1. 通过cookies防采集(这个没有,采集都是先获取cookies再执行采集的)
  2. 屏蔽IP(这个首先要获取对方的IP,执行起来比较麻烦)
  3. 请求次数判断(一段时间内请求多少次,则将该IP加入黑名单禁止访问或需要验证码访问。这样做很容易把搜索引擎也挡在门外,可以将搜索引擎的user-agent和IP加入白名单。如:Google robots 的 UA及 IP http://www.iplists.com/google.txt
  4. 采集一般不下载JS文件,使用JS判断,或使用AJAX,这个也会把搜索引擎挡在门外。

不知道谁还有更好的可行方法分享下。当然我首先想到的是向搜索引擎举报。

打赏作者
微信支付标点符 wechat qrcode
支付宝标点符 alipay qrcode

Anaconda包更新遇到的问题及解决方案

Anaconda可以通过命令升级所有的Python包,具体命令为:conda update –al
7 sec read

复合事件处理CEP简介

什么是复合事件处理? 这是一个IT事件爆发的时代,各种IT系统之间或系统内部,每天产生大量事件。系统在关键点打
23 sec read

美团酒旅实时数据规则引擎的学习

美团点评酒旅运营需求在离线场景下,已经得到了较为系统化的支持,通过对离线数据收集、挖掘,可对目标用户进行T+1
19 sec read

2 Replies to “怎么防止网站被采集”

    1. URL没有规则也是可以采集的,可以通过上层页面来获取下层页面的链接。这个只能防普通的程序采集。

发表评论

电子邮件地址不会被公开。 必填项已用*标注