2007-5-11 作者:翟振恺 来源:fansart.com 点击:2184
下面就是我的防采集策略,防采集而又不防搜索引擎
从前面的我讲的采集原理大家可以看出,绝大多数采集程序都是靠分析规则来进行采集的,如分析分页文件名规则、分析页面代码规则。
一、分页文件名规则防采集对策
大部分采集器都是靠分析分页文件名规则,进行批量、多页采集的。如果别人找不出你的分页文件的文件名规则,那么别人就无法对你的网站进行批量多页采集。
实现方法:
我认为用MD5加密分页文件名是一个比较好的方法,说到这里,有人会说,你用MD5加密分页文件名,别人根据此规则也可以模拟你的加密规则得到你的分页文件名。
我要指出的是我们加密分页文件名时,不要只加密文件名变化的部分
如果I代表分页的页码,那么我们不要这样加密
page_name=Md5(I,16)&".htm"
最好给要加密的页码上再跟进一个或多个字符,如:page_name=Md5(I&"任意一个或几个字母",16)&".htm"
因为MD5是无法反解密的,别人看到的会页字母是MD5加密后的结果,所以加人也无法知道你在 I 后面跟进的字母是什么,除非他用暴力****MD5,不过不太现实。
二、页面代码规则防采集对策
如果说我们的内容页面无代码规则,那么别人就无法从你的代码中提取他们所需要的一条条内容。
所以我们要的这一步做到防采集,就要使代码无规则。
实现方法:
使对方需要提取的标记随机化
1、定制多个网页模板,每个网页模板里的重要HTML标记不同,呈现页面内容时,随机选取网页模板,有的页面用CSS+DIV布局,有的页面用table布局,此方法是麻烦了点,一个内容页面,要多做几个模板页面,不过防采集本身就是一件很烦琐的事情,多做一个模板,能起到防采集的作用,对很多人来说,都是值得的。
2、如果嫌上面的方法太麻烦,把网页里的重要HTML标记随机化,也可以。
做的网页模板越多,html代码越是随机化,对方分析起内容代码时,就越麻烦,对方针对你的网站专门写采集策略时,难度就更大,在这个时候,绝大部分人,都会知难而退,因为这此人就是因为懒,才会采集别人网站数据嘛~~~再说一下,目前大部分人都是拿别人开发的采集程序去采集数据,自己开发采集程序去采集数据的人毕竟是少数。
还有些简单的思路提供给大家:
1、把对数据采集者重要,而对搜索引擎不重要的内容用客户端脚本显示
2、把一页数据,分为N个页面显示,也是加大采集难度的方法
3、用更深层的连接,因为目前大部分采集程序只能采集到网站内容的前3层,如果内容所在的连接层更深,也可以避免被采集。不过这样可能会给客户造成浏览上的不便。
如:
大多网站都是 首页----内容索引分页----内容页
如果改成:
首页----内容索引分页----内容页入口----内容页
注:内容页入口最好能加上自动转入内容页的代码
<meta http-equiv="refresh" content="6;url=内容页(http://www.xiaoqi.net)">
其实,只要做好防采集的第一步(加密分页文件名规则),防采集的效果就已经不错了,还是建议两条反采集方法同时使用,给采集者增加采集难度,使得他们知难页退。
声明:本站刊载此文不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。如有疑问请与站长联系。
相关链接更多...
- Sun将推出预装Windows版服务器2007-5-11
- 传郭台铭正与阿里巴巴洽谈合作2007-5-11
- 巧妙提取Flash文件中的素材[图]2007-5-11
- Ricardo Grzeca 网页设计[图]2007-5-11
- 美公司开发自然语言搜索挑战关键词2007-5-11
- ASP网站数据采集的攻、防原理和策略2007-5-11
- AJAX与ASP的无刷新登陆验证技术 2007-5-11
- 刷新页面方式总结(HTML,ASP,JS) 2007-5-11
- 利用XMLHTTP无刷新获取数据2007-5-11
- Javascript+ASP打造无刷新新闻列表[图]2007-5-11
网友评论
目前没有评论!
全站精华
- 07李宁T恤图形设计大赛作品欣赏2[图]
- 07李宁T恤图形设计大赛作品[图]
- 周杰伦豪华公司的室内设计[图]
- 餐厅设计欣赏[图]
- 浴室地板防滑防水的设计原则要点
- 精美绝伦的粉红女郎插画T恤欣赏[图]
- T-shirt个性定制设计[图]
- 北京2008年奥运会火炬设计欣赏[图]
- 世界著名标志欣赏(二)[图]
- 世界著名标志欣赏(一)[图]
- 2008奥运会主馆设计方案欣赏(一) [图]
- 2008奥运会主馆设计方案欣赏(二)[图]
- 2008奥运会主馆设计方案欣赏(三)[图]
- 访著名韩国3D插画师 李素雅[图]
- Julie Bell插图欣赏[图]
- 不可思议的创意广告--国外广告精品,设计[图]
- 惹火酒精饮料广告诱惑撩人[图]
- casablanca维多利亚婚纱 欧陆皇家情调[图]
- 难忘蕾丝爱恋--婚纱款式欣赏[图]
- 韩式风格装修设计欣赏[图]
- 20万元全球征集杭州城市标志
- 桃子精美插画欣赏[图]
- “创意世博”获奖者畅想“城市,让生活更美好”[图]
- 另类不规则家具 享受时尚设计新思潮[图]
- 首届中国元素国际创意大赛作品欣赏[图]
- Clarissa Soto 平面设计[图]
- 2003,2005美国科罗拉多国际海报邀请展作品回顾[图]
- Atypyk 平面创意及包装设计[图]
- 张旺古典插画欣赏 [图]
- 国外Mugg&Bean趣味广告欣赏[图]
图文精彩
![07李宁T恤图形设计大赛作品欣赏2[图]--时装魅影](../smallimg/20075/20075101034352.jpg)
【2007-5-10 10:48:24】
07李宁T恤图形设计大赛作品欣赏2
07李宁T恤图形设计大赛作品欣赏2
![07李宁T恤图形设计大赛作品[图]--时装魅影](../smallimg/20075/20075101022252.jpg)
【2007-5-10 10:26:02】
07李宁T恤图形设计大赛作品
07李宁T恤图形设计大赛作品
![周杰伦豪华公司的室内设计[图]--环境艺术](../smallimg/20075/20075101010244.jpg)
【2007-5-10 10:11:22】
周杰伦豪华公司的室内设计
周杰伦豪华公司的室内设计
![餐厅设计欣赏[图]--环境艺术](../smallimg/20075/2007510826472.jpg)
【2007-5-10 8:28:07】
餐厅设计欣赏
餐厅设计欣赏
![适合的婚纱让新娘更美[图]--时装魅影](../smallimg/20075/2007582253121.jpg)
【2007-5-8 22:53:59】
适合的婚纱让新娘更美
适合的婚纱让新娘更美
![精美绝伦的粉红女郎插画T恤欣赏[图]--时装魅影](../smallimg/20075/2007582234572.jpg)
【2007-5-8 22:37:44】
精美绝伦的粉红女郎插画T恤欣赏
精美绝伦的粉红女郎插画T恤欣赏
![T-shirt个性定制设计[图]--时装魅影](../smallimg/20075/200758112404.jpg)
【2007-5-8 1:13:24】
T-shirt个性定制设计
T-shirt个性定制设计
![Vista图标是谁设计的?[图]--平面广告](../smallimg/20075/200755506181.jpg)
【2007-5-5 5:06:32】
Vista图标是谁设计的?
Vista图标是谁设计的?
![徐悲鸿2000万港币作品京沪展出[图]--中国艺术](../smallimg/20075/200755501561.jpg)
【2007-5-5 5:02:41】
徐悲鸿2000万港币作品京沪展出
徐悲鸿2000万港币作品京沪展出
![北京2008年奥运会火炬设计欣赏[图]--平面广告](../smallimg/20074/2007428852361.jpg)
【2007-4-28 8:52:46】
北京2008年奥运会火炬设计欣赏
北京2008年奥运会火炬设计欣赏
![[玉器欣赏]宋](../smallimg/20074/2007428850191.jpg)
【2007-4-28 8:50:34】
[玉器欣赏]宋 玉云龙纹炉
[玉器欣赏]宋 玉云龙纹炉
![11岁小学女生设计农运会吉祥物[图]--平面广告](../smallimg/20074/2007427834182.jpg)
【2007-4-27 8:34:50】
11岁小学女生设计农运会吉祥物
11岁小学女生设计农运会吉祥物
![世界著名标志欣赏(二)[图]--平面广告](../smallimg/20074/20074262109262.gif)
【2007-4-26 21:21:20】
世界著名标志欣赏(二)
世界著名标志欣赏(二)
![世界著名标志欣赏(一)[图]--平面广告](../smallimg/20074/20074261750235.gif)
【2007-4-26 17:55:21】
世界著名标志欣赏(一)
世界著名标志欣赏(一)

【2007-4-25 10:37:06】
2008奥运会主馆设计方案欣赏(一)
2008奥运会主馆设计方案欣赏(一)
![2008奥运会主馆设计方案欣赏(二)[图]--环境艺术](../smallimg/20074/20074251024281.jpg)
【2007-4-25 10:27:58】
2008奥运会主馆设计方案欣赏(二)
2008奥运会主馆设计方案欣赏(二)
![2008奥运会主馆设计方案欣赏(三)[图]--环境艺术](../smallimg/20074/20074251013342.jpg)
【2007-4-25 10:15:22】
2008奥运会主馆设计方案欣赏(三)
2008奥运会主馆设计方案欣赏(三)

【2007-4-25 9:53:38】
访著名韩国3D插画师 李素雅
访著名韩国3D插画师 李素雅

【2007-4-23 15:47:07】
Julie Bell插图欣赏
Julie Bell插图欣赏
![国外tmdesign:平面广告设计欣赏[图]--平面广告](../smallimg/20074/20074181608353.jpg)
【2007-4-18 16:13:27】
国外tmdesign:平面广告设计欣赏
国外tmdesign:平面广告设计欣赏