八爪鱼·云采集服务平台
www.bazhuayu.com
58数据采集教程
作为一个综合的分类信息网,58上有很多丰富的信息,比如招聘信息,租房信息,企业信息等等,这些信息被采集下来有很多作用,比如房屋信息采集下来,可以预测房价的走势,通过评论信息可以了解该小区房屋的利弊等等。下面为大家详细介绍58数据采集教程。
本文主要介绍58同城的房产信息以及招聘信息采集教程。
一、首先介绍使用八爪鱼采集58同城(以深圳房产-房屋出租为例)的方法
采集网站:
http://sz.58.com/chuzu/?PGTID=0d100000-0000-4481-c0ab-fdb1553ce116&ClickID=15
使用功能点:
? 分页列表及详细信息提取
http://www.bazhuayu.com/tutorial/fylbxq7.aspx?t=1
步骤1:创建采集任务
1)进入主界面,选择“自定义模式”
八爪鱼·云采集服务平台
www.bazhuayu.com
(58同城房产信息采集教程图1) 2)将房源信息页的网址复制粘贴到网站输入框中,点击“保存网址”
八爪鱼·云采集服务平台
www.bazhuayu.com
(58同城房产信息采集教程图2)
步骤2:创建翻页循环
1)在页面右上角,打开“流程”,以展现出“流程设计器”和“定制当前操作”两个板块。将页面下拉到底部,点击“下一页”按钮,在右侧的操作提示框中, 选择“循环点击下一页”
八爪鱼·云采集服务平台
www.bazhuayu.com
(58同城房产信息采集教程图3)
步骤3:创建列表循环
1)移动鼠标,选中页面里的第一个房源信息的链接。选中后,系统会自动识别页面里的其他相似链接。在右侧操作提示框中,选择“选中全部”
八爪鱼·云采集服务平台
www.bazhuayu.com
(58同城房产信息采集教程图4)
2)选择“循环点击每个链接”,以创建一个列表循环
(58同城房产信息采集教程图5)
八爪鱼·云采集服务平台
www.bazhuayu.com
步骤4:提取房源信息
1)在创建列表循环后,系统会自动点击第一个房源信息的链接,进入房源具体信息页。点击需要的字段信息(房源名、价格、租赁方式、所在小区、具体地址等),在右侧的操作提示框中,选择“采集该元素的文本”
(58同城房产信息采集教程图6)
2)继续点击要采集的字段,选择“采集该元素的文本”。采集的字段会自动添加到上方的数据编辑框中。选中相应的字段,可以进行字段的自定义命名。自定义命名完成后,点击“保存并开始采集”
八爪鱼·云采集服务平台
www.bazhuayu.com
(58同城房产信息采集教程图7)
3)选择“启动本地采集”
(58同城房产信息采集教程图8)
八爪鱼·云采集服务平台
www.bazhuayu.com
步骤5:数据采集及导出 1)采集完成后,会跳出提示,选择“导出数据”。选择“合适的导出方式”,将采集好的商铺信息数据导出
(58同城房产信息采集教程图9)
2)这里我们选择excel作为导出为格式,数据导出后如下图
八爪鱼·云采集服务平台
www.bazhuayu.com
(58同城房产信息采集教程图10)
二、然后介绍使用八爪鱼采集58同城招聘的方法
步骤一、下载八爪鱼采集器并登陆
1、打开http://www.bazhuayu.com/download,即八爪鱼软件官方下载页面,点击图中的下载按钮。
八爪鱼·云采集服务平台
www.bazhuayu.com
2、软件下载好了之后,双击安装,安装完毕之后打开软件,输入八爪鱼用户名密码,然后点击登陆。
八爪鱼·云采集服务平台
www.bazhuayu.com
步骤二、设置58同城爬虫规则任务
1、进入登陆界面之后就可以看到主页上的网站简易采集了,选择立即使用即可。
八爪鱼·云采集服务平台
www.bazhuayu.com
2、进去之后便可以看到目前网页简易模式里面内置的所有主流网站爬虫规则了,需要采集58同城信息的,在这里选择58即可。
八爪鱼·云采集服务平台
www.bazhuayu.com
3、本文仅以“58同城招聘职位”这条规则举例说明,需要采集58同城其他信息,可以选择其他爬虫规则,点击“立即使用”即可。
八爪鱼·云采集服务平台
www.bazhuayu.com
4、58同城招聘职位简易采集模式任务界面介绍
查看详情:点开可以看到示例网址,示例网址很重要,需认真观察 任务名:自定义任务名,默认为58同城招聘职位
任务组:给任务划分一个保存任务的组,如果不设置会有一个默认组
八爪鱼·云采集服务平台
www.bazhuayu.com
招聘页面网址填写注意事项:提供要采集的网页网址,即58招聘页的链接。这里输入的网址,需与示例网址的结构保持一致。我们点开示例网址(如下图所示),发现职位、地点、福利有多个关键词可选择,大家可根据自己的需求,更换要采集的关键词(红框中的关键词,均可点击更换)。
采集页数:要翻页的次数
示例数据:这个规则采集的所有字段信息。
八爪鱼·云采集服务平台
www.bazhuayu.com
5、 58同城招聘爬虫规则设置示例
例如要采集北京面点师的招聘信息,打开示例网址,切换城市为北京,选择职位关键词为面点师。 在设置里如下图所示:
任务名:自定义任务名,也可以不设置按照默认的就行 任务组:自定义任务组,也可以不设置按照默认的就行 招聘页面网址:
http://bj.58.com/miandianshi/?PGTID=0d0025a8-0000-0542-d882-581fe8ed0122&ClickID=1
备注:如果想要采集多个招聘页的数据,可将此任务执行多次,每次更换要采集的网址即可。
采集页数:5(这里设置的是5页,大家可根据自己的需求,设置翻页次数)
关于寻找58招聘网址,可以通过这些方法:
八爪鱼·云采集服务平台
www.bazhuayu.com
1、打开示例网址,更换职位、地点、福利等关键词,然后将要采集的网址输入到八爪鱼中
2、在58同城首页,点击招聘 ,再点击要查询的职位关键词,然后将要采集的网址输入到八爪鱼中
步骤三、保存并运行58同城招聘爬虫规则
1、设置好爬虫规则之后点击保存。保存之后,点击会出现开始采集的按钮。
八爪鱼·云采集服务平台
www.bazhuayu.com
2、选择开始采集之后系统将会弹出运行任务的界面,可以选择启动本地采集(本地执行采集流程)或者启动云采集(由云服务器执行采集流程),这里以启动本地采集为例,我们选择启动本地采集按钮。
八爪鱼·云采集服务平台
www.bazhuayu.com
3、选择本地采集按钮之后,系统将会在本地执行这个采集流程来采集数据,下图为本地采集的效果
4、采集完毕之后选择导出数据按钮即可,这里以导出excel2007为例,选择这个选项之后点击确定。
八爪鱼·云采集服务平台
www.bazhuayu.com
5、然后选择文件存放在电脑上的路径,路径选择好之后选择保存。这样,58招聘信息数据就被完整的采集导出到自己的电脑上来了。
八爪鱼·云采集服务平台
www.bazhuayu.com
八爪鱼——70万用户选择的网页数据采集器。
1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。
2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。
3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。
4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云),满足高端付费企业用户的需要。