八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
阿里巴巴数据采集器使用方法
阿里巴巴集团经过十几年的快速发展,在全球范围都有它的身影,众多的业务和关联公司形成了一个多样性的生态系统,旗下的业务有:淘宝,天猫,1688,速卖通,闲鱼,蚂蚁金服,阿里云等。如此多的关联业务,其中的数据也是很有参考价值的。学习阿里巴巴数据采集器的使用方法让获取数据的来源更广阔。 本文介绍使用八爪鱼采集器采集阿里巴巴数据(以保温杯厂商为例)的方法。
采集网站:
https://s.1688.com/selloffer/offer_search.htm?keywords=±£??±-&n=y&spm=a260k.635.3262836.d102
本文仅以保温杯厂商搜索结果页URL作为采集示例,大家需要采集其他产品厂商可以更换链接进行采集。
采集的内容:阿里巴巴商品标题,阿里巴巴厂家名称,阿里巴巴厂家电话(其他阿里相关的数据如果要采集的话也是可以添加的)
使用功能点:
? 创建循环翻页 ? 商品URL采集提取
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
? 创建URL循环采集任务 ? 修改Xpath
步骤1:创建阿里巴巴数据采集任务
1)进入主界面,选择“自定义采集”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
2)将要采集的阿里巴巴列表或搜索结果页URL复制粘贴到输入框中,点击“保存网址”
3)打开网页的时候页面需要向下滚动才会出现所有的数据,所以可以在这一步设置一个高级选项,在滚动页面这里设置页面加载完成向下滚动,滚动次数设置3秒,每次间隔3秒,滚动方式选择“直接滚动到底部”。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
4)保存网址后,页面将在八爪鱼采集器中打开,红色方框中的商品url是这次演示采集的信息
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
步骤2:创建翻页循环
1)将页面下拉到底部,找到下一页按钮,鼠标点击,在右侧操作提示框中,选择“循环点击下一页”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
步骤3:采集阿里巴巴商品URL
1)如图,移动鼠标选中列表中商品的名称,右键点击,需采集的内容会变成绿色,然后点击“选中全部”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
2)选择“采集以下链接地址”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
3)点击“保存并开始采集”。根据采集的情况选择合适的采集方式,这里选择“启动本地采集”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
说明:本地采集占用当前电脑资源进行采集,如果存在采集时间要求或当前电脑无法长时间进行采集可以使用云采集功能,云采集在网络中进行采集,无需当前电脑支持,电脑可以关机,可以设置多个云节点分摊任务,10个节点相当于10台电脑分配任务帮你采集,速度降低为原来的十分之一;采集到的数据可以在云上保存三个月,可以随时进行导出操作
步骤4:阿里巴巴商品数据采集及导出
1)采集完成后,会跳出提示,选择导出数据,导出后如下图
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
步骤5:创建URL列表采集任务
1)重新创建一个采集任务,将导出后的阿里巴巴商品链接复制,放到输入框中,点击“保存网址”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
注意:输入框中的url列表数量不要超过2W个,超过的部分可以新建任务进行采集,url打开的页面必须是相同网站样式相近的,否则会导致数据采集缺失。八爪鱼会自动去除重复和无效的网站。
2)在页面中点击需要采集的文本数据,比如厂家名称,点击“采集该元素文本”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
3)打开流程图,修改采集字段名称,点击“保存并开始采集”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
注意:点击右上角的“流程”按钮,即可展现出可视化流程图。
步骤6:修改Xpath
由于默认生成的Xpath定位不到所有的字段,所以需要修改,点开流程中的“点击元素”步骤,在右面的高级选项中把原来的Xpath“//A[text()='联系方式'] ”改成“ //A[contains()='联系方式']”。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
5)高级选项设置, 选择“点击元素”步骤,打开高级选项,设置执行前等待“15秒”,勾选Ajax加载,设置超时“15秒”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
6)选择合适的导出方式,将采集好的数据导出采集完成,点击“导出数据”,一份完好的阿里巴巴数据(包括电话号码)就采集好了,导出后如下图
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
相关采集教程:
阿里巴巴数据采集:
http://www.bazhuayu.com/tutorial/hottutorial/dianshang/alibaba 阿里巴巴采集器:
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
http://www.bazhuayu.com/tutorial/1688qiyemlcj 阿里巴巴关键词采集:
http://www.bazhuayu.com/tutorial/aliwordcj 阿里巴巴图片抓取下载:
http://www.bazhuayu.com/tutorial/alibabapiccj 阿里巴巴爬虫采集方法:
http://www.bazhuayu.com/tutorial/1688datacrawl 天猫爬虫:
http://www.bazhuayu.com/tutorial/hottutorial/dianshang/tmall 天猫店铺数据采集方法:
http://www.bazhuayu.com/tutorial/tmdpcj-7 天猫数据抓取方法:
http://www.bazhuayu.com/tutorial/tmdatazq
八爪鱼——90万用户选择的网页数据采集器。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。
2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。
3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。
4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云),满足高端付费企业用户的需要。