八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器怎么使用
淘宝是目前电子商务人员需要提取数据比较常见的网站,淘宝数据采集下来有很多作用, 比如监控竞争对手产品价格、SKU等数据,从而为自己产品定价提供支持。下面本文介绍淘宝数据采集能提取哪些数据以及如何使用。
淘宝数据采集器能提取到哪些数据?
一般来说,淘宝数据采集器能采集到:产品名称、类别、产品原价、销售价格、网址、评论、卖家信息、搜索关键词等数据。
下面介绍使用八爪鱼采集器去采集淘宝卖家数据的方法,只需配置采集规则,就能自定义采集自身需要的淘宝数据。
采集网站:
https://shopsearch.taobao.com/search?app=shopsearch&q=江小白&isb=0&shop_type=&ratesum=
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
步骤1:创建淘宝采集任务
1)进入主界面,选择“自定义采集”
淘宝数据采集器使用步骤1
2)将要采集的网址URL复制粘贴到网站输入框中,点击“保存网址”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤2
步骤2:创建翻页循环
1)打开网页之后,找到页面最下方的“下一页”创建翻页循环,如下图
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤3
点击下一页,在操作提示中选择循环点击下一页,以此生成循环翻页。注意:有时点击下一页并不会出现循环点击下一页,但若此时出现循环点击单个链接,则可以选则循环点击单个链接(或元素),其功能和循环点击下一页相同。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤4
步骤3:创建循环列表
1)将鼠标移动到页面上方(蓝色表示点击后会选中的元素),选择页面某一行
数据(包含的字段进可能全),如图蓝色部分,然后点击
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
。
淘宝数据采集器使用步骤5
2)点击后继续选择下一行同类型的数据,如图:
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤6
再次点击,操作提示中出现已选中XX个元素,以下是列表。此时点击采集以下元素。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤7
3)至此循环列表创建完毕。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤8
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
步骤4:提取数据设置
1)自动生成的数据字段会将匹配到的文本和链接都抓取上,其中不需要的字段可点击选中后删除。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤9
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
注:若太多字段是自己不需要的,可点中某一个字段后,同时按住键盘上的Ctrl和A,即可选中全部字段,然后点击下方的“删除数据字段”。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤10
删除字段后再一个个选择自己需要的字段。如图,选中后点击,然后需求选择“采集该链接的文本”或“采集该链接地址”还是“采集该元素的文本”。此时一般不要点击“选中全部”,点“选中全部”后会再生成一个循环提取数据。之前步骤3中的操作已建立好了循环列表。故不需要再次建立。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤11
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
2)删除不需要字段(或点击采集所需字段)后,对现有字段进行重命名。
淘宝数据采集器使用步骤12
3)命名后检查字段发现部分字段缺失。如“城市”“店铺ID”“店铺类型”。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤13
4)对于“城市”,检查页面发现在第三行数据中有相应信息。则先在循环列表的循环项中选中第三项(蓝色表示已选中),然后再点击提取数据。
淘宝数据采集器使用步骤14
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤15
1)选中第三项进行提取时发现其省份和城市在一起,无法单独提取。如需分成两个字段,则需要进行数据格式,通过正则表达来实现。
2)选中字段后点击下方的自定义数据字段。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤16
3)数据格式化操作参照请参考下方动图。如需完整的格式教程请参考:http://www.bazhuayu.com/tutorialdetail-1/gshsj_7.html
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤17
4)对于“店铺ID”,先弄清楚“店铺ID”是个什么类型的数据,然后页面上未展现,则看看网页源码里是否有这个数据。百度后可知“店铺ID”是shop
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
后接一串数字的数据,如“shop123123123”。查看源码,发现可以找到该信息。
5)准备工具:火狐浏览器(54版或之前版本),安装firebug和firepath插件。其他工具能查看源码斌顺利写XPath也可以。 A. 在浏览器中打开网页,然后找到对应的数据区域 B. 逐个检查该区域源码,找到符合要求是数据。
淘宝数据采集器使用步骤18
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
C. 根据目标数据——点评ID,所在位置写出其XPath路径。此处的XPath路径为://li/a[@trace=\
淘宝数据采集器使用步骤19
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
9)点击网页图片选择抓取图片地址(选择其他的也可以,重点是生成一个数据
字段并含有相对XPath)。
淘宝数据采集器使用步骤20
10)选择自定义字段,对该字段进行XPath和提取方式的修改。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤21
A.修改XPath,选择“自定义元素定位方式”,然后将相对XPath替换为之前在浏览器中写好的XPath——//li/a[@trace=\
淘宝数据采集器使用步骤22
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤23
淘宝数据采集器使用步骤24
B:修改该字段的抓取方式,选择“自定义抓取方式”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤25
此处选择“抓取超链接(A标签的href)”,因为该店铺ID 在其href属性下。如果我们需要的数据在其他属性中,也可以通过上方的“抓取元素的指定属性值”来获取。要是均不能获取到,则选择抓取网页源码。选择完毕后点击下方“确定”进行保存。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤26
12)对数据进行格式化处理
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤27
A.选择“正则表达式匹配”
淘宝数据采集器使用步骤28
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
B. 再选择使用正则工具
淘宝数据采集器使用步骤29
C. 以“shop”为开始并包含“shop”,以“.”为结束标志。生成正则表达式后即可进行应用,然后点确定保存。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤30
13)对于“店铺类型”,网页和源码中无此字段。我们可以设置固定值来增加该字段。选择“添加特殊字段”→“添加固定字段”→输入值“白酒”→“确定”保存。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤31
14)调整字段顺序后点击“开始采集”进行本地采集测试。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤32
步骤5:采集与调试
1)选择“启动本地采集”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤33
2)仔细观察本地采集时的运行情况。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤34
发现:
1. 采集量过少,出现漏数据。第一页明明有20条数据,实际只采集到6条。 原因:网页是滚动下拉加载数据,页面加载到下方才会展现相应的数据。 解决方法:在“打开网页”和“点击翻页”的高级选项中设置“滚动页面”,次数,间隔,方式应根据网站的实际加载情况来设置。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤35
2. 采集出现大量重复数据,仔细观察采集情况发现其一直在一二页来回采,手动执行流程也发现第二次点击翻页后,页面跳回了第一页。 原因:循环翻页的XPath不对
解决方法:修改翻页循环的XPath,以求在每一页(除最后一页)均内定位到“下一页”,在分析网页源码后写出正确的XPath为:
//li/a[@trace=\将此XPath替换循环原有XPath。 此类问题可在教程中心搜索“一二页重复”一获得更详细的教程。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤36
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤37
3. 采集速度过慢,页面在翻页后要等待较长时间(超过两分钟)才会执行下一步操作。
原因:网页打开慢,八爪鱼未能检测到页面加载完全的从而接收不到执行下一步的信号,故会按一个默认时间(两分钟)进行等待。
解决方案:对“点击翻页”设置ajax超时,使八爪鱼提前获得信号,强制进行下一步操作,从而提高采集速度。Ajax超时时间请根据所需数据加载完的时长来设置。本例设置如下:
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤38
3) 问题解决,流程调试完成后再次启动本地采集。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤39
4)采集完成后,会跳出提示,选择“导出数据”,选择“合适的导出方式”,将采集好的数据导出, 这里我们选择excel作为导出为格式,此时淘宝卖家信息就顺利导出来,数据导出后如下图:
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
淘宝数据采集器使用步骤40
相关采集教程:
淘宝买家秀图片采集详细教程 http://www.bazhuayu.com/tutorial/tbmjxpic 淘宝聚划算商品采集 http://www.bazhuayu.com/tutorial/tbjhsspcj
淘宝图片采集并下载到本地的方法 http://www.bazhuayu.com/tutorial/tbgoodspic 淘宝网宝贝采集器 淘宝商品评论采集
http://www.bazhuayu.com/tutorial/cjtbsp-7 http://www.bazhuayu.com/tutorial/taobappinglun
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
八爪鱼——90万用户选择的网页数据采集器。
1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。
2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。
3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。
4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云),满足高端付费企业用户的需要。
淘宝数据采集器怎么使用



