八爪鱼网页数据采集器

八爪鱼采集器是一款业界领先的新一代、智能、通用网页数据采集器，全可视化操作，无需编写代码，内置海量模板，支持任意网络数据抓取，无需专业知识，会上网就能轻松掌握，新闻、论坛、电话邮箱、竞争对手、客户资料、汽车房产、电子商务等任何网站均可采集，并且可以将采集到的数据导出为多种格式，让用户在网上抓取资料编的更加简单和容易！

八爪鱼采集器特色

1、任何人都可以使用

还在研究网页源代码和抓包工具吗？现在不用了，会上网就能使用八爪鱼采集器采集，所见即所得的界面，可视化流程，无需懂技术，点点鼠标，2分钟即可快速入门。

2、任何网站都可以采集

八爪鱼采集器不仅使用简单，而且功能强大：点击，登陆，翻页，甚至识别验证码，当网页出错误，或者多套模版完全不一样的时候，还可以根据不同情况做不同的处理。

3、云采集，关机也可以

配置好采集任务，就可以关机了，任务可以在云端执行，数量庞大的企业云，24*7不间断运行，再也不用担心IP被封，网络中断了，还能瞬间采集大量数据。

八爪鱼采集器功能

1、简易采集

简易采集模式内置上百种主流网站数据源，如京东、天猫、大众点评等热门采集网站，只需参照模板简单设置参数，就可以快速获取网站公开数据。

2、智能采集

八爪鱼采集可根据不同网站，提供多种网页采集策略与配套资源，可自定义配置，组合运用，自动化处理。从而帮助整个采集过程实现数据的完整性与稳定性。

3、云采集

由5000多台云服务器支撑的云采集，7*24小时不间断运行，可实现定时采集，无需人员值守，灵活契合业务场景，帮你提升采集效率，保障数据时效性。

4、API接口

通过八爪鱼API，可以轻松获取八爪鱼任务信息和采集到的数据，灵活调度任务，比如远程控制任务启动与停止，高效实现数据采集与归档。基于强大的API体系，还可以无缝对接公司内部各类管理平台，实现各类业务自动化。

5、自定义采集

针对不同用户的采集需求，八爪鱼可提供自动生成爬虫的自定义模式，可准确批量识别各种网页元素，还有翻页、下拉、ajax、页面滚动、条件判断等多种功能，支持不同网页结构的复杂网站采集，满足多种采集应用场景。

6、便捷定时功能

简单几步点击设置，即可实现采集任务的定时控制，不论是单次采集的定时设置，还是预设某一天或是每周每月的定时采集，都可以同时对多个任务自由进行设置，根据需要对选择时间进行多重组合，灵活调配自己的采集任务。

7、全自动数据格式化

八爪鱼内置了强大的数据格式化引擎，支持字符串替换、正则表达式替换或匹配、去除空格、添加前缀或后缀、日期时间格式化、HTML转码等多项功能，采集过程中全自动处理，无需人工干预，即可得到所需格式数据。

8、多层级采集

很多主流新闻、电商类的网站，里面包含一级商品列表页，也包含二级商品详情页，还有三级评论详情页面;不论网站有多少层级，八爪鱼都可以不限制层级的采集数据，满足各类业务采集需求。

9、支持网站登录后采集

八爪鱼内置了采集登录模块，只需配置目标网站的账号密码，即可用该模块采集到登录后的数据;同时八爪鱼还具备采集Cookie自定义功能，首次登录以后，可以自动记住cookie，免去多次输入密码的繁琐，支持更多网站的采集。

使用教程

先我们新建一个任务-->进入流程设计页面-->添加一个循环步骤到流程中-->选中循环步骤-->勾选上软件右方的URL 列表勾选框-->打开URL列表文本框-->将准备好的URL列表填写到文本框中

接下来往循环中拖入一个打开网页的步骤-->选中打开网页步骤-->勾选上使用当前循环里的URL作为导航地址-->点击保存。系统会在界面下方的浏览器中打开循环中选中的URL对应的网页

到这里，循环打开网页的流程就配置完成了，运行流程的时候，系统会逐个的打开循环中设置的URL。最后我们不需要配置一个采集数据的步骤，这里就不在多讲，大家可以参考从入门到精通系列1：采集单个网页 这篇文章。下图就是最终和流程

下面是流程最终的运行结果 

更新日志　

1、新增边采集边下载文件（暂支持本地采集）
操作提示系统新增文件URL识别和下载提取设置
数据预览的字段选项新增“下载文件”选项，自动生成下载文件“保存位置”字段
任务设置面板新增文件下载路径、启动项设置
本地采集面板新增下载信息模块
2、新增账户中心系统
新增个人头像
新增微信、手机、邮箱信息绑定修改
新增余额系统，支持模板、验证码、IP代理直接用余额扣费
新增自助在线上传支付凭证（线下支付方式）
3、新增版本套餐页面
支持客户端内升级或购买账号版本套餐
4、本地采集日志系统
新增错误日志上下文信息
5、优化修复已知的性能bug问题