什么是网络爬虫
网络爬虫（又被称为网页蜘蛛，网络机器人，在foaf社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
爬虫并不追求大的覆盖，而将目标定为抓取与某一特定主题内容相关的网页，为面向主题的用户查询准备数据资源。
小编记得有一个知名的网站号称最强大的“黑暗”搜索引擎工具shodan，互联网上最可怕的搜索引擎！小编的确进去看过，搜索tp-link后，出现了大量的路由器，我点击任何一个所有信息都是可以看到的，包括国家，主机名等等，有兴趣的大家可以去官网上看看
在如今这个高速发展的社会，科技发达，信息流通，人们之间的交流越来越密切，生活也越来越方便，大数据就是这个高科技时代的产物，而面临的问题就是大数据隐私
你或许并不敏感，当你在不同的网站上注册了个人信息后，可能这些信息已经被扩散出去了，当你莫名其妙的接到各种邮件，电话，短信的滋扰时，你不会想到自己的电话号码，邮箱，生日，购买记录，收入水平，家庭住址，亲朋好友等私人信息早就被各种商业机构非法存储或贱卖给其它任何有需要的企业或个人了。
更可怕的是，这些信息你永远无法删除，它们永远存在于互联网的某些你不知道的角落。除非你更换掉自己的所有信息，但是这代价太大了。
而我认为手握大数据还应该有大数据的思维，才能更好的利用！好的用途有：
大数据帮助政府实现市场经济调控、公共卫生安全防范、灾难预警、社会舆论监督；
大数据帮助城市预防犯罪，实现智慧交通，提升紧急应急能力；
大数据帮助医疗机构建立患者的疾病风险跟踪机制，帮助医药企业提升药品的临床使用效果，帮助艾滋病研究机构为患者提供定制的药物；
大数据帮助航空公司节省运营成本，帮助电信企业实现售后服务质量提升，帮助保险企业识别欺诈骗保行为，帮助快递公司监测分析运输车辆的故障险情以提前预警维修，帮助电力公司有效识别预警即将发生故障的设备；
大数据帮助电商公司向用户推荐商品和服务，帮助旅游网站为旅游者提供心仪的旅游路线，帮助二手市场的买卖双方找到最合适的交易目标，帮助用户找到最合适的商品购买时期、商家和最优惠价格；
大数据帮助企业提升营销的针对性，降低物流和库存的成本，减少投资的风险，以及帮助企业提升广告投放精准度；
大数据帮助娱乐行业预测歌手，歌曲，电影，电视剧的受欢迎程度，并为投资者分析评估拍一部电影需要投入多少钱才最合适，否则就有可能收不回成本；等等
今天在知乎上看到了一个帖子，分享给大家，不知大家看完有何感想
我们今天浅谈了一下大数据，希望不了解的朋友看一下，第二个方面今天我们不做程序员，教你如何进行简单的爬虫，将自己需要的大数据进行搜集，分享几个的小白上手易操作爬虫软件，感兴趣的可以试一下。
第一个：八爪鱼 大数据
第二个极搜客 这两个都是有免费的
第三个 熊猫采集 这个大家可以试用一下，并不是免费的
其他的比较专业的有arachnid、ex-crawlere、herdy等等
好了，今天的文章到此结束了，希望能帮助到大家，对爬虫有兴趣的朋友可以试试我分享的这三款软件，个人认为极搜客还是蛮不错的，谢谢大家看我的文章，知数码行天下每天不断更新新的文章！