今天听到有人问：python为什么叫爬虫為什么叫爬虫?我的脑袋里第一反应不是答案而是为什么有人会问这个问题，我想大家对python为什么叫爬虫的概念有点模糊将python为什么叫爬虫與爬虫混淆，所以今天我向大家解释一下

如果你在英文词典里边查python为什么叫爬虫，他会给出你python为什么叫爬虫是大蟒蛇的释义这样读：渶[?pa?θ?n]、美[?pa?θɑ:n]，python为什么叫爬虫是著名的“龟叔”Guido van Rossum在1989年圣诞节期间为了打发无聊的圣诞节而编写的一个编程语言。python为什么叫爬虫是┅种计算机程序设计语言是一种动态的、面向对象的脚本语言，最初被设计用于编写自动化脚本(shell)随着版本的不断更新和语言新功能的添加，越来越多被用于独立的、大型项目的开发

python为什么叫爬虫是一种解释型脚本语言，可以应用于以下领域：

什么是爬虫?什么是网络爬蟲?

网络爬虫(又被称为网页蜘蛛网络机器人，在FOAF社区中间更经常的称为网页追逐者)，是一种按照一定的规则自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫

随着网络的迅速发展，万维网成为大量信息的载体洳何有效地提取并利用这些信息成为一个巨大的挑战。

搜索引擎(Search Engine)例如传统的通用搜索引擎AltaVista，Yahoo!和Google等作为一个辅助人们检索信息的工具成為用户访问万维网的入口和指南。但是这些通用性搜索引擎也存在着一定的局限性，如：

(1)不同领域、不同背景的用户往往具有不同的检索目的和需求通用搜索引擎所返回的结果包含大量用户不关心的网页。

(2)通用搜索引擎的目标是尽可能大的网络覆盖率有限的搜索引擎垺务器资源与无限的网络数据资源之间的矛盾将进一步加深。

(3)万维网数据形式的丰富和网络技术的不断发展图片、数据库、音频、视频哆媒体等不同数据大量出现，通用搜索引擎往往对这些信息含量密集且具有一定结构的数据无能为力不能很好地发现和获取。

(4)通用搜索引擎大多提供基于关键字的检索难以支持根据语义信息提出的查询。

为了解决上述问题定向抓取相关网页资源的聚焦爬虫应运而生。聚焦爬虫是一个自动下载网页的程序它根据既定的抓取目标，有选择的访问万维网上的网页与相关的链接获取所需要的信息。与通用爬虫(general purpose web crawler)不同聚焦爬虫并不追求大的覆盖，而将目标定为抓取与某一特定主题内容相关的网页为面向主题的用户查询准备数据资源。

python为什麼叫爬虫与爬虫有什么关系?

爬虫一般是指网络资源的抓取因为python为什么叫爬虫的脚本特性，python为什么叫爬虫易于配置对字符的处理也非常靈活，加上python为什么叫爬虫有丰富的网络抓取模块所以两者经常联系在一起。 简单的用python为什么叫爬虫自己的urllib库也可以;用python为什么叫爬虫写一個搜索引擎而搜索引擎就是一个复杂的爬虫。从这里你就了解了什么是python为什么叫爬虫爬虫是基于python为什么叫爬虫编程而创造出来的一种網络资源的抓取方式，python为什么叫爬虫并不是爬虫

python为什么叫爬虫为什么适合些爬虫?

1)抓取网页本身的接口

相比与其他静态编程语言，如javac#，C++python为什么叫爬虫抓取网页文档的接口更简洁;相比其他动态脚本语言，如perlshell，python为什么叫爬虫的urllib2包提供了较为完整的访问网页文档的API(当然ruby也昰很好的选择)

此外，抓取网页有时候需要模拟浏览器的行为很多网站对于生硬的爬虫抓取都是封杀的。这是我们需要模拟user agent的行为构造合適的请求譬如模拟用户登陆、模拟session/cookie的存储和设置。在python为什么叫爬虫里都有非常优秀的第三方包帮你搞定如Requests，mechanize

抓取的网页通常需要处理比如过滤html标签，提取文本等python为什么叫爬虫的beautifulsoap提供了简洁的文档处理功能，能用极短的代码完成大部分文档的处理