[经验]

Python爬虫与Web开发库盘点

氧化

2018-5-10 15:21:45

2356

Python爬虫和Web开发均是与网页相关的知识技能，无论是自己搭建的网站还是爬虫爬去别人的网站，都离不开相应的Python库，以下是常用的Python爬虫与Web开发库。

1.爬虫库

beautifulsoup4、urllib2、lxml和requests是学习Python爬虫必备的库，必须要掌握，当然有的同学说爬网页不是也可以用正则表达式吗，确实可以但是会很不方便,因为bs4和lxml都有便捷的接口,一般我们都是和正则结合使用，如果对速度有要求的话，建议用lmxp,它比bs4 速度要快很多。

2.Scrapy

爬虫的世界里面有没有懒人专用的框架，当然有啦,scrapy就是其中比较有名的，可以快速,高层次的web抓取网页，并从web站点的页面中提取结构化的数据

Scrapy用途广泛，可以用于数据挖掘、监测和自动化测试。最爽的就是它是一个框架，任何人都可以根据需求方便的修改，里面有很多类型爬虫的基类，如BaseSpider、sitemap爬虫等

3.Web框架

Django算是Python web框架里重量级的选手，主要是因为它提供了一站式的解决方案,包括缓存、ORM、后台管理、验证和表单等，使得开发复杂的数据库驱动的网站变的很简单,而且有非常齐备的官方文档。

Flask设计的理念跟Django完全相反，它是轻量级Web应用框架的代表。它只保留核心的功能，其他的功能都是可以变动，可以扩展的，你可以更加直接的需求灵活搭配。

Tornado全称叫Tornado Web Server,目前是Facebook开源的一个版本,它和其他主流的框架有一个非常明显的区别：就是非阻塞式服务器,速度非常快。特别对于长轮询，WebSocket等实时要求高的web服务来说是一个福音,基本可以和Node.js一决高下。