scrapy入门教程2:建立一个简单的爬取南邮新闻标题的爬虫demo

0. 基本环境说明

  1. 本文截图及运行环境均在MAC OS X 10.9.5上实现,但基本步骤与win 7环境上相同(其实我是先在win7折腾了一把,然后为了写这篇教程,又在OS X 上面重新搞了一遍)
  2. scrapy版本为1.0
  3. 参考文献以及下载链接:

1. 建立步骤

通过上一篇内容我们已经将scrapy环境配置完毕,下面我们来实现一个demo来爬取南京邮电大学新闻页面的内容。

1. 创建一个新工程

输入以上命令之后,就会看见命令行运行的目录下多了一个名为njupt的目录,目录的结构如下:

至此,工程创建完毕。

2. 设置 items

本文以抓取南邮新闻为例,需要存储三种信息:

  1. 南邮新闻标题
  2. 南邮新闻时间
  3. 南邮新闻的详细链接

items内部代码如下:

至于为什么每一句都用scrapy.Field(),这个等请关注我的后续教程,现在只要记住按照以上的格式来添加新的要提取的属性就可以了~。

3. 编写 spider

spider是爬虫的主体,负责处理requset response 以及url等内容,处理完之后交给pipelines进行进一步处理。
设置完items之后,就在spiders目录下新建一个njuptSpider.py文件,内容如下:

其中

  1. name为爬虫名称,在后面启动爬虫的命令当中会用到。
  2. allowed_domains为允许爬虫爬取的域名范围(如果连接到范围以外的就不爬取)
  3. start_urls表明爬虫首次启动之后访问的第一个Url,其结果会被自动返回给parse函数。4.
  4. parse函数为scrapy框架中定义的置函数,用来处理请求start_urls之后返回的response,由我们实现
  5. news_page_num = 14page_num = 386别表示每页的新闻数目,和一共有多少页,本来也可以通过xpath爬取下来的,但是我实在是对我们学校的网站制作无语了,html各种混合,于是我就偷懒手动输入了。
  6. 之后通过item = NjuptItem()来使用我们之前定义的item,用来存储新闻的url、标题、日期。(这里面有一个小技巧就是通过|来接连xpath可以一次返回多个想要抓取的xpath)
  7. 通过yield item来将存储下来的item交由后续的pipelines处理
  8. 之后通过生成next_page_url来通过scrapy.Request抓取下一页的新闻信息
  9. scrapy.Request的两个参数,一个是请求的URL另外一个是回调函数用于处理这个requestresponse,这里我们的回调函数是parse_news
  10. parse_news里面的步骤和parse差不多,当然你也可以改造一下parse然后直接将其当做回调函数,这样的话一个函数就ok了

4. 编写 pipelines

初次编写可以直接编辑njupt目录下的pipelines.py文件。pipelines主要用于数据的进一步处理,比如类型转换、存储入数据库、写到本地等。
本爬虫pipelines如下:

其实pipelines是在每次spideryield item 之后调用,用于处理每一个单独的item。上面代码就是实现了在本地新建一个njupt.txt文件用于存储爬取下来的内容。

5. 编写 settings.py

settings.py文件用于存储爬虫的配置,有很多种配置,由于是入门教程,不需要配置很多,我们这里就添加一下刚才编写的pipelines就行了。文件内容如下。

6. 启动爬虫与查看结果

以上步骤全部完成之后,我们就启动命令行,然后切换运行目录到njuptspider目录下,通过以下命令启动爬虫

经过一段时间的风狂爬取,爬虫结束。会报一些统计信息

最后让我们来查看一下爬取成果

至此,大功告成~

1 2 收藏 2 评论

相关文章

可能感兴趣的话题



直接登录
最新评论
  • 荒诞鬼 种田大户 2016/06/12

    第一个parse 里面 返回的item  不是会多次执行吗 这样

  • 荒诞鬼 种田大户 2016/06/12

     

跳到底部
返回顶部