当前位置:首页 > 编程教程 > Python技术文章 > 使用Python的Scrapy框架十分钟爬取美女图

Python的Scrapy框架爬取图片实例详解

  • 发布时间:
  • 作者:码农之家
  • 点击:197

这篇文章主要知识点是关于scrapy、抓取图片、scrapy递归抓取、scrapy递归抓取网页、的内容,如果大家想对相关知识点有系统深入的学习,可以参阅以下电子书

跟老齐学Python:Django实战
  • 类型:Python大小:151 MB格式:PDF作者:齐伟
立即下载

使用Python的Scrapy框架十分钟爬取美女图

简介

scrapy 是一个 python 下面功能丰富、使用快捷方便的爬虫框架。用 scrapy 可以快速的开发一个简单的爬虫,官方给出的一个简单例子足以证明其强大:

使用Python的Scrapy框架十分钟爬取美女图

快速开发

下面开始10分钟倒计时:

当然开始前,可以先看看之前我们写过的 scrapy 入门文章 《零基础写python爬虫之使用Scrapy框架编写爬虫

1. 初始化项目

scrapy startproject mzt
cd mzt
scrapy genspider meizitu meizitu.com

2. 添加 spider 代码:

定义 scrapy.Item ,添加 image_urls 和 images ,为下载图片做准备。

修改 start_urls 为初始页面, 添加 parse 用于处理列表页, 添加 parse_item 处理项目页面。

使用Python的Scrapy框架十分钟爬取美女图

3. 修改配置文件:

DOWNLOAD_DELAY = 1 # 添加下载延迟配置
ITEM_PIPELINES = {'scrapy.pipelines.images.ImagesPipeline': 1} # 添加图片下载 pipeline
IMAGES_STORE = '.' # 设置图片保存目录

4. 运行项目:

scrapy crawl meizitu

看,项目运行效果图

使用Python的Scrapy框架十分钟爬取美女图

等待一会儿,就是收获的时候了

使用Python的Scrapy框架十分钟爬取美女图

使用Python的Scrapy框架十分钟爬取美女图

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

以上就是本次给大家分享的关于java的全部知识点内容总结,大家还可以在下方相关文章里找到相关文章进一步学习,感谢大家的阅读和支持。

您可能感兴趣的文章:

  • python爬虫好学吗
  • 浅析python爬取100与爬10的区别
  • python爬虫BeautifulSoup简单使用
  • python爬虫被封的问题分析
  • python爬取租房信息并地图上显示的代码
  • Python中的爬虫是什么
  • Python爬虫解析方法和爬虫实现过程总结
  • python爬虫实现校园网自动重连脚本的方法
  • 关于Python爬虫使用requests发送post请求的一些疑点
  • selenium+python爬取简书网站的方法
  • 相关电子书
    学习笔记

    Copyright 2018-2020 www.xz577.com 码农之家

    版权投诉 / 书籍推广 / 赞助:520161757@qq.com