Python的Scrapy框架爬取图片实例详解

  • 更新时间:2020-07-10 10:49:38
  • 编辑:利婷婷
给寻找编程代码教程的朋友们精选了相关的编程文章,网友终郁蓝根据主题投稿了本篇教程内容,涉及到scrapy、抓取图片、scrapy递归抓取、scrapy递归抓取网页、使用Python的Scrapy框架十分钟爬取美女图相关内容,已被356网友关注,下面的电子资料对本篇知识点有更加详尽的解释。

参考资料

正文内容

使用Python的Scrapy框架十分钟爬取美女图

简介

scrapy 是一个 python 下面功能丰富、使用快捷方便的爬虫框架。用 scrapy 可以快速的开发一个简单的爬虫,官方给出的一个简单例子足以证明其强大:

使用Python的Scrapy框架十分钟爬取美女图

快速开发

下面开始10分钟倒计时:

当然开始前,可以先看看之前我们写过的 scrapy 入门文章 《零基础写python爬虫之使用Scrapy框架编写爬虫

1. 初始化项目

scrapy startproject mzt
cd mzt
scrapy genspider meizitu meizitu.com

2. 添加 spider 代码:

定义 scrapy.Item ,添加 image_urls 和 images ,为下载图片做准备。

修改 start_urls 为初始页面, 添加 parse 用于处理列表页, 添加 parse_item 处理项目页面。

使用Python的Scrapy框架十分钟爬取美女图

3. 修改配置文件:

DOWNLOAD_DELAY = 1 # 添加下载延迟配置
ITEM_PIPELINES = {'scrapy.pipelines.images.ImagesPipeline': 1} # 添加图片下载 pipeline
IMAGES_STORE = '.' # 设置图片保存目录

4. 运行项目:

scrapy crawl meizitu

看,项目运行效果图

使用Python的Scrapy框架十分钟爬取美女图

等待一会儿,就是收获的时候了

使用Python的Scrapy框架十分钟爬取美女图

使用Python的Scrapy框架十分钟爬取美女图

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

相关教程

  • python爬虫好学吗

    python爬虫其实并不难学,首先是使用http库向目标站点发起请求,然后使用正则表达式(RE模块),第三方解析库如Beautifulsoup解析,最后一步将数据存储。

    发布时间:2020-02-17

  • 浅析python爬取100与爬10的区别

    在本文中小编给各位整理的是关于python爬取100与爬10的区别以及相关PY爬虫相关知识点内容,有需要的朋友们学习下。

    发布时间:2019-07-05

  • python爬虫BeautifulSoup简单使用

    文章给大家分享了关于python爬虫的相关实例以及相关代码,有兴趣的朋友们参考下。

    发布时间:2020-03-10

  • python爬虫被封的问题分析

    这篇文章主要介绍了爬虫被封的问题,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

    发布时间:2019-06-13

  • python爬取租房信息并地图上显示的代码

    这篇文章主要介绍了python爬虫租房信息在地图上显示的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

    发布时间:2020-01-20

  • Python中的爬虫是什么

    Python爬虫要做的是什么? 我们所谓的上网便是由用户端计算机发送请求给目标计算机,将目标计算机的数据下载到本地的过程。 只不过,用户获取网络数据的方式是: 浏览器提交请求-下载网页代码-解析/渲染成页面。 而爬虫程序要做的就是: 模拟浏览器发送请求-下载网页代码-只提取有用的数据-存放于数据库或文件中 爬虫基本流程 发送请求---》获取响应内容---》解析内容---》保存数据 1、发起请求使用http库向目标站点发起请求,即发送一个RequestR

    发布时间:2020-05-12

  • Python爬虫解析方法和爬虫实现过程总结

    本文想针对某一网页对 python 基础爬虫的两大解析库( BeautifulSoup 和 lxml )和几种信息提取实现方法进行分析,及同一网页爬虫的四种实现方式,需要的朋友参考下吧

    发布时间:2019-06-05

  • python爬虫实现校园网自动重连脚本的方法

    下面小编就为大家分享一篇python爬虫_实现校园网自动重连脚本的教程,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

    发布时间:2020-02-10

  • 关于Python爬虫使用requests发送post请求的一些疑点

    在Python爬虫中,使用requests发送请求,访问指定网站,是常见的做法,这篇文章主要介绍了Python requests发送post请求的一些疑点,具有一定的参考价值,感兴趣的小伙伴们可以参考一下

    发布时间:2020-02-27

  • selenium+python爬取简书网站的方法

    这篇文章介绍的内容是selenium+python如何爬取简书网站 ,有着一定的参考价值,现在分享给大家,有需要的朋友可以参考一下

    发布时间:2019-10-24

  • Python 快速入门

    Python 快速入门

    Python现如今早已发展趋势变成这种令人震惊的编程语言,它已强劲到得以解决从最底层资源到手机应用程序(如深度神经网络)的各个方面。它既简约、雅致又作用完善,还有着巨大的由库和

    大小:9.73 MBPython入门

  • Python金融大数据分析

    Python金融大数据分析

    大小:47.8 MBPython电子书

  • 跟老齐学Python:数据分析

    跟老齐学Python:数据分析

    大小:198.5 MBPython电子书

  • Python基础教程(第3版)

    Python基础教程(第3版)

    本书是一本Python3.5编程从入门到实践书籍,Python入门佳作,包括Python程序设计的方方面面,既能为初学者夯实基础,又能帮助程序员提升技能

    大小:10.1 MBpython电子书

  • Python数据分析:基于Plotly的动态可视化绘图

    Python数据分析:基于Plotly的动态可视化绘图

    大小:191.3 MBPython数据电子书

用户留言