当前位置:主页 > python教程 > Python使用爬虫爬取静态网页图片的方法详解

Python爬取静态网页图片的原理方法

发布:2020-01-02 16:19:45 175


本站精选了一篇Python爬静态网页相关的编程文章,网友慎斯玉根据主题投稿了本篇教程内容,涉及到Python爬虫、静态网页、Python使用爬虫爬取静态网页图片的方法详解相关内容,已被956网友关注,涉猎到的知识点内容可以在下方电子书获得。

Python使用爬虫爬取静态网页图片的方法详解

本文实例讲述了Python使用爬虫爬取静态网页图片的方法。分享给大家供大家参考,具体如下:

爬虫理论基础

其实爬虫没有大家想象的那么复杂,有时候也就是几行代码的事儿,千万不要把自己吓倒了。这篇就清晰地讲解一下利用Python爬虫的理论基础。

首先说明爬虫分为三个步骤,也就需要用到三个工具。

① 利用网页下载器将网页的源码等资源下载。
② 利用URL管理器管理下载下来的URL
③ 利用网页解析器解析需要的URL,进而进行匹配。

网页下载器

网页下载器常用的有两个。一个是Python自带的urllib2模块;另一个是第三方控件requests。选用哪个其实差异不大,下一篇将会进行实践操作举例。

URL管理器

url管理器有三大类。

① 内存:以set形式存储在内存中
② 存储在关系型数据库mysql等
③ 缓存数据库redis中

网页解析器

网页解析器一共有四类:

1.正则表达式,不过对于太复杂的匹配就会有些难度,属于模糊匹配。
2.html.parser,这是python自带的解析工具。
3.Beautiful Soup,一种第三方控件,顾名思义,美味的汤,用起来确实很方便,很强大。
4.lxml(apt.xml),第三方控件。

以上的这些全部属于结构化解析(DOM树)

什么式结构化解析(DOM)?

Document Object Model(DOM)是一种树的形式。

Python使用爬虫爬取静态网页图片的方法详解

Beautiful Soup的语法

html网页—>创建BeautifulSoup对象—>搜索节点 find_all()/find()—>访问节点,名称,属性,文字等……

Beautiful Soup官方文档

实现代码

说过了理论基础,那么现在就来实践一个,要爬取一个静态网页的所有图片。

这里使用的网页下载器是python自带的urllib2,然后利用正则表达式匹配,输出结果。

以下为源码:

//引入小需要用到的模块
import urllib2
import re
def main():
  //利用urllib2的urlopen方法,下载当前url的网页内容
  req = urllib2.urlopen('http://www.imooc.com/course/list')
  //将网页内容存储到buf变量中
  buf = req.read()
  //将buf中的所有内容与需要匹配的url进行比对。这里的正则表达式是根据静态网页的源码得出的,查看静态网页源码开启开发者模式,按F12即可。然后确定图片块,查看对应源码内容,找出规律,编写正则表达式。
  listurl = re.findall(r'src=.+\.jpg',buf)
  i = 0
  //将结果循环写入文件
  for url in listurl:
    f = open(str(i)+'.jpg','w')
    req = urllib2.urlopen(url[5:])
    buf1 = req.read()
    f.write(buf1)
    i+=1
if __name__ == '__main__':
  main()

至此一个静态网页的图片爬虫就完成了,下面来看下效果。

这是静态网页:

Python使用爬虫爬取静态网页图片的方法详解

以下是爬取的结果:

Python使用爬虫爬取静态网页图片的方法详解

希望本文所述对大家Python程序设计有所帮助。


相关文章

  • Python7个爬虫小案例详解(附源码)中篇

    发布:2023-03-04

    这篇文章主要介绍了Python7个爬虫小案例详解(附源码)中篇,本文章内容详细,通过案例可以更好的理解爬虫的相关知识,七个例子分为了三部分,本次为中篇,共有二道题,需要的朋友可以参考下


  • python爬虫被封的问题分析

    发布:2019-06-13

    这篇文章主要介绍了爬虫被封的问题,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧


  • python爬虫需要学哪些东西

    发布:2020-01-27

    学习Python爬虫,首先要掌握Python基础知识,了解爬虫的大概流程:爬取—解析—存储!接下来要学习html和MySQL的相关知识,最后将这些知识综合运用。


  • python爬取get请求的页面数据代码浅析

    发布:2019-12-05

    本篇文章给大家带来的内容是关于python爬虫如何爬取get请求的页面数据(附代码),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。​


  • Python3将爬取的信息保存到本地的方法代码

    发布:2020-01-17

    这篇文章主要介绍了Python3爬虫学习之将爬取的信息保存到本地的方法,结合实例形式详细分析了Python3信息爬取、文件读写、图片存储等相关操作技巧,需要的朋友可以参考下


  • Python爬虫报错<response [406]>(已解决)

    发布:2023-04-18

    本文主要介绍了Python爬虫报错<response [406]>,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧


  • 教你如何用python爬取王者荣耀月收入流水线

    教你如何用python爬取王者荣耀月收入流水线

    发布:2022-07-04

    给网友朋友们带来一篇关于python的教程,这篇文章主要介绍了教你如何用python爬取王者荣耀月收入流水线,对正在学习python的小伙伴们有一定的帮助,需要的朋友可以参考下


  • Python爬虫包BeautifulSoup学习实例(五)

    发布:2022-04-04

    这篇文章主要为大家详细介绍了Python爬虫包BeautifulSoup的学习实例,具有一定的参考价值,感兴趣的朋友可以参考一下


网友讨论