python爬取2021猫眼票房字体加密实例
- 更新时间:2022-09-12 09:37:34
- 编辑:巴哲圣
春节假期刚过,大家有没有看春节档的电影呢?今年的春节档电影很是火爆,我们可以在猫眼票房app查看有关数据,因为数据一致在更新,所以他的字体是动态的,想要爬取有些困难,再加上猫眼app对字体进行加密,该如何爬取呢?本文介绍反爬2021猫眼票房字体加密的实例。
一、字体加密原理
简单来说就是程序员在设计网站的时候使用了自己设计的字体代码对关键字进行编码,在浏览器加载的时会根据这个字体文件对这些字体进行编码,从而显示出正确的字体。
二、爬取实例
1、得到字体斜率字典
import requestsimport urllib.request as downimport jsonfrom fontTools.ttLib import TTFontimport reimport MyPyClass# 得到字体斜率列表(部分)def font_Kdict(mapstype,maps=None): ''' 得到字体斜率字典(部分) 参数: mapstype:str->maps类型,判断是是base/new maps:映射字典 return kdict kdict字典关系: num:Klist 数字对应每条线段的斜率列表 ''' kdict={}
2、遍历maps字典,找到对应的num和namecode
for num, namecode in maps.items(): # 跳过无用数据 if namecode == 'x': continue # 判断类型,并从.coordinates得到对应num的所有坐标 if mapstype=='base':coordinates = namecode.coordinates elif mapstype=='new':coordinates=glyf[namecode].coordinates # 得到坐标 X列表和坐标 Y列表 x = [i[0] for i in coordinates] y = [i[1] for i in coordinates] Klist = [] # 遍历X列表并切片为前10个数据进行斜率计算,即代表绘图的前10条线段的斜率 for index, absx in enumerate(x[:10]): # 当斜率为0/1时,认为斜率为1计算 if x[index + 1] == x[index] or y[index + 1] == y[index]: absxy = 1 else: absxy = (y[index + 1] - y[index]) / (x[index + 1] - x[index]) # 将斜率加入到列表 Klist.append(-absxy if absxy < 0 else absxy) kdict[num]=Klist #print('base:', code, Klist, name) return kdict
3、对比斜率字典
def contrast_K(kbase,knew): ''' 对比斜率映射差距 参数: kbase:基础字体映射表的斜率字典 knew:当前链接的字体映射表的斜率字典 return:dict fontMaps:根据对比得出正确的字体映射关系字典 fontMaps = {} # 遍历kbase字典 for base in kbase.items(): n = 0 # 成功匹配的斜率个数 # 遍历knew字典 for new in knew.items(): # 遍历kbase>knew>下的两组斜率,进行大小匹配, # 如果斜率k的差值小于0.5,并且样本数>=9时,认为两个坐标图形相识只是大小比例不同 # 即k<=0.5 n>=9 for (k1,k2) in zip(base[1],new[1]): # k取正数 k=k1-k2 if k1>k2 else k2-k1 if k<=0.5: n+=1 continue else: break if n>=9: # 匹配正确则添加进字典中 此时的字典关系是:code:num 代码对应数字的关系 fontMaps[str(hex(new[0]).replace('0x','&#x'))]=str(base[0]) break n=0 #print(fontMaps) return fontMaps
4、爬取内容
with requests.get(url,headers={'user-agent':ua}) as response: # 获取存放字典的json字段,并提取字体url fontStyle=json.loads(response.content)['fontStyle'] fontStyle=re.findall('\"([\s\S]*?)\"',fontStyle[::-1]) fonturl='http:'+fontStyle[0][::-1]# 字体url链接 # 将加载的字体下载保存到本地,并对其进行分析 down.urlretrieve(fonturl,'newfont.woff') # 爬取的电影数据内容 content = json.loads(response.content)['movieList']['data']['list']# 信息字典movieNum={}#综合票房数字典movieDayOne= {}#上映首日数量movieRate={}#票房占比movieshowCount={}#排片场次movieViewerAvg={}#场均人数movieInfos={}# 页面内容for i in content: moviename=i['movieInfo']['movieName'] movieNum[moviename]=i['boxSplitUnit']['num'] movieDayOne[moviename]=i['sumBoxDesc'] movieRate[moviename]=i['splitBoxRate'] movieshowCount[moviename]=i['showCount'] movieViewerAvg[moviename]=i['avgShowView']# 新字体对象fontnew=TTFont('newfont.woff') # 得到当前字体的映射关系表newNumberMaps=fontnew.getBestCmap()# 获取字形glyf=fontnew['glyf'] # 基础字体斜率字典k_base_dict=font_Kdict(maps=baseNumberMaps,mapstype='base') # 新字体斜率字典k_new_dict=font_Kdict(maps=fontnew.getBestCmap(),mapstype='new') # 得到字体映射字典fontcodes=contrast_K(k_base_dict,k_new_dict)# 对加密的字体遍历分组,并去除无用字符 for name,numbercode in movieNum.items(): movieNum[name]=re.findall('([\S]*?);', numbercode) # 根据得到的fontcodes映射对加密字体进行替换,得到正确数值for index,(name,numbercodelist) in enumerate(movieNum.items()): num=[] # 替换操作 for code in numbercodelist: if '.' in code: code=code.replace('.','') num.append('.'+fontcodes[code]) else: num.append(fontcodes[code]) infos=['排行:'+str(index+1), '片名',name, '上映首日',movieDayOne[name], '票房',''.join(num)+'万', '票房占比',movieRate[name], '场均人数',movieViewerAvg[name]+'人', '排片场次',movieshowCount[name]] print(infos)
到此这篇关于python爬取2021猫眼票房字体加密实例的文章就介绍到这了,更多相关python爬2021猫眼票房数据内容请搜索码农之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持码农之家!
相关教程
-
python打开机密软件加密的excel
在本篇文章里小编给大家分享了关于python打开机密软件加密的excel的实例方法和代码,有需要的朋友们学习下。
发布时间:2019-07-06
-
python多版本下设置python3为默认的方法
这篇文章主要介绍了如何在双python下设置python3为默认,本文通过一个例子分步骤给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
发布时间:2019-06-06
-
python3的url编码和解码应用实例
今天小编就为大家分享一篇python3的url编码和解码,自定义gbk、utf-8的例子,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
发布时间:2020-01-30
-
python实现壁纸批量下载的方法详解
本篇文章通过代码实例给大家分享了用python实现壁纸批量下载这个功能,有兴趣的朋友参考下吧。
发布时间:2019-12-20
-
python类定义全局变量的方法
声明法,在python类或当前模块中使用global的声明方式,表示为全局变量。模块法,该方法是把全局变量定义在一个单独模块中,然后在需要使用的全局模块中将定义的全局变量模块导入。
发布时间:2021-05-27
-
Python使用pycharm导入pymysql教程
这篇文章主要介绍了Python使用pycharm导入pymysql教程,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
发布时间:2021-04-19
-
python实现kMeans算法的详解
给大家整理一篇关于python的教程,聚类是一种无监督的学习,将相似的对象放到同一簇中,有点像是全自动分类,簇内的对象越相似,簇间的对象差别越大,则聚类效果越好。本文主要为大家详细介绍了python实现kMeans算法,具有
发布时间:2022-07-11
-
《Python Linux系统管理与自动化运维》学习总结
1. 1秒钟启动一个下载服务器 在要访问文件的目录下执行:python3 -m http.server 在网页上访问:http://ip:8000/ 就可以下载该目录下的文件(windows中也可以用) 2. python 一行试解析json echo {job: developer, name: lmx, sex: male} | python -m json.tool cat 1.txt | python -m json.tool (1.txt中是json类型的数据) 3.检查第三方库是否正确安装 如
发布时间:2018-12-01
-
详解python opencv3人脸识别(windows)
这篇文章主要为大家详细介绍了python opencv3实现人脸识别程序,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
发布时间:2020-02-17
-
浅谈python中get pass用法
这篇文章主要介绍了python中get pass用法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
发布时间:2022-04-21