c语言sscanf函数的用法是什么
265
2022-11-19
Python爬虫新手入门教学(十三):爬取高质量超清壁纸Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取
前言
前文内容
Python爬虫新手入门教学(一):爬取豆瓣电影排行信息
Python爬虫新手入门教学(二):爬取小说
Python爬虫新手入门教学(三):爬取链家二手房数据
Python爬虫新手入门教学(四):爬取前程无忧招聘信息
Python爬虫新手入门教学(五):爬取B站视频弹幕
Python爬虫新手入门教学(六):制作词云图
Python爬虫新手入门教学(七):爬取腾讯视频弹幕
Python爬虫新手入门教学(八):爬取论坛文章保存成PDF
Python爬虫新手入门教学(九):多线程爬虫案例讲解
Python爬虫新手入门教学(十):爬取彼岸4K超清壁纸
Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取
Python爬虫新手入门教学(十二):英雄联盟最新皮肤爬取
基本开发环境
Python 3.6Pycharm
相关模块的使用
import requestsimport reimport os
安装Python并添加到环境变量,pip安装需要的相关模块即可。
一、明确需求
如图所示爬取里面的高清壁纸
二、网页数据分析
所以只需要获取这个链接就可以了爬取壁纸图片了。
返回列表的可以发现,网页是瀑布流加载方式,当你往下滑才会有数据出现。所以可以在下滑网页的前,先打开开发者工具,当下滑网页的时候新加载出来的数据会出现。
通过对比可以知道,这个数据包中包含了,壁纸图片下载的地址。
需要注意的就是这个数据链接是post请求,并不是get请求
需要提交的data参数,就是对应的页码。
三、代码实现
1、获取图片ID
for page in range(1, 11): url = ' headers = { 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36', 'x-requested-with': 'XMLHttpRequest', } data = { 'page': page } response = requests.post(url=url, headers=headers) result = re.findall('detail(.*?)target=', response.text) for index in result: image_id = index.replace('\\', '').replace('" ', '') page_url = f'main(page_url): html_data = get_response(page_url).text image_url = re.findall('', html_data)[0] image_title = re.findall('
需要注意的点:
请求头里面要防盗链,不然就下载不了。
def get_response(html_url): header = { 'referer': ' 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } resp = requests.get(url=html_url, headers=header) return resp
四、实现效果
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。
发表评论
暂时没有评论,来抢沙发吧~