大橙子网站建设,新征程启航
为企业提供网站建设、域名注册、服务器等服务
嗨喽~大家好呀,这里是魔王呐
靖宇网站制作公司哪家好,找成都创新互联公司!从网页设计、网站建设、微信开发、APP开发、响应式网站等网站项目制作,到程序开发,运营维护。成都创新互联公司自2013年创立以来到现在10年的时间,我们拥有了丰富的建站经验和运维经验,来保证我们的工作的顺利进行。专注于网站建设就选成都创新互联公司。
Python 3.8
Pycharm
requests ---> 数据请求模块 需要安装 pip install requests
re 正则表达式 内置模块 不需要安装
os 文件操作模块 内置模块 不需要安装 --> 自动创建文件夹 把每个英雄都自动创建对应文件
确定需求, 确定采集目标
通过开发者工具抓包分析, 分析我们想要数据内容来自于那个url地址
F12 或者 鼠标右键点击检查 选择 network(网络) 刷新网页
去分析图片url地址是什么 ---> 选择 Img 可以查找图片url地址
505 表示英雄ID
2 皮肤第几个 ---> 通过皮肤名字对应他的皮肤链接
想要获取 yao 皮肤数据
# 导入数据请求模块 ---> 第三方模块 需要 在cmd里面进行安装 pip install requests import requests # 导入正则模块---> 内置模块 不需要安装 import re # 导入文件操作模块---> 内置模块 不需要安装 import os # 确定网址 link= 'https://pvp.qq.com/web/js/herolist.json' # 模拟伪装浏览器---> 请求头 headers= { # user-agent 用户代理 表示浏览器基本身份标识 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.0.0 Safari/537.36' } # 发送请求 json_data= requests.get(url=link, headers=headers).json() # for循环遍历 for index in json_data: # 字典键值对取值 根据冒号左边的内容[键],提取冒号右边的内容[值] hero_id= index['ename'] hero_name= index['cname'] # 设定文件夹路径 相对路径 file= f'img\\{hero_name}\\' if not os.path.exists(file): os.makedirs(file) """ 1. 发送请求, 模拟浏览器对于url地址发送请求 - headers 字典数据类型, 构建完整键值对 - 请求头参数 可以直接在开发者工具复制粘贴 - 使用什么请求方法, 根据开发者工具来 """ # 确定请求url地址 url= f'https://pvp.qq.com/web/herodetail/{hero_id}.shtml' # 模拟伪装浏览器---> 请求头 headers= { # user-agent 用户代理 表示浏览器基本身份标识 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.0.0 Safari/537.36' } # 发送请求--->200]> 响应对象: <>表示对象 response 响应回复 200 状态码 表示请求成功 response= requests.get(url=url, headers=headers) # 乱码了 怎么办? ---> 你要根据网页编码来 response.encoding = 'gbk' # 自动识别编码 response.encoding= response.apparent_encoding # 获取数据, 获取服务器返回响应数据 文本数据 print(response.text) """ 解析数据 re正则 会1 不会2 re.findall() 从什么地方 去找什么数据 从 response.text 里面 去找 data-imgname="(.*?)"> 其中 (.*?) 就是我们要的数据 """ title_list = re.findall('data-imgname="(.*?)">', response.text)[0] # 鹿灵守心&0|森&0|遇见神鹿&71|时之祈愿&94|时之愿境&42 title_list= re.sub('&\d+', '', title_list).split('|') print(title_list) # for循环for num in range(1, 6): len() 统计列表元素个数 for num in range(1, len(title_list) +1): # 列表取值, 根据索引位置,索引位置从0开始计数 img_name= title_list[num-1] # 构建图片url地址 img_url= f'https://game.gtimg.cn/images/yxzj/img/skin/hero-info/{hero_id}/{hero_id}-bigskin-{num}.jpg' print(img_name, img_url) # 保存数据---> 发送请求 获取数据 二进制数据 img_content= requests.get(url=img_url, headers=headers).content with open(file+ img_name + '.jpg', mode='wb') as f: f.write(img_content)