Python怎么爬取网站音乐素材
本篇内容主要讲解“Python怎么爬取网站音乐素材”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Python怎么爬取网站音乐素材”吧!
创新互联公司是一家集网站建设,兴山企业网站建设,兴山品牌网站建设,网站定制,兴山网站建设报价,网络营销,网络优化,兴山网站推广为一体的创新建站企业,帮助传统企业提升企业形象加强企业竞争力。可充分满足这一群体相比中小企业更为丰富、高端、多元的互联网需求。同时我们时刻保持专业、时尚、前沿,时刻以成就客户成长自我,坚持不断学习、思考、沉淀、净化自己,让我们为更多的企业打造出实用型网站。
前言
基本开发环境
Python 3.6
Pycharm
相关模块的使用
import os import concurrent.futures import requests import parsel
安装Python并添加到环境变量,pip安装需要的相关模块即可。
一、确定需求
如果想要验证这个链接是否是音频的真实下载地址,可以复制链接粘贴到新的窗口中。
https://downsc.chinaz.net/Files/DownLoad/sound1/202102/s830.mp3
老思路了,复制链接中的某些参数在开发者工具中进行搜索,很明显 s830 就是音频的ID了。
搜索 s830 找到来源,发现网页页面中自带有下载地址。获取音频下载地址之后需要自己拼接url。
网页数据不复杂,相对而言还是比较简单的。
1、请求当前网页数据,获取音频地址以及音频标题
2、保存下载就可以了
三、代码实现
获取音频ID以及音频标题
def main(html_url): html_data = get_response(html_url).text selector = parsel.Selector(html_data) lis = selector.css('#AudioList .container .audio-item') for li in lis: name = li.css('.name::text').get().strip() src = li.css('audio::attr(src)').get() audio_url = 'https:' + src save(name, audio_url) print(name, audio_url)
保存数据
def save(name, audio_url): header = { 'Upgrade-Insecure-Requests': '1', 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } audio_content = requests.get(url=audio_url, headers=header).content path = 'audio\\' if not os.path.exists(path): os.mkdir(path) with open(path + name + '.mp3', mode='wb') as f: f.write(audio_content)
这里想要重新给一个headers参数,不然会下载不了。代码会一直运行,但是没有反应
多线程爬取
if __name__ == '__main__': executor = concurrent.futures.ThreadPoolExecutor(max_workers=5) for page in range(1, 31): url = f'https://sc.chinaz.com/yinxiao/index_{page}.html' # main(url) executor.submit(main, url)
到此,相信大家对“Python怎么爬取网站音乐素材”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
网页名称:Python怎么爬取网站音乐素材
URL网址:http://azwzsj.com/article/ijjgop.html