python爬取QQ音乐歌单歌曲保存到本地,json解析

序:python强大的功能,可以爬取网上的某些信息,本次主要是通过爬歌单信息熟悉下python基础。

用到知识点:

1、python3、urllib.request.openurl

2、json (json字符串解析为python对象)

3、python 文件操作,爬取到的信息写入txt文本。

4、list、dict相关操作、遍历,str字符截取。

5、字符编码相关utf-8

首先,我们要先分析要爬取的内容,我们要获取到的是歌单的歌曲和歌手信息,那么我们就是要想办法知道歌单下的歌曲信息在网页的那部分。

于是我们按F12切换浏览器到开发者模式,定位到歌曲名称:


歌曲名称在<span>标签下的<a>标签中,那我们获取到网页内容,用正则或者bs4解析出这部分就可以了。于是我们开始写代码。

歌单地址:https://y.qq.com/n/yqq/playlist/2069407274.html#&dirid=8

可是高兴得太早了,我们用python获取到的歌单网址的内容中,并没有找到歌曲的相关信息,也就是歌单网址返回的html代码并没有歌曲信息,那我们猜测就是通过js获取的了,于是,我们还是要分析请求网页的过程,浏览器F12,切换到网络模式,刷新网页


于是我们就是要一个个寻找有没有哪个链接是返回歌曲信息数据,看到下面的图没有,响应的信息就是歌单的信息,并且有歌曲信息,返回的是json格式的数据,那这样我们就是通过下面找到的链接,请求链接得到响应的json字符串,然后用python去解析。


我们先定义个url:

url='https://c.y.qq.com/qzone/fcg-bin/fcg_ucc_getcdinfo_byids_cp.fcg?type=1&json=1&utf8=1&onlysong=0&disstid=2069407274&format=jsonp&g_tk=1919827772&jsonpCallback=playlistinfoCallback&loginUin=0&hostUin=0&format=jsonp&inCharset=utf8&outCharset=utf-8¬ice=0&platform=yqq&needNewCode=0'

htmlreq=urllib.request.urlopen(url)

htmldoc=htmlreq.read().decode('utf-8')

#print(htmldoc)#获取网页内容

以上代码获取到url链接返回的数据,注意,read的时候要加字符编码.decode('utf-8')不然中文会出现乱码。

获取到的json字符串如下,是的,这个并不是严格的json字符串,前面包含了playlistinfoCallback()

要得到规范的json字符串,我们需要把playlistinfoCallback()去掉

#把playlistinfoCallback(......)去掉,只留...的json数据

mydata=htmldoc[21:len(htmldoc)-1]

我们把得到的json字符串复制到网上的json在线解析的网站上格式化下,得到如下json数据;

分析json数据,歌曲信息是在songlist下面,是一个list,每首歌是一个json字典对象。

#解析json字符串,转换为python对象

jsondata=json.loads(mydata)

#print(type(jsondata)) 解析json后得到的是python dict字典对象

cdlist=jsondata.get('cdlist')

cdlistDict=cdlist[0]

#print(cdlistDict)

songlist=cdlistDict.get('songlist')

上面代码是python解析json字符串后,得到的python对象,是dict 字典,字典下面又包含有list,list下面又包含有dict对象,于是,我们就需要访问这些对象,得到我们的歌曲和歌手信息。

我们需要遍历里面的list对象,跟进键值对找到相应信息。

songlist=cdlistDict.get('songlist')

#这段是打印的

for i in songlist:

print('歌曲名:'+i.get('songname') )

#+ '  歌手:'+i.get('singer')[0].get('name')+'&'+i.get('singer')[1].get('name'))

for j in i.get('singer'):

print('歌手:'+j.get('name'))

print('\n')

歌手信息是list[]类型,有些有一个,有些有两个歌手,于是我们不管,直接for循环遍历把歌手信息都遍历出来。

我们打印出的就是我们想要的歌单的歌曲信息。下面我们要考虑如何保存到txt文本文件里。

#打开文件,注意编码:utf-8,不然写到txt里的中文会乱码。

f=open('song.txt', 'w',encoding='utf8')

for i in songlist:

     f.writelines('歌曲名:'+i.get('songname')+'\t'+'\t'+'\t'+'歌手:')

     for j in i.get('singer'):

          f.writelines(j.get('name')+'\t')

         f.writelines('\n')

for循环遍历,写入txt文件中。

最后,记得f.close()关闭。

下面就是我们得到的txt文本文件,里面包含了歌单的歌曲和歌手信息。



最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,718评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,683评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,207评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,755评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,862评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,050评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,136评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,882评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,330评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,651评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,789评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,477评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,135评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,864评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,099评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,598评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,697评论 2 351

推荐阅读更多精彩内容