用Python分析44万条数据,揭秘如何成为网易云音乐评论区的网红段子手
有个段子讲“十年文案老司机,不如网易评论区,网易文豪遍地走,评论全部单身狗”,网易云音乐的评论区也一直都是各类文案大神的聚集地。
那么我们普通用户到底如何成为网易云音乐评论里的热评段子手?
让我来分析一下。
获取数据
其实逻辑并不复杂:
爬取歌单列表里的所有歌单url。
进入每篇歌单爬取所有歌曲url,去重。
进入每首歌曲首页爬取热评,汇总。
歌单列表是这样的:
翻页并观察它的url变化,注意下方动图,每次翻页末尾变化35。
采用requests+pyquery来爬取。
在学习过程中有什么不懂得可以加我的python学习交流扣扣qun,784758214群里有不错的学习视频教程、开发工具与电子书籍。与你分享python企业当下人才需求及怎么从零基础学习好python,和学习什么内容def get_list(): list1 =[]for i in range(0,1295,35): url =https://music.163.com/discover/playlist/?order=hot&cat=%E5%8D%8E%E8%AF%AD&limit=35&offset=+str(i)print(已成功采集%i页歌单\n%(i/35+1)) data =[] html = restaurant(url) doc = pq(html)for i in range(1,36):# 一页35个歌单 a = doc(#m-pl-container > li:nth-child(+ str(i)+) > div > a).attr(href) a1 =https://music.163.com/api+ a.replace(?,/detail?) data.append(a1) list1.extend(data) time.sleep(5+random.random())return list1这样我们就可以获得38页每页35篇歌单,共1300+篇歌单。
下面我们需要进入每篇歌单爬取所有歌曲url,并且要注意最后“去重”,不同歌单可能包含同一首歌曲。
点开一篇歌单,注意红色圈出的id。
观察一下,我们要在每篇歌单下方获取的信息也就是红框圈出的这些,利用刚刚爬取到的歌单id和网易云音乐的api(下一篇文章细讲)可以构造出:
不方便看的话我们解析一下json。
这样我们就获取了所有歌单下的歌曲,记得去重。
#去重data = data.drop_duplicates(subset=None, keep=first, inplace=True)剩下就是获取每首歌曲的热评了,与前面获取歌曲类似,也是根据api构造,很容易就找到了。
汇总后就获得了44万条音乐热评数据。
数据分析
清洗填充一下。
def data_cleaning(data): cols = data.columnsfor col in cols:if data[col].dtype ==object: data[col].fillna(缺失数据, inplace =True)else: data[col].fillna(0, inplace =True)return(data)按照点赞数排个序。
#排序df1[likedCount]= df1[likedCount].astype(int)df_2 = df1.sort_values(by="likedCount",ascending=False)df_2.head()再看看哪些热评是被复制粘贴搬来搬去的。
#排序df_line = df.groupby([content]).count().reset_index().sort_values(by="name",ascending=False)df_line.head()第一个和第三个只是末尾有没有句号的区别,可以归为一类。这样的话,重复次数最多个这句话竟然重复了412次,额~~
看看上热评次数次数最多的是哪位大神?从他的身上我们能学到什么经验?
df_user = df.groupby([userId]).count().reset_index().sort_values(by="name",ascending=False)df_user.head()按照 user_id 汇总一下,排序。
成功“捕获”一枚“段子手”,上热评次数高达347,我们再看看这位大神究竟都评论些什么?
df_user_max = df.loc[(df[userId]==101***770)]df_user_max.head()这位“失眠的陈先生”看来各种情话娴熟于手啊,下面就以他举例来看看如何成为网易云音乐评论里的热评段子手吧。
数据可视化
先看看这347条评论的赞数分布。
#赞数分布图import matplotlib.pyplot as pltdata = df_user_max[likedCount]#data.to_csv("df_user_max.csv", index_label="index_label",encoding=utf-8-sig)plt.hist(data,100,normed=True,facecolor=g,alpha=0.9)plt.show()很明显,赞数并不多,大部分都在500赞之内,几百赞却能跻身热评,这也侧面说明了这些歌曲是比较小众的,看来是经常在新歌区广撒网。
我们使用len() 求出每条评论的字符串长度,再画个分布图
评论的字数集中在18—30字之间,这说明在留言时要注意字数,保险的做法是不要太长让人读不下去,也不要太短以免不够经典。
做个词云。
可以看出他的评论风格是以一首歌使他“想起”“感觉”为开头,宾语通常是“喜欢的女孩子”,也经常用”她”来指代。寄托的情感是“后悔”“悲伤”,感慨的终点是“放下”。
也许我们可以通过分析规律收获点赞,成为热评网红段子手。但最终能打动人心的,依然是基于歌曲本身的真诚分享,和点出歌中蕴含的真正共鸣。
如果你依然在编程的世界里迷茫,可以加入我们的Python学习扣qun:784758214,看看前辈们是如何学习的。交流经验。从基础的python脚本到web开发、爬虫、django、数据挖掘等,零基础到项目实战的资料都有整理。送给每一位python的小伙伴!分享一些学习的方法和需要注意的小细节,点击加入我们的 python学习者聚集地
扫一扫,关注我们