上个月在简书上爬取了50多万的用户信息存入MongoDB,现在将这些数据调出来做些简单的分析,主要是练习Matplotlib,感兴趣的可以看看你有没有上榜,有没有拖后腿。
详细爬取策略及代码传送门 ➡️请点这里
all_u_cnt = coll.find().count()
active_u_cnt = coll.find({"follow": {"$ne": 0},
"words_count": {"$ne": 0},
"get_likes": {"$ne": 0}}).count()
zombie_u_cnt = coll.find({"follow": 0,
"words_count": 0,
"get_likes": 0}).count()
ordinary_u_cnt = coll.find({"$or":
[{"follow": 0},
{"words_count": 0},
{"get_likes": 0}]}).count() - zombie_u_cnt
if all_u_cnt == active_u_cnt + zombie_u_cnt + ordinary_u_cnt:
print("抽样总量:{}\n活跃用户:{}\n僵尸用户:{}\n普通用户:{}".format(all_u_cnt, active_u_cnt, zombie_u_cnt, ordinary_u_cnt))
抽样总量:533818
活跃用户:167134
僵尸用户:102818
普通用户:263866
plt.figure("pie", figsize=(7, 7))
plt.title('用户活跃分类', fontsize=24)
label_tags = ("active", "zombie", "ordinary")
label_values = active_u_cnt, zombie_u_cnt, ordinary_u_cnt,
explode = 0.08, 0, 0
colors = '#FFA500','#C0C0C0','#40E0D0'
patches,l_text,p_text = plt.pie(
label_values, labels=label_tags, explode=explode,colors=colors,
autopct='%3.1f % %', labeldistance=1.1, startangle = 60,pctdistance = 0.5, shadow=False,
)
#labeldistance,文本的位置离远点有多远,1.1指1.1倍半径的位置
#autopct,圆里面的文本格式,%3.1f%%表示小数有1位,整数有一位的浮点数
#shadow,饼是否有阴影
#startangle,起始角度,0,表示从0开始逆时针转,为第一块。一般选择从90度开始比较好看
#pctdistance,百分比的text离圆心的距离
#patches, l_texts, p_texts,为了得到饼图的返回值,p_texts饼图内部文本的,l_texts饼图外label的文本
#改变文本的大小
#方法是把每一个text遍历。调用set_size方法设置它的属性
for p in patches:
p.set_alpha(.85)
for t in l_text:
t.set_size(20)
for t in p_text:
t.set_size(20)
plt.axis('equal')
plt.legend()
plt.show()
另外通过在50W数据中除去僵尸用户,在剩余的40W多用户中统计发现,
其中只有9个签约用户(这个应该不太准,比较遗憾)
平均文章数 : 7.9
平均字数 : 9280.67
平均获赞 : 49.67
平均关注 : 13.08
平均被粉 : 22.03
散点图是上面饼图中31.3%活跃用户的统计(约15W个散点),活跃用户即字数、获赞数、关注都不为0的用户的文章数及字数分布统计,不难看出风水岭在100篇文章和20w字之内,如再细分只需调整刻度即可
user_obj = coll.find({"follow": {"$ne": 0},
"words_count": {"$ne": 0},
"get_likes": {"$ne": 0}})
art_list = [], wrd_list = []
for _ in user_obj:
art_list.append( _['article'])
wrd_list.append( _['words_count'])
plt.figure(figsize=(12, 8))
plt.subplot(212)
plt.title('文章数及字数分布', fontsize=18)
plt.xlabel('文章数')
plt.ylabel('字数')
plt.scatter(art_list,wrd_list ,s=15 ,c='r',marker='.' ,alpha = 0.2, label='red_point')
# scatter用于绘制散点
plt.xlim(0,500)
plt.ylim(0,1000000)
plt.xticks(range(0,500,50))
plt.yticks(range(0,1000000,200000))
# 不显示坐标轴的值
# plt.xticks(())
# plt.yticks(())
plt.legend()
plt.show()
下面列出各个维度的排行榜
def get_plot():
index = np.arange(len(user_list))
bar_width = 0.6
opacity = 1
color_list = ['#C0C0C0']*10
color_list[0] = '#FF4500'
color_list[1] = '#FF7F50'
color_list[2] = '#FFA07A'
plt.xticks(index, user_list, fontsize=14,rotation= 45, horizontalalignment='right')
plt.yticks(fontsize=14)
plt.bar(index , cnt_list, bar_width, alpha=1, color=color_list)
for m, n in zip(index,cnt_list):
plt.text(x=m,y= n * 1.02,s=n ,ha='center',va='bottom', fontsize=14)
plt.show()
##########################################
user_list = []
cnt_list = []
top10_list = coll.find().sort([("fans", -1)]).limit(10)
for i in top10_list:
user_list.append(i["user_name"])
cnt_list.append(i["fans"])
plt.figure("Fans Top10", figsize=(12, 8))
plt.title('粉丝数 Top10', fontsize=24)
plt.xlabel('')
# plt.ylabel('粉丝数', fontsize=12, rotation= 90)
plt.ylim(0,120000)
plt.xlim()
width = 0.5
get_plot()