python爬虫项目实战：
爬取糗事百科用户的所有信息，包括用户名、性别、年龄、内容等等。

10个步骤实现项目功能，下面开始实例讲解：
1.导入模块
import re
import urllib.request
from bs4 import BeautifulSoup
2.添加头文件，防止爬取过程被拒绝链接
def qiuShi(url,page):
################### 模拟成高仿度浏览器的行为 ##############

设置多个头文件参数，模拟成高仿度浏览器去爬取网页

heads ={
'Connection':'keep-alive',
'Accept-Language':'zh-CN,zh;q=0.9',
'Accept':'text/html,application/xhtml+xml,application/xml;
q=0.9,image/webp,image/apng,/;q=0.8',
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36
(KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36',
}
headall = []
for key,value in heads.items():
items = (key,value)

将多个头文件参数一个一个添加到headall列表中

headall.append(items)

print(headall)

print('测试1--')

创建opener对象

opener = urllib.request.build_opener()

添加头文件到opener对象

opener.addheaders = headall

将opener对象设置成全局模式

urllib.request.install_opener(opener)

学习Python中的小伙伴，需要学习资料的话，可以到我的微信公众号：Python学习知识圈，后台回复：“01”，即可拿Python学习资料

爬取网页并读取数据到data

data = opener.open(url).read().decode()

data1 = urllib.request.urlopen(url).read().decode('utf-8')

print(data1)

print('测试2--')

################## end ########################################
3.创建soup解析器对象
soup = BeautifulSoup(data,'lxml')
x = 0
4.开始使用BeautifulSoup4解析器提取用户名信息
############### 获取用户名 ########################
name = []

使用bs4解析器提取用户名

unames = soup.find_all('h2')

print('测试3--',unames)

for uname in unames:

print(uname.get_text(),'第',page,'-',str(x)+'用户名：',end='')

将用户名一个一个添加到name列表中

name.append(uname.get_text())

print(name)

print('测试4--')

#################end#############################
5.提取发表的内容信息
############## 发表的内容 #########################
cont = []
data4 = soup.find_all('div',class_='content')

print(data4)

记住二次筛选一点要转换成字符串形式，否则报错

data4 = str(data4)

使用bs4解析器提取内容

soup3 = BeautifulSoup(data4,'lxml')
contents = soup3.find_all('span')
for content in contents:

print('第',x,'篇糗事的内容：',content.get_text())

将内容一个一个添加到cont列表中

cont.append(content.get_text())

print(cont)

print('测试5--')

##############end####################################
6.提取搞笑指数
#################搞笑指数##########################
happy = []

获取搞笑指数

第一次筛选

data2 = soup.find_all('span',class_="stats-vote")

获取搞笑指数

第二次筛选

data2 = str(data2) # 将列表转换成字符串形式才可以使用

print(data2)

print('测试6--')

soup1 = BeautifulSoup(data2,'lxml')
happynumbers = soup1.find_all('i',class_="number")
for happynumber in happynumbers:

print(happynumber.get_text())

将将搞笑数一个一个添加到happy列表中

happy.append(happynumber.get_text())

print(happy)

print('测试7--')

##################end#############################
7.提取评论数
############## 评论数 ############################
comm = []
data3 = soup.find_all('a',class_='qiushi_comments')
data3 = str(data3)

print(data3)

soup2 = BeautifulSoup(data3,'lxml')
comments = soup2.find_all('i',class_="number")
for comment in comments:

print(comment.get_text())

将评论数一个一个添加到comm列表中

comm.append(comment.get_text())
############end#####################################
8.使用正则表达式提取性别和年龄
######## 获取性别和年龄 ##########################

使用正则表达式匹配性别和年龄

pattern1 = '<div class="articleGender (w?)Icon">(d?)</div>'
sexages = re.compile(pattern1).findall(data)

print(sexages)

9.设置用户所有信息输出的格局设置
################## 批量输出用户的所以个人信息 #################
print()
for sexage in sexages:
sa = sexage
print(''17, '== 第', page, '页-第', str(x+1) + '个用户 == ',''17)

输出用户名

print('【用户名】：',name[x],end='')

输出性别和年龄

print('【性别】：',sa[0],' 【年龄】：',sa[1])

输出内容

print('【内容】：',cont[x])

输出搞笑数和评论数

print('【搞笑指数】：',happy[x],' 【评论数】：',comm[x])
print(''25,' 三八分割线 ',''25)
x += 1
###################end##########################
10.设置循环遍历爬取13页的用户信息
for i in range(1,14):

糗事百科的网址

url = 'https://www.qiushibaike.com/8hr/page/'+str(i)+'/'
qiuShi(url,i)
运行结果，部分截图：