两天前大众点评详情页的电话一栏还是以明文数字的形式渲染到的html页面上,爬取也很简单,这里我用的是requests库和pyquery库对页面进行爬取和分析
import requests
from pyquery import PyQuery as pq
res = requests.get(theurl,headers=headers)
pqPrice = pq(res.text)
phone = pqPrice('#basic-info')('.expand-info.tel').text()
但是今天重新爬取时发现大众点评修改了策略
不使用明文号码,而是将每个数字变成span用样式显示成原来的数字,通过对比发现,1依旧使用明文,其他每个样式对应的数字如下,
num = {
'fn-Xgcz': 0,
'fn-OeNo': 2,
'fn-dykL': 3,
'fn-uRoy': 4,
'fn-UQqq': 5,
'fn-eKMG': 6,
'fn-dyBl': 7,
'fn-JaiW': 8,
'fn-vbpK': 9
}
这样我们再多一步对比替换就可以重新获取到详情页中的电话
res = requests.get(theurl, headers=headers)
pqPrice = pq(res.text)
phone = str(pqPrice('#basic-info')('.expand-info.tel'))
a = phone.replace(' 1', '<span class="fn-kong"/>')
b = a.replace('1', '<span class="1"/>')
c = pq(b)
tel = c('span').items()
number = ''
for i in tel:
attr = i.attr('class')
if attr in num:
attr = num[attr]
number += str(attr)
print(number)
最后得到的number就是原来的电话号码