一个实现批量抓取淘女郎写真图片的爬虫

淘女郎,也被很多人称作“网络模特”,就是专门给淘宝、天猫等线上商家拍摄图片的平面模特。

我们将用Python3和Selenium Webdriver抓取每一个美眉的个人主页内的写真图片,把每一个美眉的写真图片按照文件夹保存到本地。

先说一下网页爬取的一般步骤:

1.查看目标网站页面的源代码,找到需要爬取的内容

2.用正则或其他如xpath/bs4的工具获取爬取内容

3.写出完整的python代码,实现爬取过程

查看网站源码,火狐浏览器右键-查看源代码即可获取


代码编写的关键步骤:

①需要用到的模块

②解析目标网页的 Html 源码

bsObj = BeautifulSoup(driver.page_source, parser)

③用正则表达式获取美女图片

imagesUrl = re.findall('\/\/gtd\.alicdn\.com\/sns_logo.*\.jpg',driver.page_source)

④解析出个人主页地址等信息

girlsUrl = bsObj.find_all("a",{"href":re.compile("\/\/.*\.htm\?(userId=)\d*")})

⑤获取所有美女的图片url

girlsHURL = [('http:' + i['href']) for i in girlsUrl]

⑥判断路径文件夹是否创建,如果未创建则创建文件夹保存图片

defmkdir(path):

# 判断路径是否存在

isExists=os.path.exists(path)

# 判断结果

ifnotisExists:

# 如果不存在则创建目录

print("    [*]新建了文件夹",path)

# 创建目录操作函数

os.makedirs(path)

else:

# 如果目录存在则不创建,并提示目录已存在

print('    [+]文件夹',path,'已创建')

if__name__=='__main__':

ifnotos.path.exists(outputDir):

os.makedirs(outputDir)

main()

Python执行文件后抓取的效果如下图所示:

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • ¥开启¥ 【iAPP实现进入界面执行逐一显】 〖2017-08-25 15:22:14〗 《//首先开一个线程,因...
    小菜c阅读 6,573评论 0 17
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 173,695评论 25 708
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,026评论 19 139
  • 爬虫初探-Scrapy Scrapy 资料 官方文档永远是首选,建议把 tutorial 完整的过一遍。 网址:h...
    廖少少阅读 2,104评论 0 3
  • 许三观是城里的工人,在三观爷爷生活的村子里流传有一句话:“在这地方没有卖过血的男人都娶不到女人……”且还有这么一条...
    涉水渔石阅读 461评论 3 2