安装python和scrapy框架:
windows:
先安装好python3
1、下载python 安装,下载pycharm
2、直接下载anaconda安装。包含python和常用库
再pip install scrapy,
报错说明没有安装visual c++ build tools
直接根据要求百度一个 安装即可。
Mac 见 :
步骤
1、利用shell查看网页是否友好
scrapy shell //www.greatytc.com/u/6b45912862c1
然后再
view(response)
如果弹出正常的页面,则表示页面友好。
如果弹出404 ,就表示页面禁止爬虫。