想想还有什么小东西需要写一写

有什么奇怪的需求可以在下面留言啊,如果正好我也感兴趣这个奇怪的需求,那就,嘿嘿嘿……

#encoding=utf-8
import urllib
import urllib.request
import http.cookiejar
import re
from collections import deque
import os
import gzip
import threading
from time import sleep
'''
page_num=0;#页数 类的static
myQueue=deque();#展示页队列 类的static
先在外面定义一个登陆类,用于登陆创建cookie,就不用每一次创建线程都走init函数登陆和创建cookie,这个类返回一个opener
一个单独的线程类用于下载,改变登陆类传出的opner的header参数执行每次下载请求
'''

class Login:
    def __init__(self):
        self.__url_login='http://hkbbcc.com/member.php?mod=logging&action=login&loginsubmit=yes&infloat=yes&lssubmit=yes&inajax=1';#用来登录
        self.__header_post={
            'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
            'Accept-Encoding':'gzip, deflate',
            'Accept-Language':'zh-CN,zh;q=0.8,en;q=0.6',
            'Cache-Control':'max-age=0',
            'Content-Length':'96',
            'Content-Type':'application/x-www-form-urlencoded',
            'Host':'hkbbcc.com',
            'Origin':'http://hkbbcc.com',
            'Proxy-Connection':'keep-alive',
            'Referer':'http://hkbbcc.com/forum.php',
            'Upgrade-Insecure-Requests':'1',
            'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36'
            };
    def __createPostData(self):
        post_data={
            'fastloginfield':'username',
            'username':'wyude',
            'password':'3692580000000000',
            'quickforward':'yes',
            'handlekey':'ls'
        };
        poster=urllib.parse.urlencode(post_data).encode();
        return poster;

    def __createOpener(self):
        cookieJ=http.cookiejar.CookieJar();#添加cookie
        HCPro=urllib.request.HTTPCookieProcessor(cookieJ);
        self.__opener=urllib.request.build_opener(HCPro);
        headerTmp=[];
        for key,value in self.__header_post.items():
            elem=(key,value);
            headerTmp.append(elem);
        self.__opener.addheaders=headerTmp;
    
    def go(self):
        self.__createOpener();
        __back=self.__opener.open(self.__url_login,self.__createPostData());
        print(__back.read().decode());
        #这里应该有一个getHeader,验证是否ok才能继续
        return self.__opener;

class browserTest(threading.Thread):
    myLock=threading.RLock();
    myQueue=deque();
    def __init__(self,opener,q,someone=False,name=None):#q待下载页码队列  #someone=true指定要下载的作者False就不指定,按顺序下载
        threading.Thread.__init__(self);
        self.__queue=q;
        self.__opener=opener;
        self.__url_host='http://hkbbcc.com/forum.php';#验证登录后的页面什么样
        self.__header_after={
            'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36'
            };
        #贴图发帖时间排序第一页
        self.__urlStart='http://hkbbcc.com/forum.php?mod=forumdisplay&fid=18&orderby=dateline&orderby=dateline&filter=author&page=1';
        self.__name=name;
        self.__someone=someone;
        self.__pageLike=re.compile('<a href=\\"(.+?)\\"  onclick=\\"atarget\\(this\\)\\" title=\\"(.+?)\\" class=\\"z\\">');
        self.__authLike=re.compile('<em class=\\"sum y xs0 xi1 xw1\\" title=\\".+?\\">.+?</em><a href=\\".+?\\.html\\">(.+?)<');
        self.__picLike=re.compile('<img .+? zoomfile="(.+?)" file=');
        self.__header_pic={
                'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
                'Accept-Encoding':'gzip, deflate, sdch',
                'Accept-Language':'zh-CN,zh;q=0.8,en;q=0.6',
                'Host':'img.bipics.net',
                'Proxy-Connection':'keep-alive',
                'Upgrade-Insecure-Requests':'1',
                'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36'
            };

    def createOpener(self,header):#创建带cookie和header的opener
        headerTmp=[];
        for key,value in header.items():
            elem=(key,value);
            headerTmp.append(elem);
        self.__opener.addheaders=headerTmp;

    def run(self):
        while(True):
            #验证成功登录后的样子
            #self.createOpener(self.__header_after);#置个0,避免新的cookie覆盖登陆时的cookie
            #print(self.__opener.open(self.__url_host).read().decode());
            #sleep(60);
            self.__class__.myLock.acquire();
            if( len(self.__queue)==0 ):
                print("页码访问完毕!");
                break;
            page=self.__queue.popleft();
            self.__class__.myLock.release();

            self.__header_bs={
                'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8',
                'Accept-Encoding':'gzip, deflate, sdch',
                'Accept-Language':'zh-CN,zh;q=0.8,en;q=0.6',
                'Host':'hkbbcc.com',
                'Proxy-Connection':'keep-alive',
                'Referer':page,
                'Upgrade-Insecure-Requests':'1',
                'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.84 Safari/537.36'
            };
            self.go(page);
            

    def go(self,pageNum):
        print("正在爬取  "+str(pageNum)+"   页---------->");
        pageUrl=self.__urlStart[:-1]+str(pageNum);

        self.__class__.myLock.acquire();
        self.createOpener(self.__header_after);#打开展示页
        try:
            pageData=self.__opener.open(pageUrl).read().decode();#打开展示页
            self.__class__.myLock.release();

            b=pageData.replace('amp;','');#删掉这个特殊字符
            getUrl=self.__pageLike.findall(b);#取出本页所有帖子url
            getAuth=self.__authLike.findall(b);#取出本页所有帖子对应作者
            #print(getAuth);
            j=0;
            for mypage,dirname in getUrl:
                #print(getAuth[j]);
                if(self.__someone and getAuth[j] not in self.__name):
                    #print(getAuth[j] ,"not in ",self.__name);
                    j +=1;
                    continue;
                else:
                    j +=1;
                mypage='http://hkbbcc.com/'+mypage;
                print('+++++'+str(pageNum)+" 页第  "+str(j)+"  帖  当前页网址--->"+mypage);
                print('+++++'+"当前帖子主题--->"+dirname);
                try:
                    folder='e:/loadbs/'+str(pageNum)+'/'+dirname;
                    if(not os.path.exists(folder)):
                        os.makedirs(folder);
                    try:

                        self.__class__.myLock.acquire();
                        self.createOpener(self.__header_bs);#这个干嘛的?
                        cur_page=self.__opener.open(mypage).read();
                        self.__class__.myLock.release();

                        try:
                            print("正在解压当前网页...............");
                            unzip_page=gzip.decompress(cur_page);
                            cur_page=unzip_page.decode();
                            print("当前网页解压完毕...............");
                        except:
                            print("网页解压失败");
                            continue;
                        pic=self.__picLike.findall(cur_page);
                        
                        for picUrl in pic:
                            try:
                                picName=picUrl.split('/')[-1];
                                print("正在保存---》"+picName);
                                f=open(folder+'/'+picName,'wb');
                                #print(folder+'/'+picName);
                                #print(picUrl);
                                
                                self.__class__.myLock.acquire();
                                self.createOpener(self.__header_pic);#图片下载请求
                                picRes=self.__opener.open(picUrl);
                                self.__class__.myLock.release();

                                picR=picRes.read();
                                #picRes=urllib.request.urlopen(picUrl);
                                f.write(picR);
                                f.close();
                            except:
                                print('保存图片失败');
                                continue;
                    except:
                        print('打开链接失败'+str(j));
                        continue;
                except:
                    print("创建文件夹失败!"+dirname);
                    continue;
        except:
            print("打开展示页失败"+str(pageNum));

if __name__=='__main__':
    #实现登陆返回带cookie的opener,之后替换header后用这个opener去请求下载
    appLog=Login();
    app_opener=appLog.go();
    #要下载的页码
    myQueue=deque();
    for i in range(1,100):#不包括100
        myQueue.append(i);
    #执行多线程下载
    name=['魏晴','魔幻王'];
    threads=[];
    #如果不行就不要传myQueue而是设为全局,然后browserTest.myQueue=myQueue;
    for j in range(3):
        app=browserTest(app_opener,myQueue,True,name);
        app.setDaemon(True);
        app.start();
        threads.append(app);
    for t in threads:
        t.join();

    print('Done !');
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,376评论 6 491
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,126评论 2 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,966评论 0 347
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,432评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,519评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,792评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,933评论 3 406
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,701评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,143评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,488评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,626评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,292评论 4 329
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,896评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,742评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,977评论 1 265
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,324评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,494评论 2 348

推荐阅读更多精彩内容