python爬虫小技巧

Python基本数据类型

同步滚动:关

Python补充02 Python小技巧

在这里列举一些我使用Python时积累的小技巧。这些技巧是我在使用Python过程中经常使用的。之前很零碎的记在笔记本中,现在整理出来,和大家分享,也作为Python快速教程的一个补充。

import模块

在Python经常使用import声明,以使用其他模块(也就是其它.py文件)中定义的对象。

  1. 使用name
    当我们编写Python库模块的时候,我们往往运行一些测试语句。当这个程序作为库被import的时候,我们并不需要运行这些测试语句。一种解决方法是在import之前,将模块中的测试语句注释掉。Python有一种更优美的解决方法,就是使用name
    下面是一个简单的库程序TestLib.py。当直接运行TestLib.py时,name为"main"。如果被import的话,name为"TestLib"。
def lib_func(a):
return a + 10
def lib_func_another(b):
 return b + 20
if __name__ == '__main__':
test = 101
print(lib_func(test))

我们在user.py中import上面的TestLib。

import TestLib
print(TestLib.lib_func(120))

你可以尝试不在TestLib.py中使用if name=='main', 并对比运行结果。

  1. 更多import使用方式
    import TestLib as test # 引用TestLib模块,并将它改名为t
    比如:
import TestLib as t
print(t.lib_func(120))

from TestLib import lib_func # 只引用TestLib中的lib_func对象,并跳过TestLib引用字段
这样的好处是减小所引用模块的内存占用。
比如:

from TestLib import lib_func
print(lib_func(120))

from TestLib import * # 引用所有TestLib中的对象,并跳过TestLib引用字段
比如:

from TestLib import *
print(lib_func(120))

查询

  1. 查询函数的参数
    当我们想要知道某个函数会接收哪些参数的时候,可以使用下面方法查询。
import inspect
print(inspect.getargspec(func))
  1. 查询对象的属性
    除了使用dir()来查询对象的属性之外,我们可以使用下面内置(built-in)函数来确认一个对象是否具有某个属性:
    hasattr(obj, attr_name) # attr_name是一个字符串
    例如:
a = [1,2,3]
print(hasattr(a,'append'))
  1. 查询对象所属的类和类名称
a = [1, 2, 3]
print a.__class__
print a.__class__.__name__
  1. 查询父类
    我们可以用base属性来查询某个类的父类:
    cls.base
    例如:
print(list.__base__)

使用中文(以及其它非ASCII编码)

在Python程序的第一行加入#coding=utf8,例如:

#coding=utf8
print("你好吗?")

也能用以下方式:

#-*- coding: UTF-8 -*-
print("你好吗?")

表示2进制,8进制和16进制数字

在2.6以上版本,以如下方式表示

print(0b1110)     # 二进制,以0b开头
print(0o10)       # 八进制,以0o开头
print(0x2A)       # 十六进制,以0x开头

如果是更早版本,可以用如下方式:

"""
778570108 群里有志同道合的小伙伴,互帮互助。群里有视频学习教程和PDF,一起学习,共同进步!
加群免费获取数十套PDF资料,助力python学习
"""
print(int("1110", 2))
print(int("10", 8))
print(int("2A", 16))

注释

一行内的注释可以以#开始

多行的注释可以以'''开始,以'''结束,比如

'''
This is demo
'''
def func():
# print something
print("Hello world!")  # use print() function
# main
func()

注释应该和所在的程序块对齐。

搜索路径

当我们import的时候,Python会在搜索路径中查找模块(module)。比如上面import TestLib,就要求TestLib.py在搜索路径中。
我们可以通过下面方法来查看搜索路径:

import sys
print(sys.path)

我们可以在Python运行的时候增加或者删除sys.path中的元素。另一方面,我们可以通过在shell中增加PYTHONPATH环境变量,来为Python增加搜索路径。
下面我们增加/home/vamei/mylib到搜索路径中:
[图片上传失败...(image-c22894-1560848100431)]
PYTHONPATH:/home/vamei/mylib
你可以将正面的这行命令加入到~/.bashrc中。这样,我们就长期的改变了搜索路径。

脚本与命令行结合

可以使用下面方法运行一个Python脚本,在脚本运行结束后,直接进入Python命令行。这样做的好处是脚本的对象不会被清空,可以通过命令行直接调用。
$python -i script.py
安装非标准包
Python的标准库随着Python一起安装。当我们需要非标准包时,就要先安装。

  1. 使用Linux repository (Linux环境)
    是安装Python附加包的一个好的起点。你可以在Linux repository中查找可能存在的Python包 (比如在Ubuntu Software Center中搜索matplot)。
  2. 使用pip。pip是Python自带的包管理程序,它连接Python repository,并查找其中可能存在的包。
    比如使用如下方法来安装、卸载或者升级web.py:
    pip install web.pypip uninstall web.py
    pip install --upgrade web.py 果你的Python安装在一个非标准的路径(使用which python来确认python可执行文件的路径)中,比如/home/vamei/util/python/bin中,你可以使用下面方法设置pip的安装包的路径:
    pip install --install-option="--prefix=/home/vamei/util/" web.py
  3. 从源码编译
    如果上面方法都没法找到你想要的库,你可能需要从源码开始编译。Google往往是最好的起点。
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容