[说人话的统计学·协和八]第一章 高屋建瓴看统计

注:说人话的统计学系列原连载于协和八微信公众号。本文为笔者的学习笔记,每篇文章标题已加入原文超链接。如侵权请告知。

第 1 章 高屋建瓴看统计

01 你真的懂p值吗? | 说人话的统计学·协和八

p值就是在假定我们希望检验的效应并不存在(即「原假设成立」)的前提下,收集到了与我们所得到的结果相同或更极端的数据的概率。

p值不是原假设为真的概率,也不是备选假设为假的概率

p值只描述样本与原假设的相悖程度,原假设的真与假是我们以此为根据做出的一个判断。p值并不能描述原假设和备选假设本身为真的概率。

p值并不能代表你所发现的效应(或差异)的大小

p值只关心数据与原假设之间有多不一致。但是,如果某种效应或差异存在,p值并不能准确地告诉我们效应的大小,更不能告诉我们这效应是否具有实际意义。

为什么是0.05?

费希尔老爷子随口一说

02 做统计,多少数据才算够?(上)| 说人话的统计学·协和八

利用统计功效(statistical power)进行数据量的估计,称为功效分析 (power analysis)
第一类错误 原假设其实为真时错误地拒绝了它
第二类错误 原假设其实为假时错误的接受了它
希腊字母⍺和β来代表犯第一类和第二类错误的概率
1-β正是统计功效
统计功效(statistical power) 如果我们感兴趣的效应或差异的确存在,在给定的显著性水平的规定下,我们能够正确地拒绝原假设的概率。

  • 效应的大小ES(即故事中被寻找的东西的大小)
  • 数据或样本量的多少N(即故事中格格巫找东西的时间)
  • 显著性水平⍺(即故事中宿舍有多乱)

03 做统计,多少数据才算够?(下)| 说人话的统计学·协和八

显著性水平⍺
如果p值小于我们事先规定的⍺,则称结果显著,拒绝原假设;如果p值大于⍺,则结果不显著,不能拒绝原假设。
⍺也是在大量重复实验时我们能承受的第一类错误的概率的上限
把统计功效设定在0.8到0.9之间
相比起“放过”(第二类错误),人们更不希望“杀错”(第一类错误)。
使用GPower进行统计功效分析*
在统计功效不变时,效应大小越大,所需样本量越小;而在效应大小不变时,统计功效越高,所需样本量越大。

04 提升统计功效,让评审心服口服!| 说人话的统计学·协和八

统计功效由三要素决定:
数据量、显著性水平、效应大小(效果量)。

增加数据量

增加比较容易获得的组别的样本量
尽可能减少数据的损失

放宽显著性水平的要求

报告p值在0.05和0.1之间的结果
使用单侧检验
选用单侧检验的效果实际上是使p值减半,从而一部分在双侧检验下不显著的结果在单侧检验时就变得显著了.

增强效应大小(效果量)

加大干预的强度
对极端群体作比较
引进控制变量(control variables/covariates)
采用重复测量(repeated measures)
或组内(within-subjects)设计

05 你的科研成果都是真的吗? | 说人话的统计学·协和八

尽管通过控制显著性水平⍺,我们犯第一类错误的概率并不大,但是因为白格子实在很多,总数乘以⍺得到的数值(假阳性发现的数量)依然不小。
而对于那5个白格子,即使我们有比较高的统计功效1-β,能够正确识别出它们中的大多数,但是这几个货真价实的”李逵“还是淹没在一大堆”李鬼“里头了。
显著性和统计功效这两大支柱缺一不可!
忽略了事件自身的小概率特性而错误地将显著的结果认为是事件发生的证据,这在统计学上称为基数谬误(baserate fallacy)

06 见识数据分析的「独孤九剑」 | 说人话的统计学·协和八

贝叶斯统计学
贝叶斯定理是一条关于条件概率的定理
条件概率指的是,在某件事情A发生的前提下,另一件事情B发生的概率,用P(B | A)表示(注意在竖线后面的是条件,前面的是我们感兴趣的事件)

在这个假说成立的前提下产生这么一个现象的可能性P(现象 | 假说),或者说是现象有多符合假说的预测P(假说),我们称为“似然”(likelihood)
这个假说本身成立的可能性大小,由于这是对观察到现象之前来说的,因此我们称为“先验概率”(prior probability)
在万事万物中出现这一现象本身的可能性P(现象),我们称为“证据”(evidence)

07 妈妈说答对的童鞋才能中奖 | 说人话的统计学·协和八

假设你经过多年潜心研究,发明了一种聪明药。
你招募了两组受试者进行双盲试验:你给其中一组服用你的聪明药,另外一组服用安慰剂维生素C片,然后让两组受试者进行智力测验。
经过两组的平均智力测验分数的比较后,你获得了0.01的p值——
也就是说,两组的智力测验得分具有统计学意义上显著的差异。
根据以上信息,选出以下你认为错误的陈述(可能不止一个):

  1. 原假设(“两组的平均得分之间没有差别”)绝对是错误的;
  2. 原假设(“两组的平均得分之间没有差别”)有1%的可能性是真的;
  3. 备选假设(“两组的平均得分之间存在差别”)绝对是正确的;
  4. 根据上述信息可以算出备选假设为真的概率;
  5. 我们错误地拒绝原假设的概率是1%;
  6. 如果同样的实验重复很多遍,其中将有99%的实验获得统计学意义上显著的结果;
  7. 如果同样的实验重复很多遍,其中将有1%的实验获得统计学意义上显著的结果;
  8. 我们完全由于随机因素而得到这一结果的概率是1%;
  9. 这一实验的统计功效是1-0.01=0.99。

08 统计学的十个误区,你答对了吗? | 说人话的统计学·协和八

  1. 如果同样的实验重复很多遍,其中将有99%的实验获得统计学意义上显著的结果。
    ——错误。
    p值与统计结果的可重复性没有关系。统计结果的可重复性依然取决于原假设为真的概率,但我们不能从p值中推出这个概率。

09 贝叶斯vs频率派:武功到底哪家强?| 说人话的统计学·协和八

贝叶斯定理

我们做数据分析,绝大多数情况下希望得到的是关于某种假说是否成立的信息。等式左边的P(参数 | 数据),正是在观察到了手头上的数据的前提下,假说成立的概率。
P(参数)P(参数 | 数据)分别叫做先验概率后验概率
贝叶斯定理其实就是告诉我们,怎样根据观察到的数据来更新我们的先验概率,从而获得对假说的新看法——后验概率

原假设的后验概率与p值和它的先验概率的乘积成正比。

如果备选假设的先验概率很小,即便我们获得了基于原假设的很小的p值,也只不过把备选假设的后验概率提高了一点点而已;如果备选假设的先验概率本来就大,那么很小的p值则会进一步增大备选假设成立的概率。

什么是概率?

频率学派说,我们只相信客观的、能测量的东西,因此我们认为,概率是频率在无限多次重复试验时的极限值。
贝叶斯学派认为,所谓概率,只不过是我们思想中对事情发生可能性的一种猜测与信念。

贝叶斯统计学曾经面临两个很大的困难

  • 分母P(数据)我们一直没怎么讲过,它指的就是观察到所得数据的概率。

推广到普遍情况,我们要把P(数据)重新拆分成许多个P(数据 | 参数k)*P(参数k),其中参数k要取遍所有可能的情况,然后再把它们全部加起来。如果参数可以在一个连续范围内取值,那么求和就变成了积分

∫P(数据 | 参数)P(参数)d参数

了。我们之前还说过,实际应用中经常遇到有成百上千个参数的情况,那么P(数据)就变成极其复杂的多重积分了。这一直到近年都是算不出来的。
Markov Chain Monte Carlo(马尔可夫链蒙特卡洛)方法

  • 先验概率对结果有着相当大的影响。
  1. 使用尽量客观的方法设定先验概率
  2. 使用“弱信息”或“无信息”先验
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 196,820评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,756评论 2 374
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,901评论 0 325
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,718评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,592评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,437评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,836评论 3 388
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,483评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,770评论 1 293
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,801评论 2 314
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,588评论 1 328
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,427评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,852评论 3 300
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,064评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,363评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,843评论 2 343
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,055评论 2 338

推荐阅读更多精彩内容