ML 教程 3 - 假设函数和损失函数的公式表达

上一篇文章大致写了假设函数和损失函数在实际问题中的抽象定义,这篇文章我会用几个公式来表达完整的假设函数和损失函数。

假设函数

首先,在前两篇文章中,我一直在用 a,b,c 来表示 h(x) 的参数,但实际上用的比较多的是 Θ1,Θ2,Θ3... 。

其次,我在上一篇文章说,实际问题中的数据是以数据集的形式存在的。如果想要表示数据集中的某一组数据,可以用下标 i,还是以预测房价为例子,比如有一组数据为:

房子大小 x1: 100(平米)

卧室数量 x2: 3(个)

如果这组数据在数据集中是第 i 组,那么基于这组数据的假设函数就可以用下面这个式子表示:

其实这就是对之前的 h(x) 的一个完善而已。

损失函数

在上一篇文章中,我说最后的损失函数应该是数据集中每组数据的损失函数的平均值,也就是说,这里应该有一个先求和再求平均的操作。如果数据集中一共有 m 组数据,那么应该先把 m 个损失函数加起来再除以 m。那么可以用下面这个式子表示:

但是由于在 Machine Learning 中,刻画预测结果和实际结果一般用的都是均方误差,因此实际计算的是 h𝜃((xi) - yi) 的平方项,即 h𝜃((xi) - yi)^2。但是还没完,由于在接下来的文章中我会介绍使损失函数减小的方法 —— 梯度下降法,而在梯度下降法中需要对损失函数进行求导,由于式子中有平方项,因此为了方便,对整个式子乘上了一个 1/2 用来抵消求导后出现的 2,那么就是:

如果乍一看这个式子可能会觉得很复杂,但是经过这么多分析,应该不难理解了。

最后一点就是,我在上一篇文章也提到了,损失函数的自变量是 h𝜃(xi) 中的 参数 𝜃,因此,应该把 𝜃 写在 J 后面的括号中,最终的式子为:

小结

这篇文章写出了假设函数和损失函数的公式表达,现在来看应该不难理解,什么东西都是这样,只要经过层层抽丝剥茧,就会发现顶多是复杂,谈不上难。

下篇文章介绍减小损失函数的方法 —— 梯度下降法。

(简书不能写公式真麻烦╭(╯^╰)╮)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,423评论 6 491
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,147评论 2 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,019评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,443评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,535评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,798评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,941评论 3 407
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,704评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,152评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,494评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,629评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,295评论 4 329
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,901评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,742评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,978评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,333评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,499评论 2 348

推荐阅读更多精彩内容