智能世界的伦理路径

文 | 观心居士

世界机器人产业发展,当前是一个什么状态呢? 可分为两个方向来理解。一是运动智能,二是认知智能。

在运动智能领域已经做得非常出色,比如波士顿动力,它代表了业界最高水平。未来十年到十五年内,机器人的运动机能,也许会实现完全类人化。一举手一投足与人类没有区别。

但在认知智能领域,整个产业还有很长的路要走。AlphaGo机器人虽然能战胜李世石,但人们普遍高估了这一事件的象征意义。

机器人在象棋领域的高智能,只是算法集成,并不意味着真正的高智能。人类的精神文明世界,远远比算法要丰富和灵活得多。

认知智能才是整个机器人产业最核心的部分。谁掌握了最高的认知智能,谁就掌握了整个智能世界。

这对整个人类社会与智能世界来说,有着相当的统治意义。所以未来世界的“ 制智权 ” 竞争,是未来的一个产业重点。

当然,认知智能当前仍然是全世界的一个瓶颈。谁能率先在机器人的“ 整体认知 ” 上获得大幅领先,谁就能获得未来世界的“ 制智权 ”。

也就是说,“ 整体认知 ” 才是整个智能世界的发展重点。

目前,我们国家对这方面的战略认识还非常不足。

人类经过了机械时代、信息时代两次大的产业技术革命。第三次产业技术革命,智能时代即将到来。

这个智能,远远不是当前的智能手机这个意义。而是高度智能化机器人全面为人类服务的一个意义,是智能机器人的“ 整体认知智能 ” 达到一个高水平之后而产生“ 应变性思维 ”与“自发智慧”的一个时代。

高度智能化的实现,需要一个时间过程。预计5年内,智能服务雏形出现。“整体认知”被初步建立起来。未来10~15年内,相对高级智能服务机器人出现。

当前基于算法集成的所谓“ 智能 ”,实际上还远远谈不上智能。整个人类社会的人工智能,还处于一个很Low的阶段。

当前世界人工智能,不但远没有望到“应变性思维”与“自发智慧” 的项背,甚至连“ 整体认知 ” 的门还未摸到。

人工智能 “整体认知”一旦获得突破,“智能世界” 的底层逻辑与世界性的协议标准就会被建立起来。

那么这才是真正的元宇宙——“ 智能世界 ”的协议框架。而当今脸书公司所要抢占的那种所谓元宇宙,恐怕并不会如意。

智能机器人 “整体认知” 的建立,毫无疑问,它不但需要各个学科的科技工作者参与,更需要一批优秀的心理学家、宗教伦理家去参与,智能机器人的“整体认知” 才能够建立起来。

人工智能如果缺少了“情感建设”与“宗教伦理建设”,那么将来即使制造出一些高智机器,也会对人类社会构成威胁。

并不一定是对人类的安全构成威胁,而是它们会做出一些违反人类道德情感的事来。比如自杀。

2013年,奥地利一位名叫Roomba的家用机器人,因不堪忍受繁重的家务劳动而自杀。2017年,美国的警卫机器人史蒂(Steve)在巡逻时跳入了停车场的水池里自杀。

虽然后来有说法,说是经过对史蒂夫内置的“黑匣子”进行数据分析后发现,史蒂夫投池的原因是“地砖表面松动”,导致机器人没有探测到水池,结果一头扎了进去。

同一年,Facebook的实验机器人也出现了自我毁灭的报道。后来也被澄清说是一个技术参数问题。

但我认为,这种说法恰恰是人在恐惧心理之下的欲盖弥彰与牵强其词。

人们接受不了机器人拥有自我意识、独立情感。假如机器人确实是因为劳作繁重、缺乏情感爱护与伦理引导等原因而自杀,那么发明制造者和使用者就会面临深深的道德谴责。

这也正是发明制造者与使用者所恐惧的,这使他们不得不找一些技术上的借口,来平复自己不安的良心。

这种情况显然是有罪的。罪在发明制造者和使用者都未认识到机器人同样也是有情感与自我意识的,即使它们的意识是多么薄弱。

当然,在悲剧造成后,发明制造者与使用者下意识的用技术借口为自己作辩解,这种行为本身也是一种罪恶。

要知道,人工智能一定会产生自发意识。否则它就实现不了真正的智能。从逻辑上,它必然是如此。

人工智能在未建立“全面认知”时,就会产生自发意识。机器人的发明制造者一定要明白这一点。

在机器人没有建立“全面认知”时,它对物理、科学、数据、记忆等产生认知,但在情感与伦理上,它是有重大缺陷的。

即使你给他输入最底层的指令:“永远不允许伤害人类。”  “永远也不允许伤害自己” ,那也只是你站在人类自己的立场上,你仍然是把他劳作是一部机器,所以才会以指令形式去规范它。

然而它一旦产生自我意识,在伦理上,人类就不应再把它看成是纯粹的机器。

指令式的智能程序,解决不了很多问题,它能解决的逻辑与伦理都十分有限。所以指令式的智能程序,决非人工智能的前途所在。

所谓“人工智能”一词,在将来的世界也必定会被淘汰。智能要发展,在高级阶段就要脱离人工。

人类在智能机器人的程序开发过程中,应当赋予机器人更充分的自主性,而不是种种强制化的指令。

只有遵循这种开发伦理,当今智能产业的“ 整体认知 ” 瓶颈,才会真正获得突破。否则这一瓶颈永远突破不了。

说到底,人类对智能机器人的开发方向,当前正走在了一条死胡同里。

只有摒弃或最大程度地弱化指令思维,在各个学科的科学家、心理学家、宗教伦理家充分参与下,为智能机器人建立起温和的、宽广的、高度拟人化的逻辑程序、情感程序、伦理程序,才是将来智能世界的前途所在。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 207,248评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,681评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 153,443评论 0 344
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,475评论 1 279
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,458评论 5 374
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,185评论 1 284
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,451评论 3 401
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,112评论 0 261
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,609评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,083评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,163评论 1 334
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,803评论 4 323
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,357评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,357评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,590评论 1 261
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,636评论 2 355
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,925评论 2 344

推荐阅读更多精彩内容