90 岁程序员:他的压缩算法改变了世界!牛啊牛啊! 爱编程的设计师

近日,国际电气与电子工程学会(Institute of Electrical and Electronics Engineers,简称 IEEE)宣布,授予 IEEE 终身 Fellow Jacob Ziv 2021 年度 IEEE 荣誉勋章。

这位如今已 90 岁的前辈,是一位以色列科学家,他开发了通用无损压缩算法 Lempel-Ziv,为后来的 GIF、PNG 和 ZIP 文件的开发奠定了坚实的基础。

无损压缩算法发展史

20 世纪 70 年代,随着互联网及 PC 时代的来临,如何在有限内存空间的设备上节省出更多的空间,并减少对带宽的占用,让文件在较低的网络带宽下实现更快的传输,成为彼时 IT 行业亟需解决的一大难题。

正因此,数据压缩技术也从背后逐渐走入大众视野,并开始在计算机领域扮演重要角色。

现如今,想必很多人都知道,数据压缩主要有两种类型:一种是有损压缩,一种是无损压缩。

所谓有损压缩,主要是利用了人类对图像或声波中的某些频率成分不敏感的特性,允许压缩过程中损失一定的信息,日常生活中,我们常见的语言、图像、视频压缩其实都是有损压缩的方式。

与有损压缩相比,无损压缩要更为复杂一些,对此,IEEE 官方使用了「魔术」一词来形容这门技术,其中原因主要是因为无损压缩技术是利用数据的统计冗余进行压缩,在解压之后,可完全恢复原始数据而不引起任何失真。这就像一位魔术师拿着魔术棒一挥,手中的东西不见了,再一挥,又原封不动地出现了,无损压损技术就像表演魔术一样。

而 Jacob Ziv 就是这位在数据压缩领域拿着魔术棒的大师。

不过,在 Jacob Ziv 这位魔术师带来奇特的魔术之前,压缩算法也经历了百年的发展历程(http://ethw.org/History_of_Lossless_Data_Compression_Algorithms):

事实上,发明于 1838 年的 Morse code,是最早的数据压缩实例。

随着大型机的兴起,数学家香农和 Robert Fano(CSAIL的计算先驱和创始人)发明了 Shannon-Fano(香农-范诺)编码算法。他们的算法基于符号(symbol)出现的概率来给符号分配编码(code)。一个符号出现的概率大小与对应的编码成反比,从而用更短的方式来表示符号。

1951 年,作为麻省理工的一名学生,David Huffman 选择写学期论文而非期末考试的方式来完成学业任务,彼时他的论文题目是寻找二叉编码的最优算法。不过,遗憾的是,经过几个月的努力后依然没有任何成果,Huffman 决定放弃所有论文相关的工作,开始学习为参加期末考试做准备。就在那时,Huffman 偶然间找到一个与 Shannon-Fano 编码相类似但是更有效的编码算法,这种编码方式效率高、运算速度快。

后来到了 20 世纪 70 年代,随着在线存储的出现,哈夫曼编码得到了广泛应用。不过,经过不断地尝试,不少科学家发现哈夫曼编码所得的编码长度只是对信息熵(描述信源的不确定度)计算结果的一种近似,还无法真正逼近信息熵的极限。同时,它需要两次通过数据文件:一次计算文件的统计特征,第二次编码数据。将字典与编码数据一起存储,增加了压缩文件的大小。

1977 年,来自以色列的 Jacob Ziv 和 Abraham Lempel 两位技术大神打破传统的设计思想,创造出一种哈夫曼编码更有效的压缩算法,并以两个人名字来命名。同时,他们还发表了一篇名为《A Universal Algorithm for Sequential Data Compression》(顺序数据压缩的一个通用算法 ,https://www2.cs.duke.edu/courses/spring03/cps296.5/papers/ziv_lempel_1977_universal_algorithm.pdf)的论文,揭晓了独创的 LZ77 算法,这也是第一个使用字典来压缩数据的算法。

次年,Jacob Ziv 和 Abraham Lempel 再次发表一篇改进版的论文(《Compression of Individual Sequences via Variable Rate Coding》),并带来了 LZ78 的压缩算法。与 LZ77 不同,LZ78 解析输入数据,生成一个静态字典,不像 LZ77 动态产生。该算法成为 80 年代初使用的 Unix 压缩程序的基础;影响了 90 年代的 WinZip 和 Gzip,为 GIF、TIFF 图片格式的开发带来了一定的指引。

如果没有这些算法的存在,现在的我们不一定能够使用更为便捷的网络就可以发送大型数据文件,或还停留在将大型数据文件拷贝到光盘上进行传输时代;听音乐时,还有可能需要 CD 而不是通过流式传输......、

Ziv 的过往经历

这一切都需要感谢 Jacob Ziv 和 Abraham Lempel。

"LZ 算法是第一个成功的通用压缩算法",一位支持 Ziv 获奖的工程师如是说。这些算法以及 Jacob Ziv 对它们的分析,为后续关于通用算法的大多数工作奠定了基础。

回顾 Ziv 的过往经历,其跨越了半个世纪,将自己全身心地投入到压缩算法领域中。

1931 年,出生在当时由英国统治的巴勒斯坦城市 Tiberias(现属于以色列)的 Ziv,在很小的时候,Ziv 就对电力和电子产品有着浓厚的兴趣,譬如,在练习小提琴的时候,他会尝试把乐谱架变成一盏灯。此外,他还试图用钢琴弹奏的金属零件制作一个马可尼发射机。

1948 年,第一次阿以战争爆发时他在读高中,后来被征召到前线短暂地服过役。由于一群母亲组织抗议,他才从前线回到了后方,在空军受训担任雷达技师。战争结束后,他进入以色列理工学院学习电气工程。

在 1955 年完成硕士学位后,Ziv 重返国防界,并加入了以色列国防研究实验室(现为拉斐尔先进防御系统),开发用于导弹和其他军事系统的电子元件。

1959 年,Ziv 被选为以色列国防实验室为数不多的出国留学的研究人员之一。那时,Ziv 计划继续从事通信工作,但他不再只对硬件感兴趣。偶然机遇之下,他阅读了《信息理论》(Prentice-Hall,1953年)的书籍,他决定将信息理论作为他关注的焦点。然而,除了麻省理工学院之外,还有什么地方可以研究信息理论呢?

当然还是麻省理工!于是,1960 年,Ziv 进入 MIT 读博,在信息理论方面深造,在毕业返回以色列后进入了国防部担任通信部门主管。

1968 年,他返回美国,进入了贝尔实验室。

两年后,Ziv 和几个同事一起加入了以色列理工学院。就是在这里,他遇到了 Abraham Lempel,两个人共同讨论了如何改进无损数据压缩。

Ziv 和 Lempel 都想知道他们是否可以开发一种无损数据压缩算法,该算法适用于任何类型的数据,不需要预处理,并且能够实现数据的最佳压缩,这个目标被称为 Shannon 熵的对象定义。在设想时,他们并不清楚是否可以实现他们的目标。于是,他们决定找出答案。

在深入研究几年后,随着 LZ77 和 LZ78 的出现,代表了其研究成功。Ziv 和 Lempel 开创了通用源编码,一系列无需知道固有信息压缩数据的算法,减少了从不失真和失真数据重建图像所需的数据率。

对此,斯坦福大学从事信息理论的电气工程教授 Tsachy Weissman 表示:"在他们发表作品时,算法清晰优雅,易于实现,计算复杂度低,这一事实几乎无关紧要。更多的是关于理论结果,为接下来的研究带来重要意义。"

另外,Ziv 还促成了错误校正代码的低计算复杂性解码理论。并于:

1993 年,因精确科学而被授予以色列奖(Israel Prize);

1995 年,因其“对信息理论、数据压缩的理论和实践的贡献”获得 IEEE 理查德 · 汉明奖章;

1997 年,获得 IEEE 信息论学会的克劳德 · 香农奖;

2008 年,获得 BBVA 基金会知识前沿奖。

如今,凭借「其对信息理论和数据压缩技术的重要贡献和杰出的研究领导地位」,被授予 2021 年度 IEEE 荣誉勋章,可谓实至名归,向依旧奋战在研究一线的前辈致敬!

部分素材来源于网络,如有侵权请联系删除。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,123评论 6 490
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,031评论 2 384
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,723评论 0 345
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,357评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,412评论 5 384
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,760评论 1 289
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,904评论 3 405
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,672评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,118评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,456评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,599评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,264评论 4 328
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,857评论 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,731评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,956评论 1 264
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,286评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,465评论 2 348

推荐阅读更多精彩内容