PaddleLite简单梳理

下载和编译:

  1. github网络原因clone代码非常慢,推荐换用gitee的服务器,https://gitee.com/paddlepaddle/paddle-lite.git
  2. clone后,可以通过修改.git/config中的url为https://github.com/PaddlePaddle/Paddle-Lite.git来与github仓库保持同步
  3. third-party中的自仓同理,也可一并用gitee的镜像仓库替换。除了thirdparty中附带的子仓之外,paddle-lite还会在build时根据cmakelist自动从github克隆众多依赖库,速度非常慢,容易卡死,推荐参考lite/tools中各平台的傻瓜式编译脚本,脚本中会从百度官方源下载依赖包,速度非常快。

依赖

  1. mkldnn & mklml 英特尔深度学习加速库
  2. protobuf 序列化数据结构,用于解析模型等
  3. gflags 谷歌命令行解析工具库
  4. glog 谷歌日志库
  5. gtest 谷歌测试框架
  6. eigen 高性能矩阵运算库
  7. xbyak 汇编库,可以在C++程序中手写汇编存储在内存中调用
  8. xxhash 超快速非加密哈希算法

源码目录结构

ps:代码大部分位于lite目录下,metal(苹果的GPU运算加速库也叫metal,应该就是IOS的内容了)和mobile是从paddle-mobile迁移过来的移动端代码,这里不予探讨

又ps:官方文档中已有较详细的描述的部分在此不做赘述

再ps:应用开发者只需要关心api部分即可,硬件后端适配人员或框架开发者需要关注全部内容

最后一次ps:paddlelite因为开发时间尚短,需要支持的硬件端过于繁多,代码难免杂乱,质量也有提升空间,但毕竟是少有的国产开源项目,大家多多包容

  • api:对外接口封装和相应测试(吐槽下,目录结构有点乱,外面有个单独的test目录这里还乱放接口测试文件),包括了android接口(需要NDK),C++全尺寸接口,C++轻量级接口(一个全尺寸库200M+,移动端吃不消),python接口(pybind11实现)
  • core:核心模块,包含了类型系统,硬件描述,内存操作,变量域,推理程序,operator基类(对算子的IO描述以及实现管理),kernel基类(算子的硬件实现),MIR(Machine IR,图优化),性能分析工具(profiler),封装了gtest的arena测试框架(??测试框架放在core里面??而且还依赖gtest)
  • backend:内存操作,context等硬件相关的基础操作,和部分数学函数的硬件端实现
  • operator:各类算子实现(operator负责检查输入shape,推理输出shape,以及管理算子参数和kernel的实现)
  • kernel:算子的硬件实现
  • model_parser:依赖protobuf的模型描述相关实现(读取模型就靠它啦),也包含对op和program的描述
  • gen_code:编译时生成代码
  • fluid:数据类型(float16,int等)描述,和一些tricks封装,(感觉可以和utils合并一下?)
  • utils:鉴于使用C++11标准,boost库又太庞大,抄过来的any和variant实现(但是variant实现在varient里面,variant.h里面是编译器优化的宏??),还有借鉴glog的日志系统(轻量级编译的时候用于替换glog,通过cp_logging实现代码不变,条件编译决定采用哪一个日志实现)
  • tools:各平台的傻瓜式编译脚本,dockerfile等
  • test:各类没有放在待测源代码目录下的测试文件
  • demo:C++,python,java三种demo

issue

未提issue

  1. 模型接口统一

PROCESSING

  1. [#3496] python库中包含未选择编译的内容
  2. [#3494] 单例的实现存在内存泄漏

CLOSED

  1. [#3291] 框架中注入了多余的符号,强制应用层引入不必要的依赖
  2. [#3292] model_parser使用了protobuf即将废弃的接口ByteSize
  3. [#3313] profile缺少头文件,编译失败
  4. [#3356] tensor的slice内存共享设计缺陷导致multiclassnms不支持batchsize大于1的情况
  5. [#3406] 编译过程中大量sign-compare的warning
  6. 同时打开test和python编译会强制编译ARM的单元测试(未提issue已修复)

传送门

官方源码仓库:https://github.com/PaddlePaddle/Paddle-Lite
WeChat Official Account: PaddlePaddle
QQ Group Chat: 696965088

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,948评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,371评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,490评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,521评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,627评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,842评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,997评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,741评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,203评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,534评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,673评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,339评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,955评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,770评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,000评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,394评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,562评论 2 349

推荐阅读更多精彩内容