当年作为核心SE在MindSpore团队从0到1构建了MindSpore Lite推理引擎，到去年知道的信息是现在在华为和荣耀手机上的AI能力都是基于Lite推理引擎，调用次...
发简信
IP属地：江苏
当年作为核心SE在MindSpore团队从0到1构建了MindSpore Lite推理引擎，到去年知道的信息是现在在华为和荣耀手机上的AI能力都是基于Lite推理引擎，调用次...
1. 到底什么是知识蒸馏？ 一般地，大模型往往是单个复杂网络或者是若干网络的集合，拥有良好的性能和泛化能力，而小模型因为网络规模较小，表达能力有限。因此，可以利用大模型学习到...
说明 MindSpore Python编程规范以PEP8[https://www.python.org/dev/peps/pep-0008/]为基础，参考华为Python通用...
一、字母上面的上标输入方法 字母上面的上标输入方法，如表所示，如\bar{a}表示字母a头上有一横线实际上a可以为任意LaTex表达式 符号语法\hat{a}\grave{a...
机器学习和深度学习算法流程 终于考上人工智能的研究僧啦，不知道机器学习和深度学习有啥区别，感觉一切都是深度学习 挖槽，听说学长已经调了10个月的参数准备发有2000亿参数的T...
如图所示在网络模型训练阶段， 激活函数的梯度分布式中，有67%的精度小于2^24，直接使用FP16进行表示会截断下溢的数据，这些梯度值都会变为0。通常我们训练神经网络模型的时...
目前Foundation Model或者是大模型，特别地火，接下来介绍什么是大模型，大模型的基本概念；接着看看大模型的实际作用，然后基于这些实际作用，我们简单展开几个应用场景...
要了解大模型训练难，我们得先看看从传统的分布式训练，到大模型的出现，需要大规模分布式训练的原因。接着第二点去了解下大规模训练的挑战。 从分布式训练到大规模训练 常见的训练方式...
