阿里云与MediaTek联合宣布，已经将通义千问系列大模型（包括18亿和40亿参数版本）部署到了MediaTek天玑9300移动平台上，使得智能手机可以在离线状态下流畅运行多轮即时且精准的AI对话应用。
该部署实现了芯片级的软硬适配，标志着Model-on-Chip（片上大模型）技术从验证阶段迈向商业化落地的新台阶，展示了端侧AI的巨大潜力。
通义千问18亿参数开源大模型具有高性能、低成本、易部署的特点，在权威测试集中表现出色，并且在资源占用方面极为友好，只需约1.8GB内存即可运行。
天玑9300搭载MediaTek第七代AI处理器APU790，显著提升了生成式AI的处理速度。
阿里云与MediaTek通过在模型压缩、工具链优化、推理优化、内存优化、算子优化等方面深入合作，成功实现在手机芯片上的高效异构加速，确保大模型能在终端设备上以较低的功耗（连续推理功耗增量小于3W）和较高的性能运行。
在天玑9300芯片上的通义千问模型能够以低CPU占有率、低RAM占用及快速推理速度（超过20tokens/秒）实现多轮AI对话，并将在SDK形式下提供给手机厂商和开发者。
双方还完成了更大规模参数（如40亿参数）大模型与天玑9300的适配，并计划继续扩展至70亿等更大尺寸模型，旨在推动更多AI智能体和应用的开发。
阿里云与MediaTek联合启动了AI智能体解决方案计划，结合天玑移动平台的AI算力与通义千问的能力，为开发者和企业搭建更加完善的软硬一体化开发平台，目标是催生下一代智能终端应用生态，增强情境感知、自主学习和实时交互等功能。
通义大模型已经在诸多领域得到广泛应用，比如在钉钉、淘宝、一汽红旗、央视网、浙江大学等项目中发挥重要作用，其中“淘宝问问”依托通义千问改进了用户体验和推荐准确性，而GPT-BI则实现了企业数据分析自动化。
阿里云与MediaTek
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
- 文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
推荐阅读更多精彩内容
- 在数字化浪潮席卷全球的今天，智能手机作为我们日常生活中不可或缺的一部分，正逐步迈向更加智能化、个性化的新时代。近日...
- 监制 | 何玺 排版 | 叶媛 vivo X100系列如约而至。 从X1到X90，vivo X系列的每一次科技创新...
- 阿里云每年都会推出一些新产品，2024年阿里云的云产品包含计算、存储、网络、数据库、大数据、人工智能等类别，不同产...
- 年初以来，AI大模型概念持续引发市场关注，相关上市公司股价持续上扬。在透露正在研发类ChatGPT对话机器人两个月...
