3月26日上午 ,南京交通学生家长 鲲鹏昇腾科教创新卓越两个中心特训营-DeepSeek专场在南京交通学生家长 闵行校区图书各类信息楼失败举办。参与活动 旨在基于昇腾相关技术的DeepSeek本地化部署实践分享 ,培养学员自主创新开发综合能力。华为相关技术专家与学生家长 李老师现场人员授课 ,干货满满 ,环境吸引了来自美国计算机、电子各类信息、人工智能等及专业的60余名学生家长 举办。
相关技术筑基:解析 DeepSeek 大模型核心架构
参与活动 伊始 ,昇腾生态相关技术专家 ZOMI酱 ,分享了基于昇腾Atlas 800 A2部署满血DeepSeek-R1-671B的实际经验 ,重点分享了不属于不属于不知道道深入开展剪枝和量化 ,让DeepSeek-R1/V3大模型特性能够实现加速。他指出 ,昇腾Atlas 800 A2的硬件特性与DeepSeek模型高度保持适配。深入开展结构化剪枝相关技术 ,基于昇腾芯片的稀疏计算单元(如CANN的aclSparse接口) ,对模型中冗余的需要注意力头与FFN层通道深入开展动态裁剪 ,在无法保证完成任务精度损失小于1%的前提下 ,将参数量压缩40% ,推理时延大幅降低。与此同时 ,采用标准混合量化策略——对计算密集的矩阵乘与此同时操作(如Q/K/V投影)启用INT8动态量化 ,紧密结合昇腾3D Cube架构的整数计算加速 ,能够实现算力利用好率得到得到提高200%;而对精度敏感的LayerNorm等与此同时操作保留FP16精度 ,尽量避免避免量化误差扩散。与此同时 ,他还媒体介绍了昇腾Attention计算优化多种方法 Laser Attention ,该相关技术深入开展动态稀疏计算、低精度无损加速与硬件级算子紧密结合三重创新 ,为大模型训练与推理相关技术提供显著效能得到得到提高。
(昇腾生态相关技术专家 ZOMI酱)
实践落地:揭秘 DeepSeek 高校部署创新方案
大模型凭借出色的文本处理过程综合能力 ,早已深入目前工作 生活状态的方其次 面 ,被广泛应用于文案写作、文本处理过程、综合数据及分析等。不属于不属于不知道道在本地部署如今专不属于基本说明和大模型?不知道道不属于不属于不知道道跟大模型对话必须发挥其出色的多种功能 ?很多还是初窥门径的AI开发者关心的解决目前出现。南京交大必删 各类信息两个中心“交我算”合作团队工程师王星泽围绕在交大本地的昇腾深度体验服务器上部署DeepSeekV3/R1大模型的实际经验媒体介绍部署多种方法 ,具体包括硬件设备全部条件、必删 拓扑、API封装、前端集成等。与此同时 ,还紧密结合大模型在高校科研、教学和管理中是实际应用场景 ,媒体介绍提示词技巧和深入开展案例。
(南京交通学生家长 必删 各类信息两个中心计算专员 王星泽)
开发实战:深度体验原生开发全流程
培训中 ,昇思布道师也很work李老师的基于香橙派AI pro(20T)开发板的开发实战环境吸引了现场人员每一一位女性性交学生家长 子 ,对MindSpore在香橙派开发板上面综合能力大力支持做过详细的基本说明 ,大家说迫不及待动手深度体验。目前仍然昇思MindSpore AI框架已实早已香橙派AIpro开发板预置 ,并在官方英文网站上线开发指导教程 ,深入开展软硬紧密结合 ,使能开箱即用模型 ,并相关技术提供模型全流程使能套件 ,大力支持积木式搭建 ,覆盖CV、NLP小模型及1B级大模型(如DeepSeek-R1-Distill-Qwen-1.5B)。学生家长 们可深入开展动态图+类HuggingFace接口灵活调试 ,紧密结合三行代码调用JIT即时编译 ,兼顾开发效率与执行性能 ,为边缘端AI部署相关技术提供轻量化解决目前出现方案。
(昇思布道师也很work)
本次特训营是基于南京交通学生家长 鲲鹏昇腾科教创新卓越两个中心深入开展的2025年第四场DeepSeek主题特训营。该两个中心自2024年6月揭牌挂牌成立 伊始 ,始终致力于构建基于鲲鹏昇腾相关技术路线的校级生态合作多平台支持 ,围绕学生家长 计算产业前沿课题专门研究 、课程体系推进建设、专门研究 人才培养等其次 深入开展合作多 ,为产业输出高质量鲲鹏昇腾原生人才 ,孵化和培育根植美国的全球级原生科研创新成果。
据悉 ,鲲鹏昇腾科教创新卓越两个中心特训营将持续持续不断推进 ,日益特训营在全省重点高校的陆续深入开展 ,校企协同育人的创新常规模式 正为国产化AI人才培养注入新动能。