课程基本信息
课程名称：端侧AI应用与行业趋势：技术演进、典型案例与商业机会洞察
目标客户：关注端侧AI产品规划与业务决策的企业
目标学员：产品经理、业务负责人、战略规划人员、技术管理人员
课程时长：1天（6小时）
授课方式：讲座式 + 案例研讨 + 趋势研判工作坊
讲师：耿杰
课程目标
1. 全面了解端侧AI的技术演进路径、最新进展与核心趋势，建立系统认知框架。
2. 掌握端侧AI在手机、汽车、IoT、PC、穿戴设备等典型场景的应用案例与落地逻辑。
3. 能够结合企业自身业务，判断端侧AI的未来发展方向与商业机会，输出产品规划与业务决策建议。
课程大纲
开场：什么是端侧AI？为什么它正在重塑产品形态？（30分钟）
学习目标：
建立端侧AI的基本概念，理解其与云端AI的本质差异和商业价值。
核心内容：
1. 端侧AI的定义：在终端设备（手机、汽车、IoT设备、PC等）本地运行的AI能力，而非完全依赖云端。
2. 端侧AI vs 云端AI：延迟、隐私、成本、可靠性、离线可用性的权衡。
3. 端侧AI爆发的三大驱动力：
- 算力提升：NPU、DSP、专用AI芯片性能快速提升。
- 模型小型化：模型蒸馏、量化、剪枝、MoE架构让大模型能在端侧运行。
- 隐私与合规需求：数据本地化、监管要求、企业数据安全。
4. 端侧AI对产品形态的影响：从"联网调用"到"本地智能"，从"功能软件"到"智能体入口"。
案例/数据：
2024年全球智能手机端侧AI渗透率快速提升，主流旗舰手机均已搭载NPU或AI专用算力（来源：高通、联发科公开数据）。
苹果Apple Intelligence将大量模型推理放在本地设备上，仅在复杂任务时调用云端（来源：Apple WWDC公开资料）。
互动/练习：
小组讨论：你所在的业务场景中，哪些功能更适合端侧运行，哪些必须云端处理？
模块一：端侧AI最新技术进展与发展趋势（120分钟）
学习目标：
系统掌握端侧AI的技术栈、最新进展和未来趋势。
核心内容：
1. 端侧AI芯片与算力演进：
- NPU成为手机SoC标配：高通骁龙8 Gen 3/Elite、联发科天玑9300/9400、苹果A17 Pro/A18 Pro的NPU算力对比。
- 端侧AI芯片的玩家格局：高通、联发科、苹果、华为海思、三星、紫光展锐、寒武纪、地平线等。
- 车端算力：英伟达Orin/Xavier、高通骁龙Ride、华为MDC、地平线征程系列。
2. 端侧模型小型化技术：
- 模型蒸馏：用大模型教小模型，如Google Gemma、Meta Llama 3小参数版本。
- 量化与剪枝：INT4/INT8量化、结构化剪枝、动态批处理。
- 端侧大模型进展：Meta Llama 3.1/3.2、Google Gemma 2、苹果端侧模型、小米MiLM、vivo蓝心大模型端侧版、OPPO安第斯大模型端侧版。
3. 端侧AI操作系统与框架：
- 端侧AI框架：TensorFlow Lite、ONNX Runtime、Core ML、Qualcomm AI Stack、MediaTek NeuroPilot。
- 操作系统级AI：Apple Intelligence、Google Gemini Nano、三星Galaxy AI、华为鸿蒙AI能力。
4. 端云协同架构：
- 端侧处理简单任务，云端处理复杂任务的分层架构。
- 模型路由与隐私计算：根据任务复杂度、网络状态、数据敏感度动态选择执行位置。
5. 未来趋势：
- 端侧模型参数持续增大，未来12-24个月可能普及7B-13B参数端侧模型。
- 多模态端侧AI：文本、图像、语音、视频在本地融合处理。
- AI Agent端侧化：个人助理、设备管家、智能体生态。
案例/数据：
高通骁龙8 Elite的NPU算力达到约45 TOPS，支持端侧多模态AI（来源：高通公开发布会）。
联发科天玑9400集成AI处理器NPU 890，支持端侧LoRA训练与视频生成（来源：联发科公开资料）。
苹果在iPhone 16系列中搭载A18 Pro芯片，支持Apple Intelligence本地推理（来源：Apple公开资料）。
华为Mate 70系列搭载盘古大模型端侧能力，支持本地文档摘要、图像处理等（来源：华为公开资料）。
互动/练习：
技术趋势雷达图：从技术成熟度、商业落地速度、企业自身相关性三个维度，评估端侧AI关键技术趋势。
小组讨论：端侧模型变大后，对芯片、散热、电池、产品成本会带来哪些连锁影响？
模块二：端侧AI典型应用案例（150分钟）
学习目标：
通过跨行业典型案例，理解端侧AI的落地逻辑和价值。
核心内容：
1. 智能手机：端侧AI最成熟的市场
- 影像增强：AI降噪、AI修图、AI扩图、视频实时优化。
- 智能助手：本地语义理解、离线语音助手、端侧大模型对话。
- 效率工具：本地文档摘要、会议纪要、实时翻译、智能回复建议。
- 安全与隐私：本地人脸/指纹识别、端侧欺诈检测。
2. 智能汽车：端侧AI的下一个主战场
- 自动驾驶：特斯拉FSD、华为ADS、理想城市NOA的端侧感知与决策。
- 智能座舱：本地语音助手、驾驶员状态监测、端侧个性化推荐。
- 车端大模型：端侧语义理解、车控指令执行、故障预测。
3. 智能家居与IoT：端侧AI让设备真正"智能"
- 智能摄像头：本地人形检测、行为识别、隐私保护（不上传视频）。
- 智能音箱：本地唤醒、离线语音控制、端侧语义理解。
- 可穿戴设备：健康监测（心率、血氧、睡眠）、跌倒检测、运动姿态识别。
- 工业IoT：边缘质检、设备预测性维护、能耗优化。
4. PC与办公：端侧AI生产力工具
- AI PC：本地文档处理、代码辅助、会议纪要、图像生成。
- Windows Copilot+ PC、Mac Apple Intelligence、联想AI PC等。
5. 机器人与硬件：端侧AI的新载体
- 人形机器人：本地环境感知、运动控制、人机交互。
- 无人机：端侧目标识别、避障、路径规划。
- XR/AR眼镜：实时翻译、空间识别、虚实融合交互。
案例/数据：
三星Galaxy S24系列搭载Galaxy AI，支持端侧实时通话翻译、会议纪要等功能（来源：三星公开发布会）。
小米澎湃OS 2整合HyperAI，支持端侧大模型，实现智能图像搜索、AI写作等功能（来源：小米公开发布会）。
理想汽车城市NOA基于端到端+VLM架构，车端算力支持复杂城市场景决策（来源：理想汽车公开技术分享）。
特斯拉FSD V12采用端到端神经网络，大量推理在车端完成（来源：特斯拉公开资料）。
萤石网络、大华股份等推出的智能摄像头支持端侧AI人形检测，降低云端流量与隐私风险（来源：企业公开产品资料）。
科沃斯、石头科技等扫地机器人搭载端侧AI，实现本地建图、障碍物识别与路径规划（来源：企业公开产品资料）。
互动/练习：
案例拆解：选择1个端侧AI案例，分析其"技术方案、商业模式、用户价值、竞争壁垒"。
跨界迁移：手机/汽车/IoT的端侧AI能力，哪些可以迁移到你们所在的行业？
模块三：端侧AI未来发展方向与商业机会洞察（90分钟）
学习目标：
掌握端侧AI未来发展方向，能够识别企业级商业机会。
核心内容：
1. 端侧AI发展的五大方向：
- 端侧大模型普及：从当前1B-7B参数向更大规模演进。
- 多模态端侧AI：文本+图像+语音+视频在端侧融合。
- AI Agent端侧化：设备级智能体、跨应用操作、个人数字助理。
- 端云协同深化：根据任务动态分配算力，形成"端-边-云"一体化智能。
- 端侧AI安全与隐私：本地联邦学习、端侧加密、可信执行环境。
2. 商业机会图谱：
- 芯片层：NPU、端侧AI SoC、存算一体芯片。
- 模型层：端侧大模型、垂直行业小模型、模型压缩工具。
- 工具层：端侧AI开发框架、模型优化工具、端云协同平台。
- 应用层：智能设备、AI原生应用、企业端侧解决方案。
- 服务层：端侧AI咨询、部署、运维、数据标注、模型调优。
3. 不同行业的端侧AI机会：
- 消费电子：硬件差异化、AI功能订阅、换机周期驱动。
- 汽车：自动驾驶、智能座舱、售后增值服务的端侧化。
- 工业：边缘质检、预测性维护、柔性生产。
- 医疗：可穿戴健康监测、本地诊断辅助、数据隐私保护。
- 金融：端侧风控、本地身份认证、隐私计算。
4. 产品规划与业务决策建议：
- 端侧AI项目评估矩阵：技术成熟度、用户需求强度、商业ROI、竞争差异化。
- 端侧AI落地的典型路径：单点功能→系统集成→生态构建。
- 风险识别：算力成本、散热续航、模型迭代、数据隐私、监管合规。
案例/数据：
2024年全球AI手机出货量占比快速提升， Canalys等机构预测2025年AI手机将成为旗舰机标配（来源：Canalys公开报告）。
端侧AI PC市场：Intel、AMD、高通均推出AI PC芯片，Windows Copilot+ PC生态逐步扩展（来源：Intel、AMD、高通、微软公开资料）。
端侧AI在工业质检领域市场规模持续增长，预计边缘AI在制造业的渗透率将快速提升（来源：IDC等第三方公开报告）。
互动/练习：
商业机会画布：结合自身业务，填写"端侧AI机会画布"（目标用户、痛点、端侧AI方案、价值主张、关键资源、风险）。
小组辩论：端侧AI未来3年，最大的商业机会是在消费电子、汽车，还是在工业/企业市场？
总结：从产品规划到业务决策——端侧AI行动清单（30分钟）
学习目标：
帮助学员将一天所学转化为可落地的行动建议。
核心内容：
1. 端侧AI产品规划的五个关键问题：
- 什么功能必须本地跑？
- 用户愿意为端侧AI多付多少成本？
- 数据隐私与合规边界在哪里？
- 技术路线选择：自研、芯片厂商方案、第三方模型？
- 如何设计端云协同体验？
2. 业务决策三步法：
- 第一步：盘点现有产品/业务中的"端侧AI适配点"。
- 第二步：评估端侧AI的技术成熟度与商业ROI。
- 第三步：小规模试点，快速验证，再决定是否规模化。
3. 端侧AI产品路线图模板：短期（功能增强）、中期（端侧大模型）、长期（AI Agent生态）。
互动/练习：
每人完成一份"端侧AI业务决策一页纸"：机会、风险、下一步、资源需求。
集体分享：学员提出1个最感兴趣的端侧AI商业机会，讲师点评可行性。
授课老师
耿杰 AI时代产品思维实战专家
常驻地：北京
邀请老师授课：13439064501 陈助理
