大模型实战专家—周红伟 法国科学院数据算法博士/曾任阿里人工智能专家
课程概述
本课程专为运营商行业技术人员设计,聚焦当前AI热点方向,包括OPC、智能体应用、数字员工、大模型、知识库、RAG等核心技术。课程结合运营商行业实际业务场景,通过理论讲解与实操演练相结合的方式,帮助学员掌握大模型技术在运营商领域的落地应用能力。课程由具有大厂实操经验的AI专业人员、高校知名AI专家及专业讲师联合授课,确保内容的专业性和实用性。
课程时长
15天(每天上午9:00-12:00,下午14:00-17:00)
课程收益
▪ 掌握大模型基础原理及在运营商行业的应用场景
l熟悉RAG技术架构及在运营商知识库中的实际应用
▪ 能够构建基于大模型的智能客服和数字员工系统
l掌握OPC自动化工作流在运营商业务中的落地应用
l具备智能体开发能力,可创建运营商专属AI助手
▪ 了解标杆案例,获得可直接落地的技术方案
l提升解决实际业务问题的AI技术应用能力
培训目标
▪ 理解大模型技术原理及其在运营商行业的适用性
▪ 掌握RAG、知识库构建等关键技术实现方法
▪ 能够设计和实施运营商智能客服系统
▪ 具备数字员工系统开发和维护能力
▪ 掌握OPC自动化工作流设计与实现技巧
▪ 能够评估和选择适合运营商业务的大模型方案
▪ 建立完整的AI项目落地思维和方法论
课程特色
▪ 行业针对性:所有案例均围绕运营商业务场景展开
▪ 实操导向:每节课包含动手实践环节,确保技能掌握
▪ 前沿技术:涵盖最新AI技术和行业应用趋势
▪ 专家授课:来自大厂和高校的资深专家联合教学
▪ 案例丰富:提供多个成功落地的标杆案例分析
▪ 持续支持:培训后提供技术咨询和项目指导
课程大纲
第1天:大模型的训练、推理流程框架和运营商Token算力产品应用
上午:AI大模型的运营商应用场景和大模型的基本框架
00001. AI应用发展现状与趋势
00002. 大模型分类与特点
00003. 主流大模型的应用场景概览
00004. 大模型应用的基本框架与流程
00005. 关键术语与概念梳理
00006. 运营商行业应用案例简析
下午:大模型训练、推理的流程框架和运营商的Token产业战略
00007. 大模型训练的基本流程和框架
00008. 大模型推理的基本流程和框架
00009. 运营商大模型数据集的定义和数据集的管理要点
00010.运营商Token产业战略计划和运营商Token产品
00011. Token的产品、调度和智能体的Token应用、封装
00012. Token算力、Token算力封装和Token产品营销
第2天:RAG系统快速搭建与运营商知识库实战
上午:RAG系统环境搭建与基础实现
00001. LangChain/LlamaIndex框架安装与配置实战
00002. 运营商文档数据清洗与预处理实操
00003. Chroma向量数据库本地部署与测试
00004. 文本分块策略实战:按章节、按语义、按长度对比
00005.嵌入模型选型与API调用实战(text-embedding-ada-002、bge-m3)
00006.基础RAG管道构建:从文档到问答的完整流程实现
下午:运营商知识库RAG系统优化
00013.混合检索策略实现:关键词+向量联合检索
00014. 重排序模型集成:提升检索结果相关性
00015. 元数据过滤实战:按业务类型、时间范围筛选
00016. 多轮对话上下文管理实现
00017. 引用溯源功能开发:答案来源标注与展示
00018. RAG系统性能测试与优化:响应时间、准确率评估
第3天:大模型部署与基础设施搭建
上午:大模型本地化部署
00001. 大模型硬件资源配置要求
00002. Docker容器化部署实践
00003. Kubernetes集群管理基础
00004. 模型量化技术与性能优化
00005.推理引擎选择与配置(vLLM、TensorRT-LLM)
00006. 运营商数据中心适配方案
下午:云服务与大模型集成
00001. 公有云大模型服务比较(天翼云、阿里云、华为云、腾讯云)
00002. 私有云大模型部署架构设计
00003. 混合云环境下的模型管理
00004. API接口设计与安全认证
00005. 模型版本管理与更新机制
00006. 运营商级高可用架构设计原则
第4天:提示工程与RAG高级优化实战
上午:高级提示工程技术
00001. ReAct推理框架实战:思维链+行动规划联合优化
00002. Self-Consistency多路径推理:提升复杂问题准确率
00003. Tree-of-Thoughts结构化思考:运营商业务决策支持
00004. 动态提示词生成:根据用户画像自适应调整
00005. 提示词攻击防护:注入攻击检测与防御策略
00006. A/B测试框架搭建:提示词效果量化评估系统
下午:RAG系统高级优化
00001.查询重写技术:HyDE假设性文档增强检索
00002.父子文档索引:粗粒度定位+细粒度提取
00003. 图增强检索:实体关系网络辅助召回
00004.缓存策略优化:Redis向量缓存+语义去重
00005. 增量索引更新:实时数据同步与版本管理
00006. RAG评估体系构建:Ragas框架集成与指标监控
第5天:小模型蒸馏技术与边缘部署实战
上午:模型蒸馏核心技术
00001.知识蒸馏原理:Teacher-Student架构详解
00002.黑盒蒸馏vs白盒蒸馏:适用场景与选择策略
00003.响应蒸馏实战:使用GPT-4/Qwen-Max生成训练数据
00004. 逻辑蒸馏技术:思维链迁移到小模型
00005. 对比学习增强:提升小模型判别能力
00006. 蒸馏效果评估:准确率、速度、成本三维对比
下午:运营商小模型部署与应用
00001. Qwen2-1.5B/7B本地部署:Ollama快速启动
00002. Llama3.2-3B量化部署:GGUF格式转换与优化
00003. Phi-3-mini边缘设备部署:移动端/IoT场景适配
00004.蒸馏模型微调:LoRA适配运营商专业术语
00005. 模型路由策略:大小模型协同工作架构
00006.成本效益分析:小模型在运营商场景的ROI计算
第6天:企业级RAG系统开发与向量数据库优化
上午:高级向量数据库实战
00001. Milvus集群部署:分布式架构与高可用配置
00002.混合索引策略:HNSW+IVF_FLAT性能调优
00003. 标量过滤优化:元数据索引加速查询
00004. 数据分片策略:按业务域分区提升并发
00005.备份容灾方案:定时快照+异地复制
00006.监控告警系统:Prometheus+Grafana可视化
下午:企业级RAG系统开发
00001. 多租户架构设计:数据隔离与权限控制
00002.文档解析引擎:PDF/Word/Excel结构化提取
00003. 智能分块策略:基于语义边界的自适应分割
00004.多路召回融合:向量+关键词+图谱联合排序
00005.引用溯源增强:页码定位+原文高亮显示
00006. RAG即服务:FastAPI封装与SDK开发
第7天:OpenClaw智能体框架深度实战
上午:OpenClaw核心架构与部署
00001. OpenClaw源码编译与Docker化部署全流程
00002. 插件系统设计:自定义工具开发规范
00003.记忆管理机制:短期记忆+长期记忆分层存储
00004.任务规划器定制:ReAct+ToT混合推理策略
00005. 执行器优化:并行任务调度与资源管理
00006.可观测性建设:链路追踪+性能剖析+异常告警
下午:OpenClaw运营商智能体开发
00001.网络故障诊断智能体:告警关联分析+根因定位
00002.客户服务协调智能体:多渠道信息聚合+智能路由
00003.营销活动策划智能体:客群筛选+内容生成+A/B测试
00004.资源调度优化智能体:容量预测+自动扩容+成本控制
00005.合规审查智能体:合同条款检查+风险预警+整改建议
00006. 智能体协作网络:多智能体分工协作与冲突解决
第8天:Hermes函数调用框架与系统集成实战
上午:Hermes框架核心技术
00001. Hermes模型微调与部署:Llama3-Hermes-8B本地化
00002. Function Calling协议详解:OpenAI兼容接口实现
00003. JSON Schema高级用法:嵌套结构+枚举约束+条件验证
00004.并行函数调用优化:依赖图分析+执行顺序调度
00005.错误恢复机制:重试策略+降级方案+人工接管
00006.函数调用评估体系:准确率+延迟+稳定性多维监控
下午:运营商系统集成开发
00001. CRM系统对接封装:RESTful API+GraphQL统一网关
00002.网管系统数据采集:SNMP+NETCONF+Telemetry多协议支持
00003.计费系统实时查询:高并发缓存+异步批处理优化
00004.工单系统自动化:创建+分配+跟踪+闭环全流程
00005.消息推送服务:短信+邮件+企业微信多渠道触达
00006.事务一致性保障:分布式事务+最终一致性+补偿机制
第9天:OPC自动化工作流引擎与LangGraph实战
上午:LangGraph工作流引擎核心技术
00001. LangGraph架构解析:StateGraph+MessageGraph双模式
00002. 状态机设计:运营商业务流程建模与状态转换
00003.条件路由实现:基于LLM判断的动态分支逻辑
00004. 循环与迭代:直到满足条件的自主决策循环
00005.人工审批节点:中断恢复+人工输入+继续执行
00006. 子图嵌套:模块化设计与复用机制
下午:运营商OPC场景工作流开发
00001.故障处理工作流:告警接收→诊断→派单→验证→闭环
00002.投诉处理工作流:分类→情绪分析→方案生成→回访
00003.套餐变更工作流:资格校验→风险评估→审批→生效
00004.日报生成工作流:数据采集→分析→图表→报告→分发
00005.合同审核工作流:OCR识别→条款抽取→风险标注→审批
00006.工作流监控平台:执行追踪+性能分析+异常告警
第10天:数字员工全栈开发与RPA集成实战
上午:RPA与大模型深度融合
00001. Playwright浏览器自动化:运营商后台系统操作录制与回放
00002. UI元素智能识别:CV+DOM双模态定位技术
00003. Excel/Word/PDF自动化:openpyxl+python-docx+PyPDF2实战
00004.影刀RPA集成:可视化流程设计+Python脚本扩展
00005.定时任务调度:APScheduler+Celery分布式任务队列
00006.异常处理框架:截图留存+日志记录+自动重试+人工告警
下午:运营商数字员工综合场景
00001.经营分析数字员工:多系统数据抓取→清洗→分析→可视化→报告
00002.客户流失预警数字员工:行为特征提取→风险评分→挽留策略→触达执行
00003.网络监控数字员工:指标采集→阈值判断→告警分级→初步诊断→工单创建
00004.营销内容数字员工:热点监测→文案创作→图片生成→合规检查→多平台发布
00005.招投标辅助数字员工:公告监控→资质匹配→标书生成→校对优化→提交
00006.数字员工管理平台:任务编排+权限管理+执行监控+审计日志+效能分析
第11天:多模态大模型与运营商视觉应用实战
上午:多模态技术基础与部署
00001. Qwen2-VL/LLaVA本地部署:Docker镜像构建与API服务化
00002.图像理解能力:基站照片识别、设备铭牌OCR、故障图片诊断
00003. 文档解析增强:复杂表格提取、流程图理解、手写体识别
00004. 视频分析技术:监控视频异常检测、施工过程合规检查
00005.多模态RAG:图文联合检索、跨模态语义对齐
00006. 性能优化策略:图像预处理、批量推理、缓存机制
下午:运营商多模态应用场景
00001.基站巡检系统:照片上传→设备识别→状态判断→异常标注→报告生成
00002.机房监控平台:视频监控→人员识别→行为分析→违规告警→录像存档
00003.装维辅助工具:现场拍照→步骤指导→质量检查→验收确认
00004.营销素材生成:产品描述→海报设计→文案优化→多尺寸适配
00005.故障远程诊断:用户拍照→问题识别→解决方案→视频指导
00006.多模态客服系统:文字+图片+语音多通道交互与理解
第12天:模型微调与领域适配实战
上午:参数高效微调技术
00001. LoRA原理与实现:低秩分解+参数冻结+高效训练
00002. QLoRA量化微调:4-bit量化显存优化+NF4数据类型
00003.指令数据集构建:运营商场景问答对生成+质量过滤+格式化
00004.训练框架选型:PEFT+Transformers+DeepSpeed分布式训练
00005.超参数调优:学习率、batch size、epoch数网格搜索
00006.模型合并与导出:LoRA权重合并+GGUF转换+量化压缩
下午:运营商领域微调实战
00001. 运营商术语理解增强:专业词汇、缩写、技术文档微调
00002. 客服对话风格适配:礼貌用语、情感表达、方言处理
00003.故障描述标准化:口语化描述→标准故障代码映射
00004.营销话术个性化:客户分群→差异化话术→A/B测试
00005.工单分类微调:历史工单标注→多分类模型训练→准确率优化
00006.微调模型评估:BLEU/ROUGE指标+人工评测+业务指标对比
第13天:综合项目实战一:运营商智能客服系统全流程开发
上午:后端核心模块开发
00001. FastAPI微服务架构:路由拆分+依赖注入+中间件链
00002. RAG检索引擎:多路召回+重排序+引用溯源完整实现
00003.意图识别服务:零样本分类+Few-shot增强+置信度校准
00004.会话管理服务:Redis会话存储+上下文窗口滑动+摘要生成
00005.敏感词过滤:正则匹配+语义检测+人工审核队列
00006.接口文档与测试:Swagger自动生成+Pytest单元测试+压力测试
下午:前端开发与系统部署
00001. Vue3聊天界面:流式SSE响应+Markdown渲染+代码高亮
00002.富媒体消息:图片预览+文件下载+卡片交互+快捷按钮
00003.管理后台:会话实时监控+知识库CRUD+数据统计看板
00004. Docker容器化:多阶段构建+镜像优化+docker-compose编排
00005. Nginx反向代理:负载均衡+静态资源缓存+HTTPS证书配置
00006. CI/CD流水线:GitHub Actions自动测试+镜像构建+服务器部署
第14天:综合项目实战二:OPC工作流系统与成果展示
上午:OPC工作流系统开发
00001.业务场景选择:故障自动处理/投诉智能分流/报表自动生成
00002. LangGraph工作流设计:状态定义+节点开发+条件路由+循环控制
00003.外部系统集成:CRM/网管/计费系统API调用封装与错误处理
00004.人机协作界面:待审批事项展示+人工输入表单+执行进度追踪
00005.容错机制实现:超时重试+降级策略+异常捕获+人工兜底
00006.性能优化:异步执行+结果缓存+并行处理+连接池管理
下午:系统集成测试与成果汇报
00001.端到端测试:真实业务数据演练+边界场景覆盖+异常注入测试
00002.安全加固:JWT身份认证+RBAC权限控制+敏感数据脱敏+操作审计
00003.监控告警:Prometheus指标采集+Grafana可视化+钉钉告警推送
00004.技术文档:架构设计文档+API接口文档+部署手册+运维指南
00005.小组成果展示:系统演示+技术方案讲解+业务价值量化+问答交流
00006.课程总结:关键技术回顾+最佳实践总结+常见问题解答+后续学习资源
第15天:综合项目实战三:多Agent协同系统与结业答辩
上午:多Agent协同系统开发
00007.业务场景选择:跨部门工单协同/智能投顾决策/供应链异常联动处理
00008.多Agent架构设计: Supervisor/Hierarchical/Peer-to-Peer模式 + Agent角色定义
00009. Agent间通信机制:消息队列(RabbitMQ/Kafka)+ 共享状态存储(Redis)+ 事件驱动编排
00010.任务分解与调度:LLM任务规划器 + 依赖关系解析 + 并行/串行动态路由
00011.冲突解决与共识机制:投票聚合+ 专家裁决 + 强化学习偏好对齐
00012.长期记忆与经验沉淀:向量数据库存储历史决策+ 相似案例检索 + 经验回放
下午:系统集成测试与结业答辩
00013.全链路压测:高并发模拟+ 响应延迟分析 + 资源消耗监控 + 弹性伸缩验证
00014.可信AI增强:事实核查(Grounding)+ 引用溯源 + 置信度评分 + 拒绝回答纠偏
00015.成本与效能评估:Token消耗统计 + 缓存命中率优化 + 模型选型策略(快/慢思考分离)
00016.持续集成与部署:Docker镜像打包 + K8s编排文件编写 + GitOps自动化发
00017.案例讨论:结业答辩与成果展示+小组项目完整演示+导师点评+Q&A交流
授课老师
周红伟 前阿里人工智能算法专家
常驻地:重庆
邀请老师授课:13439064501 陈助理

