● 第一部分:横空出世的ChatGPT
● 推出过程:全球最快月活达到1亿人的产品——ChatGPT
● GPT是一种基于Transformer架构的生成式预训练模型,由OpenAI团队开发。它通过使用大规模的语料库进行预训练,可以生成高质量的自然语言文本。ChatGPT是基于GPT的一种特定应用,它可以实现自动对话、问答和文本生成等功能。
● 巨大影响:“人工智能领域的iPhone时刻”
● 幕后团队:OpenAI和Sam Altman其人
● ChatGPT的使用方法和技巧
● 第二部分:ChatGPT的技术架构
● GPT的发展历程
● 2017年谷歌《Attention is all you need》论文改变行业发展方向
● 谷歌和OpenAI的路线之争:BERT和GPT
● ChatGPT的技术架构
● 生成式预训练模型可以通过大规模无监督学习从原始文本中学习模型参数,而无需手动标注数据集。这种模型可以捕捉到自然语言中的语义和句法特征,使得它们能够很好地应用于各种NLP任务。
● Transformer架构原理
● Transformer是一种基于自注意力机制的架构,用于将序列输入转换为序列输出。它能够学习到序列中的全局依赖关系,从而在自然语言处理任务中表现出色。
● GPT-2和GPT-3的架构对比
● GPT-2和GPT-3是目前应用最广泛的两个ChatGPT模型。它们的区别在于训练数据量和模型参数规模的不同。GPT-3是当前最大的生成式预训练模型,可以实现更加精细和复杂的自然语言生成。
● 对话系统的实现方式
● ChatGPT的对话系统可以通过将用户输入作为模型的输入,然后利用模型生成对应的回复来实现。这种方法可以在对话中保持上下文信息,并生成自然流畅的回复。
● ChatGPT的优缺点
● 优点
● 灵活性强,可以应用于各种NLP任务;
● 生成结果自然,符合自然语言习惯;
● 能够处理多样性输入,可以应对各种输入情况
● 缺点
● 需要大量数据进行训练,训练成本高;
● 无法实现精准控制生成结果,容易生成不合适的内容。
● 算力之争
● ChatGPT对于算力的巨大需求
● 软硬件基础设施
● 数据样本的价值
● 高质量的训练数据集影响预训练模型的水平
● ChatGPT与当前人工智能技术的差异点和优势
● 差异点
● 与传统的人工智能技术相比,ChatGPT最大的差异点在于其深度学习模型的架构和性能。传统的人工智能技术主要依赖于规则和手工特征工程,而ChatGPT则采用了深度学习模型,能够从大量的语料库中学习和理解自然语言,从而生成更加自然、流畅的语言。
● 优势
● ChatGPT相比其他深度学习技术的优势在于其能够实现自然语言生成和对话系统的高度自适应。通过大量的语料库训练,ChatGPT可以自动推断句子的上下文信息、情感倾向等,并生成更加准确、自然的回答。另外,ChatGPT还可以通过对话历史进行分析,从而更好地理解用户的需求和意图,提供更加个性化和优质的服务。
● 第三部分:ChatGPT的应用前景
● “所有行业都值得用AI重做一遍”
● ChatGPT在应用上的优点和不足
● 适合取代常规性的、需要一些基础创造力的工作内容
● 代码建议和优化
● 商务
● 娱乐
● 艺术
● 教育
● 金融
● 投资
● 医疗
● 营销文案生成
● ChatGPT可以用于生成各种自然语言文本,例如新闻报道、文学作品、广告宣传等。这种方法可以为金融企业节省文案编写成本,提高内容产出效率。
● 第四部分:国内企业当前对ChatGPT的使用情况
● LLM开发
● 百度
● “文心一言”被认为是国内最有可能PK ChatGPT的产品,百度正在做产品上线前的冲刺,多答案回复、智能生成等一些相关功能已陆续在百度搜索内上线或内测,等文心一言落地,首站将直接接入百度搜索。
● 阿里巴巴
● 根据已曝光的截图,从画画到NBA球星,阿里达摩院正在研发的对话式机器人已经在进行测试,未来阿里可能将AI大模型技术与钉钉生产力工具深度结合。
● 京东
● 京东在ChatGPT规模化落地的最大优势是场景,加上十余年来零售、物流、金融、健康各业务积累的数据和交互经验,做自我验证和对外样板都拿得出手。目前京东+ChatGPT依托的“言犀”人工智能应用平台已经确定要聚焦文本、声音等4个方面。
● 奇安信
● AI时代的安全问题更加复杂,ChatGPT也同样需要安全解决方案。奇安信人工智能研究院正基于ChatGPT相关技术和自身安全知识和数据,训练奇安信专有的类ChatGPT安全大模型。未来将广泛应用于安全产品开发、威胁检测等领域。
● 网易有道
● 垂直赛道的企业推出垂直领域的ChatGPT类产品。网易有道围绕的是在线教育场景,已推出的AI口语和作文批改等相关产品,大量使用了人工智能相关技术。未来网易有道将尽快推出ChatGPT同源技术相关的demo版产品。
● 科大讯飞
● 和网易有道类似,科大讯飞也计划将类ChatGPT与教育类产品结合。将在5月6日发布的科大讯飞AI学习机,会成为该项技术率先落地的产品,ChatGPT技术对中英文作文辅导、中英文口语学习等方面带来的体验变化值得期待。
● 知乎
● 2月8日,微软集成ChatGPT技术的新版必应上线,回答内容中有不少答案来自知乎,当天午后知乎股价一度涨超56%。有人认为知乎有国内最大的在线问答社区,这是ChatGPT技术天然的应用场景,有投资人表示,知乎未来可能将承担ChatGPT中文语料底层。不过知乎对ChatGPT话题尚未表态。
● 第五部分:ChatGPT的未来发展趋势
● 技术方面
● 多模态学习
● 多模态学习可以将多种数据类型,如图像、视频和文本等,结合起来训练模型。ChatGPT可以通过多模态学习来处理更加丰富的输入类型,提高模型的性能。
● 跨语言学习
● 跨语言学习可以使模型能够处理多种语言,使得模型的应用范围更加广泛。ChatGPT可以通过跨语言学习来实现多语言的对话和文本生成。
● 联邦学习
● 联邦学习可以在不暴露用户数据的情况下进行模型训练,从而保护用户隐私。ChatGPT可以通过联邦学习来应用于更加隐私敏感的场景。
● 应用方面
● “AI不能打败人,掌握AI的人可以打败人”:学习使用AI成为必备技能
● 从通用AI到垂直行业AI:越来越多的行业开始产业用AI,解决行业难题
● 马太效应凸显,大型模型因为训练耗资巨大,逐步向头部企业集中
● 在大型语言模型基础上进行应用层、中间件开发的初创企业迅速涌现,惠及普通企业和消费者
● “AI不是法外之地”,相关部门对于AI的研发、内容监管逐步细化、落实
● AI像云服务一样成为基础设施,相关的研发投入大幅增加
授课老师
崔伟 浙江大学硕士生导师
常驻地:杭州
邀请老师授课:13439064501 陈助理

