本报告版权属于安信证券股份有限公司,各项声明请参见报告尾页。12023年02月06日计算机行业周报计算机视角解读ChatGPT投资机会证券研究报告投资评级领先大市-A维持评级行业表现资料来源:Wind资讯升幅%1M3M12M相对收益5.8-0.56.3绝对收益12.313.1-3.0赵阳分析师SAC执业证书编号:S1450522040001zhaoyang1@essence.com.cn夏瀛韬分析师SAC执业证书编号:S1450521120006xiayt@essence.com.cn相关报告22Q4计算机板块基金持仓复盘2023-01-30优秀产品名单公示,工业软件赛道长坡厚雪价值大2023-01-29数据安全促使网安产业迈向新景气周期2023-01-16新型电力系统蓝皮书发布,数字能源产业有望加速2023-01-08广州车展如期举办,CES开幕在即,智能车产业链仍是计算机投资主线2023-01-02源起:从GPT-1到ChatGPT,商用化进程逐渐开启从GPT-1到GPT-3.5,模型持续迭代。GPT(GenerativePre-TrainedTransformer)系列是OpenAI公司的一系列预训练模型,通过Transformer为基础模型,使用预训练技术得到通用的文本模型。目前已经公布论文的有文本预训练GPT-1,GPT-2,GPT-3,以及图像预训练iGPT,而ChatGPT和今年年初公布的InstructGPT是在GPT-4之前发布的预热模型,也被叫做GPT-3.5。ChatGPT和InstructGPT在模型结构,训练方式上都完全一致,即都使用了指示学习和人工反馈的强化学习来指导模型的训练,它们不同的仅仅是采集数据的方式上有所差异。与之前的模型相比,ChatGPT做到了在内容生成上的有用性,真实性和无害性,实现了算法和用户体验上的创新。微软全线产品整合,ChatGPT开启商用化进程。OpenAI公司宣布推出ChatGPT的新订阅计划,起价为每月20美元,可以享受更快的响应时间和优先访问。2月2日,微软CEO宣布继搜索引擎必应、Office办公软件之后,将在云计算平台Azure中整合ChaGPT,标志着微软有望实现ChatGPT在全线产品中的整合。我们认为ChatGPT的商用化进程逐渐开启。技术:预训练模型+人工精标+强化学习,实现NLP技术创新从技术角度来看,ChatGPT的模型实现主要分为三个步骤,合称为RLHF(ReinforcementLearningbyHumanFeedback)技术:1)SFT(SupervisedFineTuning):基于GPT-3的预训练模型,采集新的数据用GPT-3的训练方式对模型进行微调,这些数据一部分来自使用OpenAI的PlayGround用户,另一部分来自OpenAI雇佣的40名标注工(labeler);2)训练RM(RewordModel):在采样的输入语句中,进行前向推理获得多个模型输出结果,通过人工标注进行这些输出结果的排...