[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"site-home-live-entry-setting":3,"site-header-contests":8,"site-header-camps":49,"study-material-detail-study-13":104},{"enabled":4,"title":5,"statusText":5,"buttonText":5,"campSlug":5,"stage":6,"classroomId":7,"hasClassroom":4},false,"",0,null,{"total":9,"list":10,"pageNum":44,"pageSize":45,"size":9,"startRow":44,"endRow":9,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":48,"navigateFirstPage":44,"navigateLastPage":44},3,[11,25,35],{"slug":12,"title":13,"logo":7,"liveUrl":14,"prize":15,"sponsor":16,"description":17,"organizer":18,"startTime":19,"endTime":20,"registrationDeadline":21,"status":22,"dashboardVisibility":23,"createdAt":24},"spring2026","2026春季启元人工智能大赛","https:\u002F\u002Fwww.bilibili.com\u002Fblackboard\u002Flive\u002Flive-activity-player.html?cid=1822703816&quality=0","200,000","麒麟软件有限公司","“2026春季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。\n各参赛选手需在规定的比赛周期内，依据赛事规则选定赛题并完成相应挑战，优胜者将共同角逐总额20万元的赛事奖金池，并且还将有机会获得实习和知名企业优质岗位内推资格。","启元实验室","2026-04-19 16:00:00","2026-07-13 16:00:00","2026-06-16 16:00:00","ongoing","private","2026-04-16 08:00:00",{"slug":26,"title":27,"logo":7,"liveUrl":14,"prize":28,"sponsor":7,"description":29,"organizer":18,"startTime":30,"endTime":31,"registrationDeadline":32,"status":33,"dashboardVisibility":23,"createdAt":34},"autumn2025","2025秋季启元人工智能大赛","150,000","“2025秋季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。","2025-11-08 08:00:00","2026-01-13 08:00:00","2025-12-30 08:00:00","ended","2025-11-03 08:00:00",{"slug":36,"title":37,"logo":7,"liveUrl":14,"prize":38,"sponsor":7,"description":39,"organizer":18,"startTime":40,"endTime":41,"registrationDeadline":42,"status":33,"dashboardVisibility":23,"createdAt":43},"summer2025","启元人工智能大赛(系统方向)","80,000","启元人工智能大赛由启元实验室主办，其中系统赛道基于启元实验室九源软件栈的相关开源项目，通过拉动开源社区力量，一方面促进国产智能计算生态的发展，另一方面也为人工智能系统方向的学生及从业者提供一个实践平台。","2025-07-08 08:00:00","2025-08-25 08:00:00","2025-07-22 08:00:00","2025-06-22 08:00:00",1,5,true,8,[44],{"total":45,"list":50,"pageNum":44,"pageSize":45,"size":45,"startRow":44,"endRow":45,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":103,"navigateFirstPage":44,"navigateLastPage":44},[51,62,73,84,94],{"id":52,"slug":53,"title":54,"logo":55,"publicLiveEmbedUrl":14,"description":56,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":16,"startTime":58,"endTime":59,"status":22,"dashboardVisibility":60,"createdAt":58,"updatedAt":61},"019eeeff-6b00-7d55-a629-efafded3e232","summer2026","2026年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2026-06\u002F019eef7f-7816-7828-9309-79c2c61dd568.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=mI4adTQzTPRyYrPmMuEsZWwmTNo%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。","...","2026-06-22 08:00:00","2026-10-19 08:00:00","public","2026-10-12 08:00:00",{"id":63,"slug":64,"title":65,"logo":66,"publicLiveEmbedUrl":7,"description":67,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":68,"startTime":69,"endTime":70,"status":33,"dashboardVisibility":23,"createdAt":71,"updatedAt":72},"019af3f3-e06a-7245-aa8d-37dc99a69c73","winter2025","2025年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-12\u002F019afc69-b7ca-7805-91fb-605429671c01.png?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=8YWKiH9EYPM3GQM%2F7JdCBPynFmw%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。 \n","新华三技术有限公司","2025-12-25 08:00:00","2026-03-27 08:00:00","2025-12-06 08:00:00","2026-10-22 20:24:30",{"id":74,"slug":36,"title":75,"logo":76,"publicLiveEmbedUrl":7,"description":77,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":78,"startTime":79,"endTime":80,"status":81,"dashboardVisibility":23,"createdAt":82,"updatedAt":83},"01980342-208c-7803-b3f3-19e1d31960ba","2025年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-07\u002F0198045e-28fe-78f0-95fe-23835ce58395.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=JY%2B%2B2oyU0ZlhO2Io1fpbwb5rDUc%3D","InfiniTensor大模型与人工智能系统训练营由启元实验室及清华大学 AI 系统方向团队发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营联合开源项目开发者、学术界大牛、工业界资深工程师参与授课与项目指导。课程采用「线上直播授课 + 在线答疑 + 项目实践辅导 」的方式进行，确保每位同学都能获得充分成长。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","北京积算科技有限公司","2025-07-14 08:00:00","2025-09-30 08:00:00","upcoming","2025-07-13 08:00:00","2026-10-22 20:24:58",{"id":85,"slug":86,"title":87,"logo":88,"publicLiveEmbedUrl":7,"description":89,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":90,"endTime":91,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":93},"01980cf9-a7d8-7796-ae86-0bbe05334add","winter2024","2024年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-ce23-7624-a287-9f07dd0d85f6.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。报名学员请阅读“导学”课程页的训练营介绍。","2025-01-05 08:00:00","2025-03-22 08:00:00","2025-07-15 08:00:00","2026-10-22 20:24:39",{"id":95,"slug":96,"title":97,"logo":98,"publicLiveEmbedUrl":7,"description":99,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":100,"endTime":101,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":102},"01980c20-363a-7dc3-8f5a-58a68e08dcc4","summer2024","2024年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-fbfa-788a-afcd-17fa9be74ff9.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区和高校，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过课程、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","2024-07-20 08:00:00","2024-09-29 08:00:00","2026-10-22 20:24:49",[44],{"currentItem":105,"processedData":125},{"img":106,"keywords":107,"treeType":44,"description":108,"showStatus":44,"updateTime":109,"type":110,"title":111,"content":112,"nextArticle":113,"createTime":109,"sortOrder":117,"canonicalPath":118,"id":119,"contentType":120,"prevArticle":121},"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_13_fm.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Kk7sqdDAjdcXDFVA%2FlY8OeypXaE%3D","InfiniTensor,冬季训练营,大模型学习,学习方法,实践路径","从学习路径出发讲解大模型学习方法，覆盖知识体系搭建与实践能力提升建议。","2026-10-22 20:38:11",2,"InfiniTensor 冬季训练营前沿模型第一课《大模型学习方法》","![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_13_zw01.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=VqX%2B8WpyqjY2Df8BfjHJNLprls8%3D)\r\n\r\n\r\n2026 年 1 月 13 日，2025 冬季 InfiniTensor 大模型与人工智能系统训练营前沿模型系列第一课《大模型学习方法》正式开讲。\r\n\r\n本节课将系统梳理大模型训练的完整生命周期，深入解析预训练、监督微调(SFT)、强化学习(RLHF)三个核心阶段，并介绍如何通过 Scaling Law 等技术预测和优化模型性能。\r\n\r\n### AI发展的三个阶段\r\n从 1956 年达特茅斯会议至今，人工智能经历了三个重要发展阶段：\r\n\r\n#### 1. 符号智能时代（1950s-1980s）\r\n- **核心特征**：专家手工构建规则库和知识库\r\n- **典型应用**：专家系统\r\n- **主要局限**：\r\n  - 规则难以穷尽枚举\r\n  - 人工构建成本极高\r\n  - 无法处理规则库未覆盖的任务\r\n\r\n#### 2. 专用智能时代（1990s-2010s）\r\n- **核心特征**：数据驱动的机器学习，针对特定任务训练专用模型\r\n- **技术突破**：多层神经网络、反向传播算法\r\n- **主要局限**：\r\n  - 每个任务需要独立标注数据集\r\n  - 标注成本高昂\r\n  - 模型泛化能力有限\r\n\r\n#### 3. 大模型时代（2018 年至今）\r\n- **核心特征**：统一模型解决多样化任务\r\n- **技术标志**：BERT、GPT 等预训练语言模型\r\n- **关键优势**：\r\n  - 利用海量无标注数据进行自监督学习\r\n  - 单一模型支持多任务\r\n  - 能力呈现涌现特性\r\n\r\n### 大模型的核心特性：量变到质变的涌现\r\n\r\n#### 1. 涌现智能(Emergent Intelligence)\r\n- **现象描述**：小模型无法完成的任务，大模型突然能够完成\r\n- **表现形式**：在复杂任务上出现阶跃式性能提升\r\n- **根本原因**：参数规模、数据规模、计算量的指数级增长\r\n\r\n#### 2. Scaling Law：性能可预测性\r\nOpenAI 提出的 Scaling Law 揭示了模型性能与资源投入的定量关系：\r\n\r\n**损失函数与参数量的关系**：\r\n\r\n$$L(N) = aN^{-alpha} + b$$\r\n\r\n\r\n**核心发现**：\r\n- 损失函数与参数量、数据量均呈幂律关系\r\n- 计算量 C ≈ 6 × 参数量 × 数据量\r\n- 在相同计算预算下，存在最优的参数量与数据量配比\r\n\r\n#### 3. 实际应用价值\r\n- **性能预测**：用 1\u002F1000-1\u002F10000 的计算量预测大模型性能\r\n- **资源配置**：找到给定计算预算下的最优超参数配置\r\n- **效率提升**：DeepMind 的 Chinchilla 模型用 70B 参数超越 530B 参数的基线模型\r\n\r\n### 预训练阶段：自监督学习的基础\r\n\r\n#### 1. 核心任务\r\n- **Next Token Prediction**：根据前文预测下一个词\r\n- **Masked Language Modeling**：预测被掩码的词语（如 BERT）\r\n\r\n#### 2. 关键优势\r\n- **无需人工标注**：只要有原始语料即可生成训练样本\r\n- **数据近乎无限**：可利用互联网上的所有文本数据\r\n- **知识覆盖面广**：学习到丰富的世界知识\r\n\r\n#### 3. 性能优化策略\r\n- **高质量数据筛选**：FiD 工作表明，1.3B 模型用 1% 的教科书质量数据即可在特定情况下超越 GPT-3.5\r\n- **数据多样性**：HuggingFace 研究显示，高质量数据可显著加快收敛速度\r\n- **MiniCPM实践**：2B 模型仅用 Gemma 7B 1\u002F6的 token 量，性能接近 Gemma 7B\r\n\r\n### 监督微调(SFT)：指令遵循能力的培养\r\n\r\n#### 1. 发展历程\r\n- **Instruction Tuning**：Google 发现模型对指令具有泛化能力\r\n- **对话形式微调**：InstructGPT\u002FChatGPT 采用对话数据格式\r\n- **Self-Instruct**：Alpaca 使用 ChatGPT 自动生成训练数据\r\n\r\n#### 2. 两种流派\r\n**数量派**\r\n- 自动生成百万级 SFT 数据\r\n- 期望通过量变产生质变\r\n- 代表：Alpaca\r\n\r\n**质量派**\r\n- 精心构造少量高质量数据\r\n- 注重数据多样性和复杂性\r\n- 代表：InstructGPT(仅 1 万条数据)、LIMA(仅 1000 条 prompt)\r\n\r\n#### 3. AutoChat：数量与质量的结合\r\nAutoChat 通过三个维度构建高质量多样化数据：\r\n\r\n- **Questions about World**\r\n   基于 Wikipedia 实体和多样化主题生成问题\r\n\r\n- **Creation and Writing**\r\n   覆盖新闻、代码、论文、报告等多种材料类型\r\n\r\n- **Assistant Materials**\r\n  从 C4 语料库提取片段，反向生成对应指令\r\n\r\n**效果验证**：OASST-LM 成为社区首个在 Alpaca-Eval 达到 80 分的开源模型。\r\n\r\n### 强化学习(RLHF)：人类偏好的对齐\r\n\r\n#### 1. 为什么需要RLHF？\r\n- **SFT的局限**：强制模型拟合单一\"正确答案\"，但很多任务有多个合理答案\r\n- **目标不一致**：SFT 的优化目标与最终用户体验目标不符\r\n- **反馈学习**：更符合人类从反馈中学习的认知模式\r\n\r\n#### 2. RLHF三阶段流程\r\n- **监督微调(SFT)**：收集演示数据，训练初始策略\r\n- **奖励模型训练**：收集对比数据，训练奖励模型\r\n- **强化学习优化**：基于奖励模型优化策略\r\n\r\n#### 3. OpenAI 的 RLHF 实践\r\n- **数据规模**：33,000 个 prompt，每条生成 4-9 个回复\r\n- **奖励模型**：使用 200K 对比数据训练\r\n- **人工标注**：详细标注文档，多维度评价生成质量\r\n\r\n#### 4. 开源社区的挑战与突破\r\n**主要困难**：\r\n- 偏好数据标注成本高\r\n- 开源偏好数据集规模小、多样性差\r\n- 奖励模型效果不显著\r\n\r\n**AutoFeedback解决方案**：\r\n- **数据规模**：65K prompt，300K+ 偏好对\r\n- **模型多样性**：使用 GPT、LLaMA、MPT、Falcon 等多个模型生成答案\r\n- **评价维度**：GPT-4 从四个维度进行比较打分并给出解释\r\n\r\n**效果**：AutoFeedback 训练的模型在 UP 和 EO 评测中达到 81.17 分，显著优于其他开源方案。\r\n\r\n### 未来展望：从 0-60 分到 60-100 分\r\n\r\n#### 1. SFT 的双重目标\r\n- 0-60 分：让模型输出形式符合用户偏好，激发预训练知识\r\n- 60-100 分：提升推理、生成和知识运用能力，解决复杂任务\r\n\r\n#### 2. RLHF 的扩展应用\r\n- 多智能体交互：接受多方反馈\r\n- 工具使用：长距离、多步骤的反馈机制\r\n- 具身智能：从环境交互中学习\r\n\r\n#### 3. 核心成功要素\r\n- 数据多样性：覆盖各种任务类型和难度级别\r\n- 可扩展性：能够持续扩展数据规模和质量\r\n- 反馈机制：建立有效的偏好学习和对齐机制\r\n\r\n### 总结\r\n\r\n大模型训练是一个复杂的系统工程，涉及预训练、SFT、RLHF 等多个阶段。每个阶段都有其独特的挑战和优化策略：\r\n\r\n- **预训练阶段**：关注数据质量和 Scaling Law 指导下的资源配置\r\n- **SFT 阶段**：平衡数据数量与质量，注重指令多样性\r\n- **RLHF 阶段**：构建高质量偏好数据，训练有效的奖励模型\r\n\r\n本节课带领大家深入理解这些训练方法论，不仅有助于模型开发，更能为AI应用落地提供坚实的技术基础。后续课程将深入讲解大模型训练、推理与优化技术，包括模型微调、分布式训练、性能优化等高级主题。\r\n\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_01_zw6.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Q30J6aqu5J%2BBnh7mHX9KqjpwEAg%3D)\r\n\r\n\r\n### 💡 学习贴士\r\n更多细节及完整课程内容，请观看直播或查看课程回放。\r\n\r\n链接：https:\u002F\u002Fwww.infinitensor.com\u002Fcamp\u002Fwinter2025\r\n\r\n### 📚 训练营报名持续进行中\r\n扫码报名与加入群聊，或点击 **「阅读原文」** 直达官网报名\r\n\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_01_zw7.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=x27RQsUfb%2FJ2%2FOIRcLgioJ0jILM%3D)",{"publishTime":7,"createTime":109,"canonicalPath":114,"id":115,"title":116},"\u002Fstudy-material\u002Fstudy-12","study-12","InfiniTensor 冬季训练营 Triton & 九齿第一课《Triton 练气术》",96,"\u002Fstudy-material\u002Fstudy-13","study-13","markdown",{"publishTime":7,"createTime":109,"canonicalPath":122,"id":123,"title":124},"\u002Fstudy-material\u002Fstudy-14","study-14","InfiniTensor 冬季训练营通信与并行第一课《互联、集群与通信》",{"htmlContent":126,"headings":127},"\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_13_zw01.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=VqX%2B8WpyqjY2Df8BfjHJNLprls8%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>2026 年 1 月 13 日，2025 冬季 InfiniTensor 大模型与人工智能系统训练营前沿模型系列第一课《大模型学习方法》正式开讲。\u003C\u002Fp>\n\u003Cp>本节课将系统梳理大模型训练的完整生命周期，深入解析预训练、监督微调(SFT)、强化学习(RLHF)三个核心阶段，并介绍如何通过 Scaling Law 等技术预测和优化模型性能。\u003C\u002Fp>\n\u003Ch3 id=\"ai发展的三个阶段\">\u003Ca class=\"anchor\" href=\"#ai发展的三个阶段\" aria-label=\"跳转到标题：AI发展的三个阶段\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>AI发展的三个阶段\u003C\u002Fh3>\u003Cp>从 1956 年达特茅斯会议至今，人工智能经历了三个重要发展阶段：\u003C\u002Fp>\n\u003Ch4 id=\"1-符号智能时代-1950s-1980s\">\u003Ca class=\"anchor\" href=\"#1-符号智能时代-1950s-1980s\" aria-label=\"跳转到标题：1. 符号智能时代（1950s-1980s）\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 符号智能时代（1950s-1980s）\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>核心特征\u003C\u002Fstrong>：专家手工构建规则库和知识库\u003C\u002Fli>\n\u003Cli>\u003Cstrong>典型应用\u003C\u002Fstrong>：专家系统\u003C\u002Fli>\n\u003Cli>\u003Cstrong>主要局限\u003C\u002Fstrong>：\u003Cul>\n\u003Cli>规则难以穷尽枚举\u003C\u002Fli>\n\u003Cli>人工构建成本极高\u003C\u002Fli>\n\u003Cli>无法处理规则库未覆盖的任务\u003C\u002Fli>\n\u003C\u002Ful>\n\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-专用智能时代-1990s-2010s\">\u003Ca class=\"anchor\" href=\"#2-专用智能时代-1990s-2010s\" aria-label=\"跳转到标题：2. 专用智能时代（1990s-2010s）\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. 专用智能时代（1990s-2010s）\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>核心特征\u003C\u002Fstrong>：数据驱动的机器学习，针对特定任务训练专用模型\u003C\u002Fli>\n\u003Cli>\u003Cstrong>技术突破\u003C\u002Fstrong>：多层神经网络、反向传播算法\u003C\u002Fli>\n\u003Cli>\u003Cstrong>主要局限\u003C\u002Fstrong>：\u003Cul>\n\u003Cli>每个任务需要独立标注数据集\u003C\u002Fli>\n\u003Cli>标注成本高昂\u003C\u002Fli>\n\u003Cli>模型泛化能力有限\u003C\u002Fli>\n\u003C\u002Ful>\n\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-大模型时代-2018-年至今\">\u003Ca class=\"anchor\" href=\"#3-大模型时代-2018-年至今\" aria-label=\"跳转到标题：3. 大模型时代（2018 年至今）\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. 大模型时代（2018 年至今）\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>核心特征\u003C\u002Fstrong>：统一模型解决多样化任务\u003C\u002Fli>\n\u003Cli>\u003Cstrong>技术标志\u003C\u002Fstrong>：BERT、GPT 等预训练语言模型\u003C\u002Fli>\n\u003Cli>\u003Cstrong>关键优势\u003C\u002Fstrong>：\u003Cul>\n\u003Cli>利用海量无标注数据进行自监督学习\u003C\u002Fli>\n\u003Cli>单一模型支持多任务\u003C\u002Fli>\n\u003Cli>能力呈现涌现特性\u003C\u002Fli>\n\u003C\u002Ful>\n\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 id=\"大模型的核心特性-量变到质变的涌现\">\u003Ca class=\"anchor\" href=\"#大模型的核心特性-量变到质变的涌现\" aria-label=\"跳转到标题：大模型的核心特性：量变到质变的涌现\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>大模型的核心特性：量变到质变的涌现\u003C\u002Fh3>\u003Ch4 id=\"1-涌现智能-emergent-intelligence\">\u003Ca class=\"anchor\" href=\"#1-涌现智能-emergent-intelligence\" aria-label=\"跳转到标题：1. 涌现智能(Emergent Intelligence)\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 涌现智能(Emergent Intelligence)\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>现象描述\u003C\u002Fstrong>：小模型无法完成的任务，大模型突然能够完成\u003C\u002Fli>\n\u003Cli>\u003Cstrong>表现形式\u003C\u002Fstrong>：在复杂任务上出现阶跃式性能提升\u003C\u002Fli>\n\u003Cli>\u003Cstrong>根本原因\u003C\u002Fstrong>：参数规模、数据规模、计算量的指数级增长\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-scaling-law-性能可预测性\">\u003Ca class=\"anchor\" href=\"#2-scaling-law-性能可预测性\" aria-label=\"跳转到标题：2. Scaling Law：性能可预测性\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. Scaling Law：性能可预测性\u003C\u002Fh4>\u003Cp>OpenAI 提出的 Scaling Law 揭示了模型性能与资源投入的定量关系：\u003C\u002Fp>\n\u003Cp>\u003Cstrong>损失函数与参数量的关系\u003C\u002Fstrong>：\u003C\u002Fp>\n\u003Cp>$$L(N) = aN^{-alpha} + b$$\u003C\u002Fp>\n\u003Cp>\u003Cstrong>核心发现\u003C\u002Fstrong>：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>损失函数与参数量、数据量均呈幂律关系\u003C\u002Fli>\n\u003Cli>计算量 C ≈ 6 × 参数量 × 数据量\u003C\u002Fli>\n\u003Cli>在相同计算预算下，存在最优的参数量与数据量配比\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-实际应用价值\">\u003Ca class=\"anchor\" href=\"#3-实际应用价值\" aria-label=\"跳转到标题：3. 实际应用价值\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. 实际应用价值\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>性能预测\u003C\u002Fstrong>：用 1\u002F1000-1\u002F10000 的计算量预测大模型性能\u003C\u002Fli>\n\u003Cli>\u003Cstrong>资源配置\u003C\u002Fstrong>：找到给定计算预算下的最优超参数配置\u003C\u002Fli>\n\u003Cli>\u003Cstrong>效率提升\u003C\u002Fstrong>：DeepMind 的 Chinchilla 模型用 70B 参数超越 530B 参数的基线模型\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 id=\"预训练阶段-自监督学习的基础\">\u003Ca class=\"anchor\" href=\"#预训练阶段-自监督学习的基础\" aria-label=\"跳转到标题：预训练阶段：自监督学习的基础\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>预训练阶段：自监督学习的基础\u003C\u002Fh3>\u003Ch4 id=\"1-核心任务\">\u003Ca class=\"anchor\" href=\"#1-核心任务\" aria-label=\"跳转到标题：1. 核心任务\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 核心任务\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>Next Token Prediction\u003C\u002Fstrong>：根据前文预测下一个词\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Masked Language Modeling\u003C\u002Fstrong>：预测被掩码的词语（如 BERT）\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-关键优势\">\u003Ca class=\"anchor\" href=\"#2-关键优势\" aria-label=\"跳转到标题：2. 关键优势\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. 关键优势\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>无需人工标注\u003C\u002Fstrong>：只要有原始语料即可生成训练样本\u003C\u002Fli>\n\u003Cli>\u003Cstrong>数据近乎无限\u003C\u002Fstrong>：可利用互联网上的所有文本数据\u003C\u002Fli>\n\u003Cli>\u003Cstrong>知识覆盖面广\u003C\u002Fstrong>：学习到丰富的世界知识\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-性能优化策略\">\u003Ca class=\"anchor\" href=\"#3-性能优化策略\" aria-label=\"跳转到标题：3. 性能优化策略\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. 性能优化策略\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>高质量数据筛选\u003C\u002Fstrong>：FiD 工作表明，1.3B 模型用 1% 的教科书质量数据即可在特定情况下超越 GPT-3.5\u003C\u002Fli>\n\u003Cli>\u003Cstrong>数据多样性\u003C\u002Fstrong>：HuggingFace 研究显示，高质量数据可显著加快收敛速度\u003C\u002Fli>\n\u003Cli>\u003Cstrong>MiniCPM实践\u003C\u002Fstrong>：2B 模型仅用 Gemma 7B 1\u002F6的 token 量，性能接近 Gemma 7B\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 id=\"监督微调-sft-指令遵循能力的培养\">\u003Ca class=\"anchor\" href=\"#监督微调-sft-指令遵循能力的培养\" aria-label=\"跳转到标题：监督微调(SFT)：指令遵循能力的培养\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>监督微调(SFT)：指令遵循能力的培养\u003C\u002Fh3>\u003Ch4 id=\"1-发展历程\">\u003Ca class=\"anchor\" href=\"#1-发展历程\" aria-label=\"跳转到标题：1. 发展历程\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 发展历程\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>Instruction Tuning\u003C\u002Fstrong>：Google 发现模型对指令具有泛化能力\u003C\u002Fli>\n\u003Cli>\u003Cstrong>对话形式微调\u003C\u002Fstrong>：InstructGPT\u002FChatGPT 采用对话数据格式\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Self-Instruct\u003C\u002Fstrong>：Alpaca 使用 ChatGPT 自动生成训练数据\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-两种流派\">\u003Ca class=\"anchor\" href=\"#2-两种流派\" aria-label=\"跳转到标题：2. 两种流派\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. 两种流派\u003C\u002Fh4>\u003Cp>\u003Cstrong>数量派\u003C\u002Fstrong>\u003C\u002Fp>\n\u003Cul>\n\u003Cli>自动生成百万级 SFT 数据\u003C\u002Fli>\n\u003Cli>期望通过量变产生质变\u003C\u002Fli>\n\u003Cli>代表：Alpaca\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cstrong>质量派\u003C\u002Fstrong>\u003C\u002Fp>\n\u003Cul>\n\u003Cli>精心构造少量高质量数据\u003C\u002Fli>\n\u003Cli>注重数据多样性和复杂性\u003C\u002Fli>\n\u003Cli>代表：InstructGPT(仅 1 万条数据)、LIMA(仅 1000 条 prompt)\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-autochat-数量与质量的结合\">\u003Ca class=\"anchor\" href=\"#3-autochat-数量与质量的结合\" aria-label=\"跳转到标题：3. AutoChat：数量与质量的结合\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. AutoChat：数量与质量的结合\u003C\u002Fh4>\u003Cp>AutoChat 通过三个维度构建高质量多样化数据：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cp>\u003Cstrong>Questions about World\u003C\u002Fstrong>\u003Cbr> 基于 Wikipedia 实体和多样化主题生成问题\u003C\u002Fp>\n\u003C\u002Fli>\n\u003Cli>\u003Cp>\u003Cstrong>Creation and Writing\u003C\u002Fstrong>\u003Cbr> 覆盖新闻、代码、论文、报告等多种材料类型\u003C\u002Fp>\n\u003C\u002Fli>\n\u003Cli>\u003Cp>\u003Cstrong>Assistant Materials\u003C\u002Fstrong>\u003Cbr>从 C4 语料库提取片段，反向生成对应指令\u003C\u002Fp>\n\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cstrong>效果验证\u003C\u002Fstrong>：OASST-LM 成为社区首个在 Alpaca-Eval 达到 80 分的开源模型。\u003C\u002Fp>\n\u003Ch3 id=\"强化学习-rlhf-人类偏好的对齐\">\u003Ca class=\"anchor\" href=\"#强化学习-rlhf-人类偏好的对齐\" aria-label=\"跳转到标题：强化学习(RLHF)：人类偏好的对齐\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>强化学习(RLHF)：人类偏好的对齐\u003C\u002Fh3>\u003Ch4 id=\"1-为什么需要rlhf\">\u003Ca class=\"anchor\" href=\"#1-为什么需要rlhf\" aria-label=\"跳转到标题：1. 为什么需要RLHF？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 为什么需要RLHF？\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>SFT的局限\u003C\u002Fstrong>：强制模型拟合单一"正确答案"，但很多任务有多个合理答案\u003C\u002Fli>\n\u003Cli>\u003Cstrong>目标不一致\u003C\u002Fstrong>：SFT 的优化目标与最终用户体验目标不符\u003C\u002Fli>\n\u003Cli>\u003Cstrong>反馈学习\u003C\u002Fstrong>：更符合人类从反馈中学习的认知模式\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-rlhf三阶段流程\">\u003Ca class=\"anchor\" href=\"#2-rlhf三阶段流程\" aria-label=\"跳转到标题：2. RLHF三阶段流程\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. RLHF三阶段流程\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>监督微调(SFT)\u003C\u002Fstrong>：收集演示数据，训练初始策略\u003C\u002Fli>\n\u003Cli>\u003Cstrong>奖励模型训练\u003C\u002Fstrong>：收集对比数据，训练奖励模型\u003C\u002Fli>\n\u003Cli>\u003Cstrong>强化学习优化\u003C\u002Fstrong>：基于奖励模型优化策略\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-openai-的-rlhf-实践\">\u003Ca class=\"anchor\" href=\"#3-openai-的-rlhf-实践\" aria-label=\"跳转到标题：3. OpenAI 的 RLHF 实践\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. OpenAI 的 RLHF 实践\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>数据规模\u003C\u002Fstrong>：33,000 个 prompt，每条生成 4-9 个回复\u003C\u002Fli>\n\u003Cli>\u003Cstrong>奖励模型\u003C\u002Fstrong>：使用 200K 对比数据训练\u003C\u002Fli>\n\u003Cli>\u003Cstrong>人工标注\u003C\u002Fstrong>：详细标注文档，多维度评价生成质量\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"4-开源社区的挑战与突破\">\u003Ca class=\"anchor\" href=\"#4-开源社区的挑战与突破\" aria-label=\"跳转到标题：4. 开源社区的挑战与突破\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>4. 开源社区的挑战与突破\u003C\u002Fh4>\u003Cp>\u003Cstrong>主要困难\u003C\u002Fstrong>：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>偏好数据标注成本高\u003C\u002Fli>\n\u003Cli>开源偏好数据集规模小、多样性差\u003C\u002Fli>\n\u003Cli>奖励模型效果不显著\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cstrong>AutoFeedback解决方案\u003C\u002Fstrong>：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>数据规模\u003C\u002Fstrong>：65K prompt，300K+ 偏好对\u003C\u002Fli>\n\u003Cli>\u003Cstrong>模型多样性\u003C\u002Fstrong>：使用 GPT、LLaMA、MPT、Falcon 等多个模型生成答案\u003C\u002Fli>\n\u003Cli>\u003Cstrong>评价维度\u003C\u002Fstrong>：GPT-4 从四个维度进行比较打分并给出解释\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cstrong>效果\u003C\u002Fstrong>：AutoFeedback 训练的模型在 UP 和 EO 评测中达到 81.17 分，显著优于其他开源方案。\u003C\u002Fp>\n\u003Ch3 id=\"未来展望-从-0-60-分到-60-100-分\">\u003Ca class=\"anchor\" href=\"#未来展望-从-0-60-分到-60-100-分\" aria-label=\"跳转到标题：未来展望：从 0-60 分到 60-100 分\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>未来展望：从 0-60 分到 60-100 分\u003C\u002Fh3>\u003Ch4 id=\"1-sft-的双重目标\">\u003Ca class=\"anchor\" href=\"#1-sft-的双重目标\" aria-label=\"跳转到标题：1. SFT 的双重目标\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. SFT 的双重目标\u003C\u002Fh4>\u003Cul>\n\u003Cli>0-60 分：让模型输出形式符合用户偏好，激发预训练知识\u003C\u002Fli>\n\u003Cli>60-100 分：提升推理、生成和知识运用能力，解决复杂任务\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-rlhf-的扩展应用\">\u003Ca class=\"anchor\" href=\"#2-rlhf-的扩展应用\" aria-label=\"跳转到标题：2. RLHF 的扩展应用\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. RLHF 的扩展应用\u003C\u002Fh4>\u003Cul>\n\u003Cli>多智能体交互：接受多方反馈\u003C\u002Fli>\n\u003Cli>工具使用：长距离、多步骤的反馈机制\u003C\u002Fli>\n\u003Cli>具身智能：从环境交互中学习\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-核心成功要素\">\u003Ca class=\"anchor\" href=\"#3-核心成功要素\" aria-label=\"跳转到标题：3. 核心成功要素\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. 核心成功要素\u003C\u002Fh4>\u003Cul>\n\u003Cli>数据多样性：覆盖各种任务类型和难度级别\u003C\u002Fli>\n\u003Cli>可扩展性：能够持续扩展数据规模和质量\u003C\u002Fli>\n\u003Cli>反馈机制：建立有效的偏好学习和对齐机制\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 id=\"总结\">\u003Ca class=\"anchor\" href=\"#总结\" aria-label=\"跳转到标题：总结\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>总结\u003C\u002Fh3>\u003Cp>大模型训练是一个复杂的系统工程，涉及预训练、SFT、RLHF 等多个阶段。每个阶段都有其独特的挑战和优化策略：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>预训练阶段\u003C\u002Fstrong>：关注数据质量和 Scaling Law 指导下的资源配置\u003C\u002Fli>\n\u003Cli>\u003Cstrong>SFT 阶段\u003C\u002Fstrong>：平衡数据数量与质量，注重指令多样性\u003C\u002Fli>\n\u003Cli>\u003Cstrong>RLHF 阶段\u003C\u002Fstrong>：构建高质量偏好数据，训练有效的奖励模型\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>本节课带领大家深入理解这些训练方法论，不仅有助于模型开发，更能为AI应用落地提供坚实的技术基础。后续课程将深入讲解大模型训练、推理与优化技术，包括模型微调、分布式训练、性能优化等高级主题。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_01_zw6.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Q30J6aqu5J%2BBnh7mHX9KqjpwEAg%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"学习贴士\">\u003Ca class=\"anchor\" href=\"#学习贴士\" aria-label=\"跳转到标题：💡 学习贴士\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>💡 学习贴士\u003C\u002Fh3>\u003Cp>更多细节及完整课程内容，请观看直播或查看课程回放。\u003C\u002Fp>\n\u003Cp>链接：\u003Ca href=\"https:\u002F\u002Fwww.infinitensor.com\u002Fcamp\u002Fwinter2025\">https:\u002F\u002Fwww.infinitensor.com\u002Fcamp\u002Fwinter2025\u003C\u002Fa>\u003C\u002Fp>\n\u003Ch3 id=\"训练营报名持续进行中\">\u003Ca class=\"anchor\" href=\"#训练营报名持续进行中\" aria-label=\"跳转到标题：📚 训练营报名持续进行中\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>📚 训练营报名持续进行中\u003C\u002Fh3>\u003Cp>扫码报名与加入群聊，或点击 \u003Cstrong>「阅读原文」\u003C\u002Fstrong> 直达官网报名\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_01_zw7.jpg?Expires=1792752839&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=x27RQsUfb%2FJ2%2FOIRcLgioJ0jILM%3D\" alt=\"\">\u003C\u002Fp>\n",[128,131,135,138,141,144,147,150,153,156,159,162,165,168,171,174,177,180,183,186,189,192,195,198,201,204,206,209],{"id":129,"text":130,"level":9},"ai发展的三个阶段","AI发展的三个阶段",{"id":132,"text":133,"level":134},"1-符号智能时代-1950s-1980s","1. 符号智能时代（1950s-1980s）",4,{"id":136,"text":137,"level":134},"2-专用智能时代-1990s-2010s","2. 专用智能时代（1990s-2010s）",{"id":139,"text":140,"level":134},"3-大模型时代-2018-年至今","3. 大模型时代（2018 年至今）",{"id":142,"text":143,"level":9},"大模型的核心特性-量变到质变的涌现","大模型的核心特性：量变到质变的涌现",{"id":145,"text":146,"level":134},"1-涌现智能-emergent-intelligence","1. 涌现智能(Emergent Intelligence)",{"id":148,"text":149,"level":134},"2-scaling-law-性能可预测性","2. Scaling Law：性能可预测性",{"id":151,"text":152,"level":134},"3-实际应用价值","3. 实际应用价值",{"id":154,"text":155,"level":9},"预训练阶段-自监督学习的基础","预训练阶段：自监督学习的基础",{"id":157,"text":158,"level":134},"1-核心任务","1. 核心任务",{"id":160,"text":161,"level":134},"2-关键优势","2. 关键优势",{"id":163,"text":164,"level":134},"3-性能优化策略","3. 性能优化策略",{"id":166,"text":167,"level":9},"监督微调-sft-指令遵循能力的培养","监督微调(SFT)：指令遵循能力的培养",{"id":169,"text":170,"level":134},"1-发展历程","1. 发展历程",{"id":172,"text":173,"level":134},"2-两种流派","2. 两种流派",{"id":175,"text":176,"level":134},"3-autochat-数量与质量的结合","3. AutoChat：数量与质量的结合",{"id":178,"text":179,"level":9},"强化学习-rlhf-人类偏好的对齐","强化学习(RLHF)：人类偏好的对齐",{"id":181,"text":182,"level":134},"1-为什么需要rlhf","1. 为什么需要RLHF？",{"id":184,"text":185,"level":134},"2-rlhf三阶段流程","2. RLHF三阶段流程",{"id":187,"text":188,"level":134},"3-openai-的-rlhf-实践","3. OpenAI 的 RLHF 实践",{"id":190,"text":191,"level":134},"4-开源社区的挑战与突破","4. 开源社区的挑战与突破",{"id":193,"text":194,"level":9},"未来展望-从-0-60-分到-60-100-分","未来展望：从 0-60 分到 60-100 分",{"id":196,"text":197,"level":134},"1-sft-的双重目标","1. SFT 的双重目标",{"id":199,"text":200,"level":134},"2-rlhf-的扩展应用","2. RLHF 的扩展应用",{"id":202,"text":203,"level":134},"3-核心成功要素","3. 核心成功要素",{"id":205,"text":205,"level":9},"总结",{"id":207,"text":208,"level":9},"学习贴士","💡 学习贴士",{"id":210,"text":211,"level":9},"训练营报名持续进行中","📚 训练营报名持续进行中"]