[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"site-home-live-entry-setting":3,"site-header-contests":8,"site-header-camps":49,"study-material-detail-study-69":104},{"enabled":4,"title":5,"statusText":5,"buttonText":5,"campSlug":5,"stage":6,"classroomId":7,"hasClassroom":4},false,"",0,null,{"total":9,"list":10,"pageNum":44,"pageSize":45,"size":9,"startRow":44,"endRow":9,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":48,"navigateFirstPage":44,"navigateLastPage":44},3,[11,25,35],{"slug":12,"title":13,"logo":7,"liveUrl":14,"prize":15,"sponsor":16,"description":17,"organizer":18,"startTime":19,"endTime":20,"registrationDeadline":21,"status":22,"dashboardVisibility":23,"createdAt":24},"spring2026","2026春季启元人工智能大赛","https:\u002F\u002Fwww.bilibili.com\u002Fblackboard\u002Flive\u002Flive-activity-player.html?cid=1822703816&quality=0","200,000","麒麟软件有限公司","“2026春季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。\n各参赛选手需在规定的比赛周期内，依据赛事规则选定赛题并完成相应挑战，优胜者将共同角逐总额20万元的赛事奖金池，并且还将有机会获得实习和知名企业优质岗位内推资格。","启元实验室","2026-04-19 16:00:00","2026-07-13 16:00:00","2026-06-16 16:00:00","ongoing","private","2026-04-16 08:00:00",{"slug":26,"title":27,"logo":7,"liveUrl":14,"prize":28,"sponsor":7,"description":29,"organizer":18,"startTime":30,"endTime":31,"registrationDeadline":32,"status":33,"dashboardVisibility":23,"createdAt":34},"autumn2025","2025秋季启元人工智能大赛","150,000","“2025秋季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。","2025-11-08 08:00:00","2026-01-13 08:00:00","2025-12-30 08:00:00","ended","2025-11-03 08:00:00",{"slug":36,"title":37,"logo":7,"liveUrl":14,"prize":38,"sponsor":7,"description":39,"organizer":18,"startTime":40,"endTime":41,"registrationDeadline":42,"status":33,"dashboardVisibility":23,"createdAt":43},"summer2025","启元人工智能大赛(系统方向)","80,000","启元人工智能大赛由启元实验室主办，其中系统赛道基于启元实验室九源软件栈的相关开源项目，通过拉动开源社区力量，一方面促进国产智能计算生态的发展，另一方面也为人工智能系统方向的学生及从业者提供一个实践平台。","2025-07-08 08:00:00","2025-08-25 08:00:00","2025-07-22 08:00:00","2025-06-22 08:00:00",1,5,true,8,[44],{"total":45,"list":50,"pageNum":44,"pageSize":45,"size":45,"startRow":44,"endRow":45,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":103,"navigateFirstPage":44,"navigateLastPage":44},[51,62,73,84,94],{"id":52,"slug":53,"title":54,"logo":55,"publicLiveEmbedUrl":14,"description":56,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":16,"startTime":58,"endTime":59,"status":22,"dashboardVisibility":60,"createdAt":58,"updatedAt":61},"019eeeff-6b00-7d55-a629-efafded3e232","summer2026","2026年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2026-06\u002F019eef7f-7816-7828-9309-79c2c61dd568.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=uiV9kOffa9Xq8DT%2BbErZU0JyQ98%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。","...","2026-06-22 08:00:00","2026-10-19 08:00:00","public","2026-10-12 08:00:00",{"id":63,"slug":64,"title":65,"logo":66,"publicLiveEmbedUrl":7,"description":67,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":68,"startTime":69,"endTime":70,"status":33,"dashboardVisibility":23,"createdAt":71,"updatedAt":72},"019af3f3-e06a-7245-aa8d-37dc99a69c73","winter2025","2025年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-12\u002F019afc69-b7ca-7805-91fb-605429671c01.png?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=8u%2BaQaeliN4QzF6MZWiB4jHYDCE%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。 \n","新华三技术有限公司","2025-12-25 08:00:00","2026-03-27 08:00:00","2025-12-06 08:00:00","2026-10-22 20:24:30",{"id":74,"slug":36,"title":75,"logo":76,"publicLiveEmbedUrl":7,"description":77,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":78,"startTime":79,"endTime":80,"status":81,"dashboardVisibility":23,"createdAt":82,"updatedAt":83},"01980342-208c-7803-b3f3-19e1d31960ba","2025年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-07\u002F0198045e-28fe-78f0-95fe-23835ce58395.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=8pXXbnSlNEtVJCJ1e4RzUlqmRn8%3D","InfiniTensor大模型与人工智能系统训练营由启元实验室及清华大学 AI 系统方向团队发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营联合开源项目开发者、学术界大牛、工业界资深工程师参与授课与项目指导。课程采用「线上直播授课 + 在线答疑 + 项目实践辅导 」的方式进行，确保每位同学都能获得充分成长。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","北京积算科技有限公司","2025-07-14 08:00:00","2025-09-30 08:00:00","upcoming","2025-07-13 08:00:00","2026-10-22 20:24:58",{"id":85,"slug":86,"title":87,"logo":88,"publicLiveEmbedUrl":7,"description":89,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":90,"endTime":91,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":93},"01980cf9-a7d8-7796-ae86-0bbe05334add","winter2024","2024年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-ce23-7624-a287-9f07dd0d85f6.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。报名学员请阅读“导学”课程页的训练营介绍。","2025-01-05 08:00:00","2025-03-22 08:00:00","2025-07-15 08:00:00","2026-10-22 20:24:39",{"id":95,"slug":96,"title":97,"logo":98,"publicLiveEmbedUrl":7,"description":99,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":100,"endTime":101,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":102},"01980c20-363a-7dc3-8f5a-58a68e08dcc4","summer2024","2024年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-fbfa-788a-afcd-17fa9be74ff9.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区和高校，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过课程、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","2024-07-20 08:00:00","2024-09-29 08:00:00","2026-10-22 20:24:49",[44],{"currentItem":105,"processedData":125},{"img":106,"keywords":107,"treeType":44,"description":108,"showStatus":44,"updateTime":109,"type":110,"title":111,"content":112,"nextArticle":113,"createTime":109,"sortOrder":117,"canonicalPath":118,"id":119,"contentType":120,"prevArticle":121},"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_fm.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=HVBLOuO3jgh03yt1E35ElF2x6xA%3D","Triton 编译器,寒武纪 MLU,Linalg,国产 DSA 芯片,算子开发","讲解 Triton 适配国产芯片价值，对比 CUDA 开发差异，拆解寒武纪 Triton 编译器、Triton 转 Linalg 流程、指针连续性分析，配套开源 triton-linalg 项目介绍。","2026-10-22 20:38:11",2,"2026 夏季 InfiniTensor 训练营前沿模型 2：《检索增强的语言模型》","![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw01.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=M5e%2FuHiuczvzmesyOgFMPj34Ais%3D)\r\n\r\n\u003Cspan style=\"font-size:12px;color:#555;\">7 月 20 日，2026 夏季 InfiniTensor 训练营前沿模型方向第二课《检索增强的语言模型》开讲。\r\n前置课程《AI 模型导论与推理基础原理》完整搭建了人工智能与深度神经网络的零基础核心认知体系，串联了 AI 发展迭代、网络原理、训练逻辑、特殊结构及模型任务等内容。\u003C\u002Fspan>\r\n\r\n本节课将深入解析检索增强生成（RAG）的核心思想，回顾语言模型面临的挑战，梳理从早期经典工作到现代 Agentic RAG 的演进脉络，并分享团队开源项目 UltraRAG 的实践经验。\r\n\r\n\r\n## 为什么大模型需要检索？\r\n\r\n### 语言模型基础回顾\r\n- **基本任务**：根据已见文字预测后续内容。\r\n- **架构演变**：从 BERT（Masked LM，语义理解强）到 GPT\u002FDecoder-only（自回归，当前主流）。\r\n- **评价指标**：困惑度（Perplexity），越低代表预测越准确（注：近年来指标探索仍在进行，并非完美）。\r\n\r\n### 大模型的三大核心挑战\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw02.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=LvPHpZehvWqZHw57zVzHA4QPbgo%3D)\r\n\r\n1.**知识密集型场景的幻觉**：在医学、法律、金融等精准领域，仅靠参数记忆易产生“似对非对”的错误答案。\r\n\r\n2.**知识时效性滞后**：预训练结束后知识即定型，无法获取截断时间后的新信息（如现任总统变更），且后训练注入知识成本极高。\r\n\r\n3.**超长文本处理瓶颈**：上下文窗口有限（即使标称很长，有效窗口可能仅 256K 左右），易遗漏分散在长文档中的关键信息。\r\n\r\n### RAG 的核心解法\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw03.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=%2Fxtv%2FoQk9sVYAcbV55y8k4DU1CU%3D)\r\n\r\n- **基本思路**：不强制模型记住所有知识，而是提供外部查找渠道。\r\n- **数据来源**：维基百科、新闻快照、企业私有文档、多模态数据等（规模可达万亿 Token）。\r\n- **推理流程**：用户提问 → 索引构建（切块+索引） → 召回相关文档 → 文档输入模型 → 生成答案。\r\n\r\n\r\n## 检索技术\r\n\r\n### 检索范式\r\n\r\n#### 1. 稀疏检索（Sparse Retrieval）：\r\n- 原理：关键词匹配（如 TF-IDF, BM25）。\r\n- 优势：速度快、可解释性强、特定名词匹配精准。\r\n#### 2. 稠密向量检索（Dense Retrieval）：\r\n- 原理：利用 Encoder 或 Decoder-only 模型将文本编码为语义向量，计算余弦相似度\u002F点积。\r\n- 优势：理解语义歧义（如区分“苹果手机”与“吃的苹果”），支持百万\u002F千万级快速召回（Faiss, Milvus）。\r\n#### 3. Top K\r\n- 只取前 K 个相似性最高的作为召回结果\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw04.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=j65smOAOoNE9maH4MoIiqLwqvYQ%3D)\r\n\r\n\r\n### RAG 系统设计的三个核心问题\r\n#### 1. 检索什么？\r\n- 最小单元：Chunk（切块\u002F分片）。\r\n- 策略权衡：固定长度 vs 语义切分；粒度太粗丢失细节，太细丢失上下文。需结合业务场景定制。\r\n\r\n#### 2. 如何使用检索？\r\n- **In-Context Learning（主流）**：直接将召回文档拼接在 Prompt 中，利用模型强大的上下文理解能力。\r\n- **架构魔改（非主流）**：通过 Cross-Attention 注入中间层或影响 Logits（破坏模型结构，现已少用）。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw05.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=1qUPRkwpYXSA9QXYJ%2Fw8tuP98UI%3D)\r\n\r\n#### 3. 何时检索？\r\n- 单次检索：每问一次查一次。\r\n- 步进检索：每生成 N 个 Token 触发一次（信息及时但成本高）。\r\n- **Agentic 检索（先进）**：模型自主判断信息是否充足，按需决定是否检索。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw06.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=4%2FPY8eJsFsRq2udPu0x7r7AdJTA%3D)\r\n\r\n\r\n## 经典 RAG 工作回顾\r\n\r\n### 1. REALM (2020)\r\n- **贡献**：最早提出检索器与语言模型联合预训练。\r\n- **机制**：基于 BERT，将问题与召回文档拼接预测 Mask 词；通过带权重的答案求和解决多文档融合问题。\r\n- **局限**：受限于当时模型输入长度（512），做法较早期。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw07.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=gmYcQdwRnHZWlA0M%2Boo20wuASJ0%3D)\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw08.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Qb7qEaEl05q%2BtW1Z36v%2B8eMYp60%3D)\r\n\r\n### 2. Retrieval-in-Context LM\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw09.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=ZHXmFUvcZwqTH%2BfvVi0yWcq0F3M%3D)\r\n\r\n- **Retrieval-in-Context**：验证了 RAG 对不同规模模型均有收益，**小模型收益最大**；探讨了 Query 长度（32 token 较优）及检索频率的平衡。\r\n- **DPR**：开创性地使用稠密向量检索替代 BM25，奠定现代向量检索基础。\r\n- **Query 优化**：原始 Query 可能嘈杂，需清洗、改写或提取关键词以提升召回率。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw10.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=vKXSq7eYSLK13lHJ3v15M1JKDyA%3D)\r\n\r\n\r\n### 3. RETRO (架构魔改代表)\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw11.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=j5FVnT3nhB447JUhUOtGpo9EhLs%3D)\r\n\r\n- **创新**：不直接拼接文本，而是将召回文档转为向量，通过 Chunk Cross-Attention 注入 Transformer 中间层。\r\n- **特点**：模拟“写一点、查一点”的过程。\r\n- **现状**：因修改模型架构成本过高，目前已非主流路线。\r\n\r\n### 4. kNN-LM (细粒度检索)\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw12.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=MrF7Tvmu%2FdhvdsJrXWzbyvxtedU%3D)\r\n\r\n- **创新**：检索单元从“文本块”细化为“Token\u002F短语”。\r\n- **原理**：利用训练语料库作为记忆库，计算 Query 与前缀的距离，聚合 kNN 分数与模型预测概率。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw13.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=6N%2BbPRi01JPLleMOpdC7xMcvx2k%3D)\r\n\r\n- **洞察**：隐藏向量具有语义结构；轻量级模型（100M）配合 kNN 可媲美大模型效果。\r\n\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw14.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=79Df5REXr%2F0PzCRsOGdLGOfqbHs%3D)\r\n\r\n\r\n## RAG 的新趋势与前沿发展\r\n\r\n### 从 RAG 到 Agentic RAG\r\n1.**范式转变**：2023 年后范式趋于统一（Prompt 拼接），重点转向**精准知识获取**。\r\n\r\n2.**多跳推理（Multi-hop）**：解决复杂关联问题（如“二舅邻居的女儿是谁”），引入 COT、GraphRAG 等技术。\r\n\r\n3.**推理能力注入**：DeepSeek-R1 等模型推动 Reasoning 在知识获取中的应用，训练模型自主判断知识充足度。\r\n\r\n### 知识整理：DeepNote\r\n1.**痛点**：多轮检索导致上下文嘈杂、信息密度低。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw15.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=FXzbUcu3Z1Gqv3ZwisVZYze8%2Fnk%3D)\r\n\r\n2.**方案**：以“笔记”为中心的多轮迭代。\r\n- 召回 → 生成初始笔记 → 基于笔记生成新问题 → 再召回 → 更新笔记。\r\n- 引入“失败计数”机制，避免无效更新，直到信息充足停止。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw16.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=z45mIS95tMtK4O%2FDqSqgTzIrDLk%3D)\r\n\r\n3.**效果**：显著提升有效信息密度，优于简单拼接。\r\n\r\n\r\n### 知识利用与对齐\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw17.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=EY7mp2fWvizku9adqY0airir7WI%3D)\r\n\r\n\r\n1.**痛点**：SFT 仅能模仿分布，易损害通用能力；模型存在“内外知识冲突”（更信参数知识或被错误文档误导）。\r\n\r\n2.**方案**：基于 DPO 的偏好优化。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw18.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=YrRps9YjECtzhID82WEfcR%2B6lEw%3D)\r\n\r\n- 构建正负样本：对比“纯内部知识回答”与“RAG 回答”的轨迹。\r\n- 端到端优化：联合训练 Refinement 模块与 Generation 模块（长链路调优）。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw19.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=qwYrDml8uDk6zbHmheBYwlOpYDI%3D)\r\n\r\n\r\n3.**效果**：提升 RAG 准确率的同时，**不损害甚至提升通用能力**（Common Sense, Math 等）。\r\n\r\n\r\n## 开源实践与工具推荐\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw20.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=aiupnfK03yYqvVmNDKo%2FJVt%2F3tc%3D)\r\n\r\n### UltraRAG 项目介绍\r\n1.**背景**：解决科研复现难、工业 Demo 搭建复杂的痛点。\r\n\r\n2.**功能**：\r\n- 科研基建：快速复现基线方法。\r\n- 工业应用：快速搭建类 ChatGPT 的演示系统。\r\n\r\n3.**成果**：GitHub Star 5600+，曾登 GitHub Trending Top 2。\r\n\r\n4.**资源**：\r\n- 代码仓库：https:\u002F\u002Fgithub.com\u002FOpenBMB\u002FUltraRAG\r\n- 教程文档：https:\u002F\u002Fultrarag.openbmb.cn\r\n- 开源数据集：https:\u002F\u002Fmodelscope.cn\u002Fdatasets\u002FUltraRAG\u002FUltraRAG_Benchmark\r\n\r\n\r\n\r\n\r\n## 加入训练营\r\n#### 📺完整课程内容，请观看直播或查看课程回放：\r\n**InfiniTensor 官网**： https:\u002F\u002Fwww.infinitensor.com\r\n\r\n**B站直播**： InfiniTensor 官方直播间\r\n\r\n**视频号直播**： InfiniTensor 视频号预约\r\n\r\n**答疑交流**： 训练营官方社群⬇️\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002F2026-xjq.png?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=oKlo6p8Ra0fcURk4F6PNTseTp%2BA%3D)\r\n\r\n## 关注与交流\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002Fnews_ewm02.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=R03Psa4VwXKPuVbshfyqCCO33b4%3D)",{"publishTime":7,"createTime":109,"canonicalPath":114,"id":115,"title":116},"\u002Fstudy-material\u002Fstudy-68","study-68","2026 夏季 InfiniTensor 训练营 Triton & 九齿 2：《Triton 编译器探索与寒武纪 MLU 实践》",40,"\u002Fstudy-material\u002Fstudy-69","study-69","markdown",{"publishTime":7,"createTime":109,"canonicalPath":122,"id":123,"title":124},"\u002Fstudy-material\u002Fstudy-70","study-70","2026 夏季 InfiniTensor 训练营 CUDA 编程 2：《性能模型与逐元素优化》",{"htmlContent":126,"headings":127},"\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw01.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=M5e%2FuHiuczvzmesyOgFMPj34Ais%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>\u003Cspan style=\"font-size:12px;color:#555;\">7 月 20 日，2026 夏季 InfiniTensor 训练营前沿模型方向第二课《检索增强的语言模型》开讲。\u003Cbr>前置课程《AI 模型导论与推理基础原理》完整搭建了人工智能与深度神经网络的零基础核心认知体系，串联了 AI 发展迭代、网络原理、训练逻辑、特殊结构及模型任务等内容。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>本节课将深入解析检索增强生成（RAG）的核心思想，回顾语言模型面临的挑战，梳理从早期经典工作到现代 Agentic RAG 的演进脉络，并分享团队开源项目 UltraRAG 的实践经验。\u003C\u002Fp>\n\u003Ch2 id=\"为什么大模型需要检索\">\u003Ca class=\"anchor\" href=\"#为什么大模型需要检索\" aria-label=\"跳转到标题：为什么大模型需要检索？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>为什么大模型需要检索？\u003C\u002Fh2>\u003Ch3 id=\"语言模型基础回顾\">\u003Ca class=\"anchor\" href=\"#语言模型基础回顾\" aria-label=\"跳转到标题：语言模型基础回顾\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>语言模型基础回顾\u003C\u002Fh3>\u003Cul>\n\u003Cli>\u003Cstrong>基本任务\u003C\u002Fstrong>：根据已见文字预测后续内容。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>架构演变\u003C\u002Fstrong>：从 BERT（Masked LM，语义理解强）到 GPT\u002FDecoder-only（自回归，当前主流）。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>评价指标\u003C\u002Fstrong>：困惑度（Perplexity），越低代表预测越准确（注：近年来指标探索仍在进行，并非完美）。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 id=\"大模型的三大核心挑战\">\u003Ca class=\"anchor\" href=\"#大模型的三大核心挑战\" aria-label=\"跳转到标题：大模型的三大核心挑战\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>大模型的三大核心挑战\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw02.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=LvPHpZehvWqZHw57zVzHA4QPbgo%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>1.\u003Cstrong>知识密集型场景的幻觉\u003C\u002Fstrong>：在医学、法律、金融等精准领域，仅靠参数记忆易产生“似对非对”的错误答案。\u003C\u002Fp>\n\u003Cp>2.\u003Cstrong>知识时效性滞后\u003C\u002Fstrong>：预训练结束后知识即定型，无法获取截断时间后的新信息（如现任总统变更），且后训练注入知识成本极高。\u003C\u002Fp>\n\u003Cp>3.\u003Cstrong>超长文本处理瓶颈\u003C\u002Fstrong>：上下文窗口有限（即使标称很长，有效窗口可能仅 256K 左右），易遗漏分散在长文档中的关键信息。\u003C\u002Fp>\n\u003Ch3 id=\"rag-的核心解法\">\u003Ca class=\"anchor\" href=\"#rag-的核心解法\" aria-label=\"跳转到标题：RAG 的核心解法\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RAG 的核心解法\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw03.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=%2Fxtv%2FoQk9sVYAcbV55y8k4DU1CU%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>基本思路\u003C\u002Fstrong>：不强制模型记住所有知识，而是提供外部查找渠道。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>数据来源\u003C\u002Fstrong>：维基百科、新闻快照、企业私有文档、多模态数据等（规模可达万亿 Token）。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>推理流程\u003C\u002Fstrong>：用户提问 → 索引构建（切块+索引） → 召回相关文档 → 文档输入模型 → 生成答案。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2 id=\"检索技术\">\u003Ca class=\"anchor\" href=\"#检索技术\" aria-label=\"跳转到标题：检索技术\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>检索技术\u003C\u002Fh2>\u003Ch3 id=\"检索范式\">\u003Ca class=\"anchor\" href=\"#检索范式\" aria-label=\"跳转到标题：检索范式\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>检索范式\u003C\u002Fh3>\u003Ch4 id=\"1-稀疏检索-sparse-retrieval\">\u003Ca class=\"anchor\" href=\"#1-稀疏检索-sparse-retrieval\" aria-label=\"跳转到标题：1. 稀疏检索（Sparse Retrieval）：\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 稀疏检索（Sparse Retrieval）：\u003C\u002Fh4>\u003Cul>\n\u003Cli>原理：关键词匹配（如 TF-IDF, BM25）。\u003C\u002Fli>\n\u003Cli>优势：速度快、可解释性强、特定名词匹配精准。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-稠密向量检索-dense-retrieval\">\u003Ca class=\"anchor\" href=\"#2-稠密向量检索-dense-retrieval\" aria-label=\"跳转到标题：2. 稠密向量检索（Dense Retrieval）：\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. 稠密向量检索（Dense Retrieval）：\u003C\u002Fh4>\u003Cul>\n\u003Cli>原理：利用 Encoder 或 Decoder-only 模型将文本编码为语义向量，计算余弦相似度\u002F点积。\u003C\u002Fli>\n\u003Cli>优势：理解语义歧义（如区分“苹果手机”与“吃的苹果”），支持百万\u002F千万级快速召回（Faiss, Milvus）。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"3-top-k\">\u003Ca class=\"anchor\" href=\"#3-top-k\" aria-label=\"跳转到标题：3. Top K\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. Top K\u003C\u002Fh4>\u003Cul>\n\u003Cli>只取前 K 个相似性最高的作为召回结果\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw04.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=j65smOAOoNE9maH4MoIiqLwqvYQ%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"rag-系统设计的三个核心问题\">\u003Ca class=\"anchor\" href=\"#rag-系统设计的三个核心问题\" aria-label=\"跳转到标题：RAG 系统设计的三个核心问题\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RAG 系统设计的三个核心问题\u003C\u002Fh3>\u003Ch4 id=\"1-检索什么\">\u003Ca class=\"anchor\" href=\"#1-检索什么\" aria-label=\"跳转到标题：1. 检索什么？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 检索什么？\u003C\u002Fh4>\u003Cul>\n\u003Cli>最小单元：Chunk（切块\u002F分片）。\u003C\u002Fli>\n\u003Cli>策略权衡：固定长度 vs 语义切分；粒度太粗丢失细节，太细丢失上下文。需结合业务场景定制。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch4 id=\"2-如何使用检索\">\u003Ca class=\"anchor\" href=\"#2-如何使用检索\" aria-label=\"跳转到标题：2. 如何使用检索？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. 如何使用检索？\u003C\u002Fh4>\u003Cul>\n\u003Cli>\u003Cstrong>In-Context Learning（主流）\u003C\u002Fstrong>：直接将召回文档拼接在 Prompt 中，利用模型强大的上下文理解能力。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>架构魔改（非主流）\u003C\u002Fstrong>：通过 Cross-Attention 注入中间层或影响 Logits（破坏模型结构，现已少用）。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw05.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=1qUPRkwpYXSA9QXYJ%2Fw8tuP98UI%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch4 id=\"3-何时检索\">\u003Ca class=\"anchor\" href=\"#3-何时检索\" aria-label=\"跳转到标题：3. 何时检索？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. 何时检索？\u003C\u002Fh4>\u003Cul>\n\u003Cli>单次检索：每问一次查一次。\u003C\u002Fli>\n\u003Cli>步进检索：每生成 N 个 Token 触发一次（信息及时但成本高）。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Agentic 检索（先进）\u003C\u002Fstrong>：模型自主判断信息是否充足，按需决定是否检索。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw06.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=4%2FPY8eJsFsRq2udPu0x7r7AdJTA%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"经典-rag-工作回顾\">\u003Ca class=\"anchor\" href=\"#经典-rag-工作回顾\" aria-label=\"跳转到标题：经典 RAG 工作回顾\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>经典 RAG 工作回顾\u003C\u002Fh2>\u003Ch3 id=\"1-realm-2020\">\u003Ca class=\"anchor\" href=\"#1-realm-2020\" aria-label=\"跳转到标题：1. REALM (2020)\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. REALM (2020)\u003C\u002Fh3>\u003Cul>\n\u003Cli>\u003Cstrong>贡献\u003C\u002Fstrong>：最早提出检索器与语言模型联合预训练。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>机制\u003C\u002Fstrong>：基于 BERT，将问题与召回文档拼接预测 Mask 词；通过带权重的答案求和解决多文档融合问题。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>局限\u003C\u002Fstrong>：受限于当时模型输入长度（512），做法较早期。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw07.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=gmYcQdwRnHZWlA0M%2Boo20wuASJ0%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw08.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Qb7qEaEl05q%2BtW1Z36v%2B8eMYp60%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"2-retrieval-in-context-lm\">\u003Ca class=\"anchor\" href=\"#2-retrieval-in-context-lm\" aria-label=\"跳转到标题：2. Retrieval-in-Context LM\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. Retrieval-in-Context LM\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw09.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=ZHXmFUvcZwqTH%2BfvVi0yWcq0F3M%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>Retrieval-in-Context\u003C\u002Fstrong>：验证了 RAG 对不同规模模型均有收益，\u003Cstrong>小模型收益最大\u003C\u002Fstrong>；探讨了 Query 长度（32 token 较优）及检索频率的平衡。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>DPR\u003C\u002Fstrong>：开创性地使用稠密向量检索替代 BM25，奠定现代向量检索基础。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Query 优化\u003C\u002Fstrong>：原始 Query 可能嘈杂，需清洗、改写或提取关键词以提升召回率。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw10.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=vKXSq7eYSLK13lHJ3v15M1JKDyA%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"3-retro-架构魔改代表\">\u003Ca class=\"anchor\" href=\"#3-retro-架构魔改代表\" aria-label=\"跳转到标题：3. RETRO (架构魔改代表)\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. RETRO (架构魔改代表)\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw11.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=j5FVnT3nhB447JUhUOtGpo9EhLs%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>创新\u003C\u002Fstrong>：不直接拼接文本，而是将召回文档转为向量，通过 Chunk Cross-Attention 注入 Transformer 中间层。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>特点\u003C\u002Fstrong>：模拟“写一点、查一点”的过程。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>现状\u003C\u002Fstrong>：因修改模型架构成本过高，目前已非主流路线。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 id=\"4-knn-lm-细粒度检索\">\u003Ca class=\"anchor\" href=\"#4-knn-lm-细粒度检索\" aria-label=\"跳转到标题：4. kNN-LM (细粒度检索)\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>4. kNN-LM (细粒度检索)\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw12.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=MrF7Tvmu%2FdhvdsJrXWzbyvxtedU%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>创新\u003C\u002Fstrong>：检索单元从“文本块”细化为“Token\u002F短语”。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>原理\u003C\u002Fstrong>：利用训练语料库作为记忆库，计算 Query 与前缀的距离，聚合 kNN 分数与模型预测概率。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw13.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=6N%2BbPRi01JPLleMOpdC7xMcvx2k%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>洞察\u003C\u002Fstrong>：隐藏向量具有语义结构；轻量级模型（100M）配合 kNN 可媲美大模型效果。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw14.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=79Df5REXr%2F0PzCRsOGdLGOfqbHs%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"rag-的新趋势与前沿发展\">\u003Ca class=\"anchor\" href=\"#rag-的新趋势与前沿发展\" aria-label=\"跳转到标题：RAG 的新趋势与前沿发展\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RAG 的新趋势与前沿发展\u003C\u002Fh2>\u003Ch3 id=\"从-rag-到-agentic-rag\">\u003Ca class=\"anchor\" href=\"#从-rag-到-agentic-rag\" aria-label=\"跳转到标题：从 RAG 到 Agentic RAG\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>从 RAG 到 Agentic RAG\u003C\u002Fh3>\u003Cp>1.\u003Cstrong>范式转变\u003C\u002Fstrong>：2023 年后范式趋于统一（Prompt 拼接），重点转向\u003Cstrong>精准知识获取\u003C\u002Fstrong>。\u003C\u002Fp>\n\u003Cp>2.\u003Cstrong>多跳推理（Multi-hop）\u003C\u002Fstrong>：解决复杂关联问题（如“二舅邻居的女儿是谁”），引入 COT、GraphRAG 等技术。\u003C\u002Fp>\n\u003Cp>3.\u003Cstrong>推理能力注入\u003C\u002Fstrong>：DeepSeek-R1 等模型推动 Reasoning 在知识获取中的应用，训练模型自主判断知识充足度。\u003C\u002Fp>\n\u003Ch3 id=\"知识整理-deepnote\">\u003Ca class=\"anchor\" href=\"#知识整理-deepnote\" aria-label=\"跳转到标题：知识整理：DeepNote\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>知识整理：DeepNote\u003C\u002Fh3>\u003Cp>1.\u003Cstrong>痛点\u003C\u002Fstrong>：多轮检索导致上下文嘈杂、信息密度低。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw15.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=FXzbUcu3Z1Gqv3ZwisVZYze8%2Fnk%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>2.\u003Cstrong>方案\u003C\u002Fstrong>：以“笔记”为中心的多轮迭代。\u003C\u002Fp>\n\u003Cul>\n\u003Cli>召回 → 生成初始笔记 → 基于笔记生成新问题 → 再召回 → 更新笔记。\u003C\u002Fli>\n\u003Cli>引入“失败计数”机制，避免无效更新，直到信息充足停止。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw16.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=z45mIS95tMtK4O%2FDqSqgTzIrDLk%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>3.\u003Cstrong>效果\u003C\u002Fstrong>：显著提升有效信息密度，优于简单拼接。\u003C\u002Fp>\n\u003Ch3 id=\"知识利用与对齐\">\u003Ca class=\"anchor\" href=\"#知识利用与对齐\" aria-label=\"跳转到标题：知识利用与对齐\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>知识利用与对齐\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw17.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=EY7mp2fWvizku9adqY0airir7WI%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>1.\u003Cstrong>痛点\u003C\u002Fstrong>：SFT 仅能模仿分布，易损害通用能力；模型存在“内外知识冲突”（更信参数知识或被错误文档误导）。\u003C\u002Fp>\n\u003Cp>2.\u003Cstrong>方案\u003C\u002Fstrong>：基于 DPO 的偏好优化。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw18.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=YrRps9YjECtzhID82WEfcR%2B6lEw%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cul>\n\u003Cli>构建正负样本：对比“纯内部知识回答”与“RAG 回答”的轨迹。\u003C\u002Fli>\n\u003Cli>端到端优化：联合训练 Refinement 模块与 Generation 模块（长链路调优）。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw19.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=qwYrDml8uDk6zbHmheBYwlOpYDI%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>3.\u003Cstrong>效果\u003C\u002Fstrong>：提升 RAG 准确率的同时，\u003Cstrong>不损害甚至提升通用能力\u003C\u002Fstrong>（Common Sense, Math 等）。\u003C\u002Fp>\n\u003Ch2 id=\"开源实践与工具推荐\">\u003Ca class=\"anchor\" href=\"#开源实践与工具推荐\" aria-label=\"跳转到标题：开源实践与工具推荐\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>开源实践与工具推荐\u003C\u002Fh2>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_69_zw20.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=aiupnfK03yYqvVmNDKo%2FJVt%2F3tc%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"ultrarag-项目介绍\">\u003Ca class=\"anchor\" href=\"#ultrarag-项目介绍\" aria-label=\"跳转到标题：UltraRAG 项目介绍\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>UltraRAG 项目介绍\u003C\u002Fh3>\u003Cp>1.\u003Cstrong>背景\u003C\u002Fstrong>：解决科研复现难、工业 Demo 搭建复杂的痛点。\u003C\u002Fp>\n\u003Cp>2.\u003Cstrong>功能\u003C\u002Fstrong>：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>科研基建：快速复现基线方法。\u003C\u002Fli>\n\u003Cli>工业应用：快速搭建类 ChatGPT 的演示系统。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>3.\u003Cstrong>成果\u003C\u002Fstrong>：GitHub Star 5600+，曾登 GitHub Trending Top 2。\u003C\u002Fp>\n\u003Cp>4.\u003Cstrong>资源\u003C\u002Fstrong>：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>代码仓库：\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FOpenBMB\u002FUltraRAG\">https:\u002F\u002Fgithub.com\u002FOpenBMB\u002FUltraRAG\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli>教程文档：\u003Ca href=\"https:\u002F\u002Fultrarag.openbmb.cn\">https:\u002F\u002Fultrarag.openbmb.cn\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli>开源数据集：\u003Ca href=\"https:\u002F\u002Fmodelscope.cn\u002Fdatasets\u002FUltraRAG\u002FUltraRAG_Benchmark\">https:\u002F\u002Fmodelscope.cn\u002Fdatasets\u002FUltraRAG\u002FUltraRAG_Benchmark\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2 id=\"加入训练营\">\u003Ca class=\"anchor\" href=\"#加入训练营\" aria-label=\"跳转到标题：加入训练营\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>加入训练营\u003C\u002Fh2>\u003Ch4 id=\"完整课程内容-请观看直播或查看课程回放\">\u003Ca class=\"anchor\" href=\"#完整课程内容-请观看直播或查看课程回放\" aria-label=\"跳转到标题：📺完整课程内容，请观看直播或查看课程回放：\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>📺完整课程内容，请观看直播或查看课程回放：\u003C\u002Fh4>\u003Cp>\u003Cstrong>InfiniTensor 官网\u003C\u002Fstrong>： \u003Ca href=\"https:\u002F\u002Fwww.infinitensor.com\">https:\u002F\u002Fwww.infinitensor.com\u003C\u002Fa>\u003C\u002Fp>\n\u003Cp>\u003Cstrong>B站直播\u003C\u002Fstrong>： InfiniTensor 官方直播间\u003C\u002Fp>\n\u003Cp>\u003Cstrong>视频号直播\u003C\u002Fstrong>： InfiniTensor 视频号预约\u003C\u002Fp>\n\u003Cp>\u003Cstrong>答疑交流\u003C\u002Fstrong>： 训练营官方社群⬇️\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002F2026-xjq.png?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=oKlo6p8Ra0fcURk4F6PNTseTp%2BA%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"关注与交流\">\u003Ca class=\"anchor\" href=\"#关注与交流\" aria-label=\"跳转到标题：关注与交流\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>关注与交流\u003C\u002Fh2>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002Fnews_ewm02.jpg?Expires=1792752557&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=R03Psa4VwXKPuVbshfyqCCO33b4%3D\" alt=\"\">\u003C\u002Fp>\n",[128,131,133,135,138,140,142,146,149,152,155,158,161,164,167,170,173,176,179,182,185,188,190,192,195,197,200],{"id":129,"text":130,"level":110},"为什么大模型需要检索","为什么大模型需要检索？",{"id":132,"text":132,"level":9},"语言模型基础回顾",{"id":134,"text":134,"level":9},"大模型的三大核心挑战",{"id":136,"text":137,"level":9},"rag-的核心解法","RAG 的核心解法",{"id":139,"text":139,"level":110},"检索技术",{"id":141,"text":141,"level":9},"检索范式",{"id":143,"text":144,"level":145},"1-稀疏检索-sparse-retrieval","1. 稀疏检索（Sparse Retrieval）：",4,{"id":147,"text":148,"level":145},"2-稠密向量检索-dense-retrieval","2. 稠密向量检索（Dense Retrieval）：",{"id":150,"text":151,"level":145},"3-top-k","3. Top K",{"id":153,"text":154,"level":9},"rag-系统设计的三个核心问题","RAG 系统设计的三个核心问题",{"id":156,"text":157,"level":145},"1-检索什么","1. 检索什么？",{"id":159,"text":160,"level":145},"2-如何使用检索","2. 如何使用检索？",{"id":162,"text":163,"level":145},"3-何时检索","3. 何时检索？",{"id":165,"text":166,"level":110},"经典-rag-工作回顾","经典 RAG 工作回顾",{"id":168,"text":169,"level":9},"1-realm-2020","1. REALM (2020)",{"id":171,"text":172,"level":9},"2-retrieval-in-context-lm","2. Retrieval-in-Context LM",{"id":174,"text":175,"level":9},"3-retro-架构魔改代表","3. RETRO (架构魔改代表)",{"id":177,"text":178,"level":9},"4-knn-lm-细粒度检索","4. kNN-LM (细粒度检索)",{"id":180,"text":181,"level":110},"rag-的新趋势与前沿发展","RAG 的新趋势与前沿发展",{"id":183,"text":184,"level":9},"从-rag-到-agentic-rag","从 RAG 到 Agentic RAG",{"id":186,"text":187,"level":9},"知识整理-deepnote","知识整理：DeepNote",{"id":189,"text":189,"level":9},"知识利用与对齐",{"id":191,"text":191,"level":110},"开源实践与工具推荐",{"id":193,"text":194,"level":9},"ultrarag-项目介绍","UltraRAG 项目介绍",{"id":196,"text":196,"level":110},"加入训练营",{"id":198,"text":199,"level":145},"完整课程内容-请观看直播或查看课程回放","📺完整课程内容，请观看直播或查看课程回放：",{"id":201,"text":201,"level":110},"关注与交流"]