[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"site-home-live-entry-setting":3,"site-header-contests":8,"site-header-camps":49,"news-detail-5feececa-0322-432d-ade9-93b3a179d7db":104},{"enabled":4,"title":5,"statusText":5,"buttonText":5,"campSlug":5,"stage":6,"classroomId":7,"hasClassroom":4},false,"",0,null,{"total":9,"list":10,"pageNum":44,"pageSize":45,"size":9,"startRow":44,"endRow":9,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":48,"navigateFirstPage":44,"navigateLastPage":44},3,[11,25,35],{"slug":12,"title":13,"logo":7,"liveUrl":14,"prize":15,"sponsor":16,"description":17,"organizer":18,"startTime":19,"endTime":20,"registrationDeadline":21,"status":22,"dashboardVisibility":23,"createdAt":24},"spring2026","2026春季启元人工智能大赛","https:\u002F\u002Fwww.bilibili.com\u002Fblackboard\u002Flive\u002Flive-activity-player.html?cid=1822703816&quality=0","200,000","麒麟软件有限公司","“2026春季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。\n各参赛选手需在规定的比赛周期内，依据赛事规则选定赛题并完成相应挑战，优胜者将共同角逐总额20万元的赛事奖金池，并且还将有机会获得实习和知名企业优质岗位内推资格。","启元实验室","2026-04-19 16:00:00","2026-07-13 16:00:00","2026-06-16 16:00:00","ongoing","private","2026-04-16 08:00:00",{"slug":26,"title":27,"logo":7,"liveUrl":14,"prize":28,"sponsor":7,"description":29,"organizer":18,"startTime":30,"endTime":31,"registrationDeadline":32,"status":33,"dashboardVisibility":23,"createdAt":34},"autumn2025","2025秋季启元人工智能大赛","150,000","“2025秋季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。","2025-11-08 08:00:00","2026-01-13 08:00:00","2025-12-30 08:00:00","ended","2025-11-03 08:00:00",{"slug":36,"title":37,"logo":7,"liveUrl":14,"prize":38,"sponsor":7,"description":39,"organizer":18,"startTime":40,"endTime":41,"registrationDeadline":42,"status":33,"dashboardVisibility":23,"createdAt":43},"summer2025","启元人工智能大赛(系统方向)","80,000","启元人工智能大赛由启元实验室主办，其中系统赛道基于启元实验室九源软件栈的相关开源项目，通过拉动开源社区力量，一方面促进国产智能计算生态的发展，另一方面也为人工智能系统方向的学生及从业者提供一个实践平台。","2025-07-08 08:00:00","2025-08-25 08:00:00","2025-07-22 08:00:00","2025-06-22 08:00:00",1,5,true,8,[44],{"total":45,"list":50,"pageNum":44,"pageSize":45,"size":45,"startRow":44,"endRow":45,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":103,"navigateFirstPage":44,"navigateLastPage":44},[51,62,73,84,94],{"id":52,"slug":53,"title":54,"logo":55,"publicLiveEmbedUrl":14,"description":56,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":16,"startTime":58,"endTime":59,"status":22,"dashboardVisibility":60,"createdAt":58,"updatedAt":61},"019eeeff-6b00-7d55-a629-efafded3e232","summer2026","2026年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2026-06\u002F019eef7f-7816-7828-9309-79c2c61dd568.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=IlK4gAEHgOdQKi%2BErEqImwnwHWI%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。","...","2026-06-22 08:00:00","2026-10-19 08:00:00","public","2026-10-12 08:00:00",{"id":63,"slug":64,"title":65,"logo":66,"publicLiveEmbedUrl":7,"description":67,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":68,"startTime":69,"endTime":70,"status":33,"dashboardVisibility":23,"createdAt":71,"updatedAt":72},"019af3f3-e06a-7245-aa8d-37dc99a69c73","winter2025","2025年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-12\u002F019afc69-b7ca-7805-91fb-605429671c01.png?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=DobIq3bHd2IvUV57d58Ng9sOEOU%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。 \n","新华三技术有限公司","2025-12-25 08:00:00","2026-03-27 08:00:00","2025-12-06 08:00:00","2026-10-22 20:24:30",{"id":74,"slug":36,"title":75,"logo":76,"publicLiveEmbedUrl":7,"description":77,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":78,"startTime":79,"endTime":80,"status":81,"dashboardVisibility":23,"createdAt":82,"updatedAt":83},"01980342-208c-7803-b3f3-19e1d31960ba","2025年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-07\u002F0198045e-28fe-78f0-95fe-23835ce58395.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=rNrMzzj8vSqYyCH3VoDmeFh1FhM%3D","InfiniTensor大模型与人工智能系统训练营由启元实验室及清华大学 AI 系统方向团队发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营联合开源项目开发者、学术界大牛、工业界资深工程师参与授课与项目指导。课程采用「线上直播授课 + 在线答疑 + 项目实践辅导 」的方式进行，确保每位同学都能获得充分成长。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","北京积算科技有限公司","2025-07-14 08:00:00","2025-09-30 08:00:00","upcoming","2025-07-13 08:00:00","2026-10-22 20:24:58",{"id":85,"slug":86,"title":87,"logo":88,"publicLiveEmbedUrl":7,"description":89,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":90,"endTime":91,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":93},"01980cf9-a7d8-7796-ae86-0bbe05334add","winter2024","2024年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-ce23-7624-a287-9f07dd0d85f6.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。报名学员请阅读“导学”课程页的训练营介绍。","2025-01-05 08:00:00","2025-03-22 08:00:00","2025-07-15 08:00:00","2026-10-22 20:24:39",{"id":95,"slug":96,"title":97,"logo":98,"publicLiveEmbedUrl":7,"description":99,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":100,"endTime":101,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":102},"01980c20-363a-7dc3-8f5a-58a68e08dcc4","summer2024","2024年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-fbfa-788a-afcd-17fa9be74ff9.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区和高校，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过课程、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","2024-07-20 08:00:00","2024-09-29 08:00:00","2026-10-22 20:24:49",[44],{"newsDetail":105,"processedData":122},{"publishTime":106,"img":107,"keywords":108,"treeType":44,"description":109,"showStatus":44,"updateTime":110,"type":44,"title":111,"content":112,"nextArticle":113,"createTime":118,"sortOrder":6,"canonicalPath":119,"id":120,"contentType":121,"prevArticle":7},"2026-11-03 00:00:00","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F1b583de1-36b1-4350-aa54-1869afed574b.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=yehXLAVCgq1LYd6QKC6cw0j2m0k%3D","InfiniCCL,异构通信库,多卡通信,大模型训练,开源技术周","InfiniCCL 是异构统一通信库，提供一套接口适配多类硬件，补齐通信功能，分层选择传输路径，实验验证异构集群通信正确性与性能，已开源。","2026-11-02 12:34:36","九源开源技术周 03｜InfiniCCL：让不同的卡一起工作","![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F315cfc3b-9d39-4a57-b941-65ea3244ffd5.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=HiMvHVOzwZvFM6XexdtZAYh%2FJ7w%3D)\n\n\n搭建多机训练或推理环境时，我们常会遇到这样的情况：单台服务器上的卡已经跑起来了，但换一类卡、再加几台机器，通信却出了问题。有的操作不支持，有的接口没有报错，数据却不对；还有的机器接着高速网络，实际传输仍只能走普通以太网。\n\n这些问题不解决，设备再多，也很难真正一起工作。\n\n### 为什么需要 InfiniCCL？\n\n多张卡协作时，需要不断交换数据。比如把各张卡算出的梯度汇总起来，再把结果交给所有参与者。完成这些工作的，是底层通信库。\n\n不同硬件通常有各自的通信库，支持的功能和使用方式也有差别。只把接口名称统一起来，还不足以解决这些问题：应用需要的操作能不能用，结果是否正确，现有网络能不能利用起来，都需要继续处理。\n\n**InfiniCCL 是我们为此开发的统一异构通信库：** 让应用通过同一套接口使用不同平台，并在底层补齐功能、优化性能、组织跨机器的数据交换。\n\n### 让不同平台的设备协同工作\n\n实际部署中的集群，可能由不同批次、不同平台的设备组成。统一通信不应只适用于某一种卡，也不应被限定在某一种固定的节点组合上。\n\nInfiniCCL 的异构实现会在合适的情况下在节点内利用厂商通信库，在节点间通过例如 MPI 等后端交换数据。同一台机器里的卡继续发挥本平台的通信能力，不同机器之间则通过统一的方式协作。\n\n例如，我们使用四台服务器组成异构集群，每台分别搭载 **A 卡、B 卡、C 卡或 D 卡**，检验不同平台之间的通信。\n\n应用关心的是把数据发给谁、做什么操作，不必分别拼接每个平台的通信流程。通信库也可以根据具体的硬件特性进行通信优化。\n\n### 补齐底层尚不具备的功能\n\n统一接口之外，InfiniCCL 也会补齐底层通信库尚未直接提供的能力，让应用少为后端差异编写额外逻辑。\n\n以多卡数据并行训练中的平均归约梯度为例：三张卡分别给出 2、4、6，应用希望每张卡都拿到平均值 4。这是一个直接的需求，但并非所有底层通信库都原生支持。\n\nInfiniCCL 为不支持该操作的后端提供了平均归约，补齐了这一功能，并完成了不同数据类型的验证。在某厂商平台的单机实验中，我们测试覆盖了 FP16、BF16、FP32 三种精度。以下摘录 16 个逻辑设备、每个设备 128 MiB 数据的 AllReduce AVG 结果：\n\n| 数据类型 | InfiniCCL：正确求平均的耗时 | 业界参考实现 |\n| --- | ---: | --- |\n| FP16 | **1.637 ms** | 返回求和结果，未通过校验 |\n| BF16 | **1.642 ms** | 返回求和结果，未通过校验 |\n| FP32 | **1.625 ms** | 返回求和结果，未通过校验 |\n\n这组结果的关键，不是“平均比谁更快”，而是**应用要求求平均时，通信库确实完成了求平均**。业界现有实现的被测版本虽然返回成功，结果却是求和，因此不能把它的耗时当作有效的 AVG 性能。\n\n**底层有差异，不必让每个使用者都各自绕过一次。**\n\n### 多条通信路径，适应不同部署条件\n\n实际环境不总能满足理想通信路径的全部条件。InfiniCCL 的思路是提供分层的路径选择：\n- 具备条件时利用设备直连；\n- 直连受限时，仍可通过主机内存中转使用 IB\u002FRoCE；\n- 没有可用的 RDMA 链路时，再使用 TCP。\n\n这不是只有“最佳路径”和“普通网络”两个选项，而是**尽量保留中间层的可用能力，根据实际配置与链路条件选择通信方式。** 不同链路也不必采用完全相同的路径，而是可用共存。\n\n例如，有时 IB 网络本身可用，但驱动或运行环境不允许网卡直接访问显存。这时 InfiniCCL 可以退而求其次地让数据先经过主机内存，再通过 IB 传输：\n\n**卡上数据 → 主机内存 → IB 网络 → 主机内存 → 目标卡**\n\n在本次一个两类卡组合中，业界参考实现的显存注册失败，有效对比测试只能退化到使用普通以太网 TCP；而 InfiniCCL 则通过主机内存中转，继续使用 IB。\n\n两台异构服务器、每台 8 张卡的实验中，每张卡处理 1 MiB 数据，AllReduce 耗时如下：\n\n| 本环境可用的传输路径 | InfiniCCL | 业界参考实现 |\n| --- | ---: | ---: |\n| IB 主机中转 \u002F 普通以太网 TCP | 2.14 ms | 10.95 ms |\n\n其中，InfiniCCL 使用 200 Gb\u002Fs IB，业界参考实现使用 1 Gb\u002Fs 以太网。这里对比的是该环境下两者可用的通信路径，不是相同网络下的纯算法速度。\n\n为区分网络条件与实现差异，我们又补做了双方都使用普通以太网 TCP 的对照：\n\n| 同以太网补充对照 | InfiniCCL | 业界参考实现 |\n| --- | ---: | ---: |\n| 4 次独立启动的耗时中位数 | 11.68 ms | 11.75 ms |\n\n**一条路径受限，不等于通信能力只能一步降到底。**\n\n### 一组小实验\n\n先看结果是否正确。我们对三类卡的三个两节点组合和一个三节点组合，测试了数据汇总（AllReduce）、数据收集（AllGather）和点对点收发（Send\u002FRecv），覆盖多种数据大小，并逐个检查接收到的数据元素。\n\n| 测试结果 | InfiniCCL | 业界参考实现 |\n| --- | ---: | ---: |\n| 正确完成 | **40 \u002F 40** | 19 \u002F 40 |\n| 数据校验失败 | **0** | 17 |\n| 接口报错 | **0** | 4 |\n\nInfiniCCL 还通过了 **15 项补充正确性检查**，包括节点卡数不一致、进程顺序交错、输入输出复用等情况。\n\n> **实验结论:**\n> 算对结果是前提，保留更多可用路径则让已有硬件更有机会发挥作用。\n> 本次异构测试中，InfiniCCL 的 40 项结果全部通过；显存直连受限时，主机中转路径仍能利用 IB，带来了实际的通信耗时改善。\n\n上面展开的，只是 InfiniCCL 功能中的几个例子。不同通信操作、平台适配和运行时能力，还有不少细节没有在这里一一介绍。完整支持范围与使用方式可查阅项目说明。\n\n### 后续还会做些什么？\n\nInfiniCCL 仍在持续开发。后续还有很多工作会继续推进，比如：\n\n#### 1. 接入更多平台与后端\n扩大硬件与通信后端支持，并在不同设备、驱动和网络组合上持续验证，让更多已有设备能够参与协作。\n#### 2. 补齐更多功能\n\n继续进行功能的完善与合入，扩大操作、数据类型和边界场景覆盖，让统一接口背后的功能更完整。\n\n#### 3. 继续优化性能\n\n减少不必要的数据搬运，优化通信调度，探索更多计算与通信重叠的机会等。既让理想条件下的通信更快，也让条件受限时仍有实用的选择。\n\n我们希望，使用者少花一些时间处理平台差异，多把精力放在模型和应用本身。也欢迎带着实际的硬件环境与使用需求，一起参与验证和改进。\n\n## 相关链接\n\n- **开源仓库与项目说明**：\n[InfiniTensor \u002F InfiniCCL](https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL)：https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\n- **问题反馈与需求交流**：\nhttps:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\u002Fissues\n\n\n## 关注与交流\n\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F98cbd484-6aa0-485e-b92a-71437d8be9eb.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=PPPw9PxyyGYHCGCSesb959AgIM4%3D)",{"publishTime":106,"createTime":114,"canonicalPath":115,"id":116,"title":117},"2026-11-02 12:13:31","\u002Fnews\u002F464432a7-37ce-4f2c-b2ea-a8620ff0bd1b","464432a7-37ce-4f2c-b2ea-a8620ff0bd1b","2026 GAI+C 大会智能计算分论坛在京举办，多项全栈自主成果重磅发布","2026-11-02 12:19:35","\u002Fnews\u002F5feececa-0322-432d-ade9-93b3a179d7db","5feececa-0322-432d-ade9-93b3a179d7db","markdown",{"htmlContent":123,"headings":124},"\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F315cfc3b-9d39-4a57-b941-65ea3244ffd5.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=HiMvHVOzwZvFM6XexdtZAYh%2FJ7w%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>搭建多机训练或推理环境时，我们常会遇到这样的情况：单台服务器上的卡已经跑起来了，但换一类卡、再加几台机器，通信却出了问题。有的操作不支持，有的接口没有报错，数据却不对；还有的机器接着高速网络，实际传输仍只能走普通以太网。\u003C\u002Fp>\n\u003Cp>这些问题不解决，设备再多，也很难真正一起工作。\u003C\u002Fp>\n\u003Ch3 id=\"为什么需要-infiniccl\">\u003Ca class=\"anchor\" href=\"#为什么需要-infiniccl\" aria-label=\"跳转到标题：为什么需要 InfiniCCL？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>为什么需要 InfiniCCL？\u003C\u002Fh3>\u003Cp>多张卡协作时，需要不断交换数据。比如把各张卡算出的梯度汇总起来，再把结果交给所有参与者。完成这些工作的，是底层通信库。\u003C\u002Fp>\n\u003Cp>不同硬件通常有各自的通信库，支持的功能和使用方式也有差别。只把接口名称统一起来，还不足以解决这些问题：应用需要的操作能不能用，结果是否正确，现有网络能不能利用起来，都需要继续处理。\u003C\u002Fp>\n\u003Cp>\u003Cstrong>InfiniCCL 是我们为此开发的统一异构通信库：\u003C\u002Fstrong> 让应用通过同一套接口使用不同平台，并在底层补齐功能、优化性能、组织跨机器的数据交换。\u003C\u002Fp>\n\u003Ch3 id=\"让不同平台的设备协同工作\">\u003Ca class=\"anchor\" href=\"#让不同平台的设备协同工作\" aria-label=\"跳转到标题：让不同平台的设备协同工作\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>让不同平台的设备协同工作\u003C\u002Fh3>\u003Cp>实际部署中的集群，可能由不同批次、不同平台的设备组成。统一通信不应只适用于某一种卡，也不应被限定在某一种固定的节点组合上。\u003C\u002Fp>\n\u003Cp>InfiniCCL 的异构实现会在合适的情况下在节点内利用厂商通信库，在节点间通过例如 MPI 等后端交换数据。同一台机器里的卡继续发挥本平台的通信能力，不同机器之间则通过统一的方式协作。\u003C\u002Fp>\n\u003Cp>例如，我们使用四台服务器组成异构集群，每台分别搭载 \u003Cstrong>A 卡、B 卡、C 卡或 D 卡\u003C\u002Fstrong>，检验不同平台之间的通信。\u003C\u002Fp>\n\u003Cp>应用关心的是把数据发给谁、做什么操作，不必分别拼接每个平台的通信流程。通信库也可以根据具体的硬件特性进行通信优化。\u003C\u002Fp>\n\u003Ch3 id=\"补齐底层尚不具备的功能\">\u003Ca class=\"anchor\" href=\"#补齐底层尚不具备的功能\" aria-label=\"跳转到标题：补齐底层尚不具备的功能\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>补齐底层尚不具备的功能\u003C\u002Fh3>\u003Cp>统一接口之外，InfiniCCL 也会补齐底层通信库尚未直接提供的能力，让应用少为后端差异编写额外逻辑。\u003C\u002Fp>\n\u003Cp>以多卡数据并行训练中的平均归约梯度为例：三张卡分别给出 2、4、6，应用希望每张卡都拿到平均值 4。这是一个直接的需求，但并非所有底层通信库都原生支持。\u003C\u002Fp>\n\u003Cp>InfiniCCL 为不支持该操作的后端提供了平均归约，补齐了这一功能，并完成了不同数据类型的验证。在某厂商平台的单机实验中，我们测试覆盖了 FP16、BF16、FP32 三种精度。以下摘录 16 个逻辑设备、每个设备 128 MiB 数据的 AllReduce AVG 结果：\u003C\u002Fp>\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n\u003Cth>数据类型\u003C\u002Fth>\n\u003Cth align=\"right\">InfiniCCL：正确求平均的耗时\u003C\u002Fth>\n\u003Cth>业界参考实现\u003C\u002Fth>\n\u003C\u002Ftr>\n\u003C\u002Fthead>\n\u003Ctbody>\u003Ctr>\n\u003Ctd>FP16\u003C\u002Ftd>\n\u003Ctd align=\"right\">\u003Cstrong>1.637 ms\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd>返回求和结果，未通过校验\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd>BF16\u003C\u002Ftd>\n\u003Ctd align=\"right\">\u003Cstrong>1.642 ms\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd>返回求和结果，未通过校验\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd>FP32\u003C\u002Ftd>\n\u003Ctd align=\"right\">\u003Cstrong>1.625 ms\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd>返回求和结果，未通过校验\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftbody>\u003C\u002Ftable>\n\u003Cp>这组结果的关键，不是“平均比谁更快”，而是\u003Cstrong>应用要求求平均时，通信库确实完成了求平均\u003C\u002Fstrong>。业界现有实现的被测版本虽然返回成功，结果却是求和，因此不能把它的耗时当作有效的 AVG 性能。\u003C\u002Fp>\n\u003Cp>\u003Cstrong>底层有差异，不必让每个使用者都各自绕过一次。\u003C\u002Fstrong>\u003C\u002Fp>\n\u003Ch3 id=\"多条通信路径-适应不同部署条件\">\u003Ca class=\"anchor\" href=\"#多条通信路径-适应不同部署条件\" aria-label=\"跳转到标题：多条通信路径，适应不同部署条件\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>多条通信路径，适应不同部署条件\u003C\u002Fh3>\u003Cp>实际环境不总能满足理想通信路径的全部条件。InfiniCCL 的思路是提供分层的路径选择：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>具备条件时利用设备直连；\u003C\u002Fli>\n\u003Cli>直连受限时，仍可通过主机内存中转使用 IB\u002FRoCE；\u003C\u002Fli>\n\u003Cli>没有可用的 RDMA 链路时，再使用 TCP。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>这不是只有“最佳路径”和“普通网络”两个选项，而是\u003Cstrong>尽量保留中间层的可用能力，根据实际配置与链路条件选择通信方式。\u003C\u002Fstrong> 不同链路也不必采用完全相同的路径，而是可用共存。\u003C\u002Fp>\n\u003Cp>例如，有时 IB 网络本身可用，但驱动或运行环境不允许网卡直接访问显存。这时 InfiniCCL 可以退而求其次地让数据先经过主机内存，再通过 IB 传输：\u003C\u002Fp>\n\u003Cp>\u003Cstrong>卡上数据 → 主机内存 → IB 网络 → 主机内存 → 目标卡\u003C\u002Fstrong>\u003C\u002Fp>\n\u003Cp>在本次一个两类卡组合中，业界参考实现的显存注册失败，有效对比测试只能退化到使用普通以太网 TCP；而 InfiniCCL 则通过主机内存中转，继续使用 IB。\u003C\u002Fp>\n\u003Cp>两台异构服务器、每台 8 张卡的实验中，每张卡处理 1 MiB 数据，AllReduce 耗时如下：\u003C\u002Fp>\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n\u003Cth>本环境可用的传输路径\u003C\u002Fth>\n\u003Cth align=\"right\">InfiniCCL\u003C\u002Fth>\n\u003Cth align=\"right\">业界参考实现\u003C\u002Fth>\n\u003C\u002Ftr>\n\u003C\u002Fthead>\n\u003Ctbody>\u003Ctr>\n\u003Ctd>IB 主机中转 \u002F 普通以太网 TCP\u003C\u002Ftd>\n\u003Ctd align=\"right\">2.14 ms\u003C\u002Ftd>\n\u003Ctd align=\"right\">10.95 ms\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftbody>\u003C\u002Ftable>\n\u003Cp>其中，InfiniCCL 使用 200 Gb\u002Fs IB，业界参考实现使用 1 Gb\u002Fs 以太网。这里对比的是该环境下两者可用的通信路径，不是相同网络下的纯算法速度。\u003C\u002Fp>\n\u003Cp>为区分网络条件与实现差异，我们又补做了双方都使用普通以太网 TCP 的对照：\u003C\u002Fp>\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n\u003Cth>同以太网补充对照\u003C\u002Fth>\n\u003Cth align=\"right\">InfiniCCL\u003C\u002Fth>\n\u003Cth align=\"right\">业界参考实现\u003C\u002Fth>\n\u003C\u002Ftr>\n\u003C\u002Fthead>\n\u003Ctbody>\u003Ctr>\n\u003Ctd>4 次独立启动的耗时中位数\u003C\u002Ftd>\n\u003Ctd align=\"right\">11.68 ms\u003C\u002Ftd>\n\u003Ctd align=\"right\">11.75 ms\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftbody>\u003C\u002Ftable>\n\u003Cp>\u003Cstrong>一条路径受限，不等于通信能力只能一步降到底。\u003C\u002Fstrong>\u003C\u002Fp>\n\u003Ch3 id=\"一组小实验\">\u003Ca class=\"anchor\" href=\"#一组小实验\" aria-label=\"跳转到标题：一组小实验\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>一组小实验\u003C\u002Fh3>\u003Cp>先看结果是否正确。我们对三类卡的三个两节点组合和一个三节点组合，测试了数据汇总（AllReduce）、数据收集（AllGather）和点对点收发（Send\u002FRecv），覆盖多种数据大小，并逐个检查接收到的数据元素。\u003C\u002Fp>\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n\u003Cth>测试结果\u003C\u002Fth>\n\u003Cth align=\"right\">InfiniCCL\u003C\u002Fth>\n\u003Cth align=\"right\">业界参考实现\u003C\u002Fth>\n\u003C\u002Ftr>\n\u003C\u002Fthead>\n\u003Ctbody>\u003Ctr>\n\u003Ctd>正确完成\u003C\u002Ftd>\n\u003Ctd align=\"right\">\u003Cstrong>40 \u002F 40\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd align=\"right\">19 \u002F 40\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd>数据校验失败\u003C\u002Ftd>\n\u003Ctd align=\"right\">\u003Cstrong>0\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd align=\"right\">17\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd>接口报错\u003C\u002Ftd>\n\u003Ctd align=\"right\">\u003Cstrong>0\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd align=\"right\">4\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftbody>\u003C\u002Ftable>\n\u003Cp>InfiniCCL 还通过了 \u003Cstrong>15 项补充正确性检查\u003C\u002Fstrong>，包括节点卡数不一致、进程顺序交错、输入输出复用等情况。\u003C\u002Fp>\n\u003Cblockquote>\n\u003Cp>\u003Cstrong>实验结论:\u003C\u002Fstrong>\u003Cbr>算对结果是前提，保留更多可用路径则让已有硬件更有机会发挥作用。\u003Cbr>本次异构测试中，InfiniCCL 的 40 项结果全部通过；显存直连受限时，主机中转路径仍能利用 IB，带来了实际的通信耗时改善。\u003C\u002Fp>\n\u003C\u002Fblockquote>\n\u003Cp>上面展开的，只是 InfiniCCL 功能中的几个例子。不同通信操作、平台适配和运行时能力，还有不少细节没有在这里一一介绍。完整支持范围与使用方式可查阅项目说明。\u003C\u002Fp>\n\u003Ch3 id=\"后续还会做些什么\">\u003Ca class=\"anchor\" href=\"#后续还会做些什么\" aria-label=\"跳转到标题：后续还会做些什么？\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>后续还会做些什么？\u003C\u002Fh3>\u003Cp>InfiniCCL 仍在持续开发。后续还有很多工作会继续推进，比如：\u003C\u002Fp>\n\u003Ch4 id=\"1-接入更多平台与后端\">\u003Ca class=\"anchor\" href=\"#1-接入更多平台与后端\" aria-label=\"跳转到标题：1. 接入更多平台与后端\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>1. 接入更多平台与后端\u003C\u002Fh4>\u003Cp>扩大硬件与通信后端支持，并在不同设备、驱动和网络组合上持续验证，让更多已有设备能够参与协作。\u003C\u002Fp>\n\u003Ch4 id=\"2-补齐更多功能\">\u003Ca class=\"anchor\" href=\"#2-补齐更多功能\" aria-label=\"跳转到标题：2. 补齐更多功能\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>2. 补齐更多功能\u003C\u002Fh4>\u003Cp>继续进行功能的完善与合入，扩大操作、数据类型和边界场景覆盖，让统一接口背后的功能更完整。\u003C\u002Fp>\n\u003Ch4 id=\"3-继续优化性能\">\u003Ca class=\"anchor\" href=\"#3-继续优化性能\" aria-label=\"跳转到标题：3. 继续优化性能\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>3. 继续优化性能\u003C\u002Fh4>\u003Cp>减少不必要的数据搬运，优化通信调度，探索更多计算与通信重叠的机会等。既让理想条件下的通信更快，也让条件受限时仍有实用的选择。\u003C\u002Fp>\n\u003Cp>我们希望，使用者少花一些时间处理平台差异，多把精力放在模型和应用本身。也欢迎带着实际的硬件环境与使用需求，一起参与验证和改进。\u003C\u002Fp>\n\u003Ch2 id=\"相关链接\">\u003Ca class=\"anchor\" href=\"#相关链接\" aria-label=\"跳转到标题：相关链接\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>相关链接\u003C\u002Fh2>\u003Cul>\n\u003Cli>\u003Cstrong>开源仓库与项目说明\u003C\u002Fstrong>：\u003Cbr>\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\">InfiniTensor \u002F InfiniCCL\u003C\u002Fa>：\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\">https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\u003C\u002Fa>\u003C\u002Fli>\n\u003Cli>\u003Cstrong>问题反馈与需求交流\u003C\u002Fstrong>：\u003Cbr>\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\u002Fissues\">https:\u002F\u002Fgithub.com\u002FInfiniTensor\u002FInfiniCCL\u002Fissues\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2 id=\"关注与交流\">\u003Ca class=\"anchor\" href=\"#关注与交流\" aria-label=\"跳转到标题：关注与交流\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>关注与交流\u003C\u002Fh2>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F98cbd484-6aa0-485e-b92a-71437d8be9eb.jpg?Expires=1793615429&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=PPPw9PxyyGYHCGCSesb959AgIM4%3D\" alt=\"\">\u003C\u002Fp>\n",[125,128,130,132,135,137,140,144,147,150,153],{"id":126,"text":127,"level":9},"为什么需要-infiniccl","为什么需要 InfiniCCL？",{"id":129,"text":129,"level":9},"让不同平台的设备协同工作",{"id":131,"text":131,"level":9},"补齐底层尚不具备的功能",{"id":133,"text":134,"level":9},"多条通信路径-适应不同部署条件","多条通信路径，适应不同部署条件",{"id":136,"text":136,"level":9},"一组小实验",{"id":138,"text":139,"level":9},"后续还会做些什么","后续还会做些什么？",{"id":141,"text":142,"level":143},"1-接入更多平台与后端","1. 接入更多平台与后端",4,{"id":145,"text":146,"level":143},"2-补齐更多功能","2. 补齐更多功能",{"id":148,"text":149,"level":143},"3-继续优化性能","3. 继续优化性能",{"id":151,"text":151,"level":152},"相关链接",2,{"id":154,"text":154,"level":152},"关注与交流"]