[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"site-home-live-entry-setting":3,"site-header-contests":8,"site-header-camps":49,"study-material-detail-study-63":104},{"enabled":4,"title":5,"statusText":5,"buttonText":5,"campSlug":5,"stage":6,"classroomId":7,"hasClassroom":4},false,"",0,null,{"total":9,"list":10,"pageNum":44,"pageSize":45,"size":9,"startRow":44,"endRow":9,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":48,"navigateFirstPage":44,"navigateLastPage":44},3,[11,25,35],{"slug":12,"title":13,"logo":7,"liveUrl":14,"prize":15,"sponsor":16,"description":17,"organizer":18,"startTime":19,"endTime":20,"registrationDeadline":21,"status":22,"dashboardVisibility":23,"createdAt":24},"spring2026","2026春季启元人工智能大赛","https:\u002F\u002Fwww.bilibili.com\u002Fblackboard\u002Flive\u002Flive-activity-player.html?cid=1822703816&quality=0","200,000","麒麟软件有限公司","“2026春季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。\n各参赛选手需在规定的比赛周期内，依据赛事规则选定赛题并完成相应挑战，优胜者将共同角逐总额20万元的赛事奖金池，并且还将有机会获得实习和知名企业优质岗位内推资格。","启元实验室","2026-04-19 16:00:00","2026-07-13 16:00:00","2026-06-16 16:00:00","ongoing","private","2026-04-16 08:00:00",{"slug":26,"title":27,"logo":7,"liveUrl":14,"prize":28,"sponsor":7,"description":29,"organizer":18,"startTime":30,"endTime":31,"registrationDeadline":32,"status":33,"dashboardVisibility":23,"createdAt":34},"autumn2025","2025秋季启元人工智能大赛","150,000","“2025秋季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。","2025-11-08 08:00:00","2026-01-13 08:00:00","2025-12-30 08:00:00","ended","2025-11-03 08:00:00",{"slug":36,"title":37,"logo":7,"liveUrl":14,"prize":38,"sponsor":7,"description":39,"organizer":18,"startTime":40,"endTime":41,"registrationDeadline":42,"status":33,"dashboardVisibility":23,"createdAt":43},"summer2025","启元人工智能大赛(系统方向)","80,000","启元人工智能大赛由启元实验室主办，其中系统赛道基于启元实验室九源软件栈的相关开源项目，通过拉动开源社区力量，一方面促进国产智能计算生态的发展，另一方面也为人工智能系统方向的学生及从业者提供一个实践平台。","2025-07-08 08:00:00","2025-08-25 08:00:00","2025-07-22 08:00:00","2025-06-22 08:00:00",1,5,true,8,[44],{"total":45,"list":50,"pageNum":44,"pageSize":45,"size":45,"startRow":44,"endRow":45,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":103,"navigateFirstPage":44,"navigateLastPage":44},[51,62,73,84,94],{"id":52,"slug":53,"title":54,"logo":55,"publicLiveEmbedUrl":14,"description":56,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":16,"startTime":58,"endTime":59,"status":22,"dashboardVisibility":60,"createdAt":58,"updatedAt":61},"019eeeff-6b00-7d55-a629-efafded3e232","summer2026","2026年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2026-06\u002F019eef7f-7816-7828-9309-79c2c61dd568.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=nCcM9ECgK5PlmraUwj%2BH%2F1S%2BELk%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。","...","2026-06-22 08:00:00","2026-10-19 08:00:00","public","2026-10-12 08:00:00",{"id":63,"slug":64,"title":65,"logo":66,"publicLiveEmbedUrl":7,"description":67,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":68,"startTime":69,"endTime":70,"status":33,"dashboardVisibility":23,"createdAt":71,"updatedAt":72},"019af3f3-e06a-7245-aa8d-37dc99a69c73","winter2025","2025年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-12\u002F019afc69-b7ca-7805-91fb-605429671c01.png?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=kRi1yuIH5NG2docsx57MXWlzm1k%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。 \n","新华三技术有限公司","2025-12-25 08:00:00","2026-03-27 08:00:00","2025-12-06 08:00:00","2026-10-22 20:24:30",{"id":74,"slug":36,"title":75,"logo":76,"publicLiveEmbedUrl":7,"description":77,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":78,"startTime":79,"endTime":80,"status":81,"dashboardVisibility":23,"createdAt":82,"updatedAt":83},"01980342-208c-7803-b3f3-19e1d31960ba","2025年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-07\u002F0198045e-28fe-78f0-95fe-23835ce58395.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=eT9ZAOmPWlOldw%2FMHXc0X0x2%2Bhg%3D","InfiniTensor大模型与人工智能系统训练营由启元实验室及清华大学 AI 系统方向团队发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营联合开源项目开发者、学术界大牛、工业界资深工程师参与授课与项目指导。课程采用「线上直播授课 + 在线答疑 + 项目实践辅导 」的方式进行，确保每位同学都能获得充分成长。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","北京积算科技有限公司","2025-07-14 08:00:00","2025-09-30 08:00:00","upcoming","2025-07-13 08:00:00","2026-10-22 20:24:58",{"id":85,"slug":86,"title":87,"logo":88,"publicLiveEmbedUrl":7,"description":89,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":90,"endTime":91,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":93},"01980cf9-a7d8-7796-ae86-0bbe05334add","winter2024","2024年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-ce23-7624-a287-9f07dd0d85f6.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。报名学员请阅读“导学”课程页的训练营介绍。","2025-01-05 08:00:00","2025-03-22 08:00:00","2025-07-15 08:00:00","2026-10-22 20:24:39",{"id":95,"slug":96,"title":97,"logo":98,"publicLiveEmbedUrl":7,"description":99,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":100,"endTime":101,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":102},"01980c20-363a-7dc3-8f5a-58a68e08dcc4","summer2024","2024年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-fbfa-788a-afcd-17fa9be74ff9.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区和高校，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过课程、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","2024-07-20 08:00:00","2024-09-29 08:00:00","2026-10-22 20:24:49",[44],{"currentItem":105,"processedData":125},{"img":106,"keywords":107,"treeType":44,"description":108,"showStatus":44,"updateTime":109,"type":110,"title":111,"content":112,"nextArticle":113,"createTime":109,"sortOrder":117,"canonicalPath":118,"id":119,"contentType":120,"prevArticle":121},"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_fm.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=OimTdGmKy9RRj1kJumSC%2BRu5KtI%3D","分布式通信,NVLink,RDMA,算力集群,Spine-Leaf 拓扑","分布式训练推理前置基础课，区分通用与 AI 高性能通信，详解 PCIe、NVLink、RDMA、集群服务器与 Spine-Leaf 拓扑，搭建算力底层通信知识体系。","2026-10-22 20:38:11",2,"2026 夏季 InfiniTensor 训练营通信与并行 1：《互联、集群与通信》","![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw01.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Sv1YsHeYuAJNTP0%2Bu0Nlt4ZUntI%3D)\r\n\r\n\r\n\u003Cspan style=\"font-size:12px;color:#555;\">7 月 15 日，2026 夏季 InfiniTensor 训练营通信与并行方向第一课《互联、集群与通信》开讲。\r\n本节课程为分布式训练、分布式推理前置基础课，完整梳理 AI 算力集群硬件互联、单机\u002F多机通信底层硬件、协议、拓扑全套知识，搭建高性能并行通信底层认知框架。\u003C\u002Fspan>\r\n\r\n## 课程定位与前置依赖\r\n### 系列课程整体规划\r\n通信与并行方向基础课程共 2 节，搭配 1 节行业合作实战课；本节课为系列开篇，聚焦硬件互联与底层通信原理，下一节讲解分布式训练\u002F推理通信算子与优化策略。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw02.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=USNkDaT3pzSvIntL4eTeVpBEVnU%3D)\r\n\r\n\r\n### 课程核心目标\r\n区分通用互联网通信与 AI\u002FHPC 高性能通信差异，拆解单机 GPU 互联、跨机集群通信硬件链路，掌握 PCIe、NVLink、RDMA、IB\u002FRoCE 等核心通信技术，看懂算力集群网络拓扑。\r\n\r\n## AI 领域通信核心需求\r\n### 为什么必须分布式通信\r\n1. **大模型规模带来硬件瓶颈**\r\n大模型参数量、训练数据规模持续膨胀，单台服务器内存、算力无法承载完整模型与数据集，必须采用多卡\u002F多机分布式拆分计算：\r\n- 单机多卡：同一服务器多张 GPU 分担计算与参数存储\r\n- 多机集群：多台服务器协同完成超大模型训练、批量推理\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw03.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=aMxms4zmbHJQDfQLT2Z4c6eB1jg%3D)\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw04.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=SM89ktcGNIrJ9Ug5tJZ2YKInaS8%3D)\r\n\r\n2. **MoE 混合专家模型特殊通信负载**\r\nMoE 架构存在路由分发、专家结果聚合逻辑，会产生大量 All-to-All 类通信，通信带宽、延迟直接决定模型吞吐，对底层互联硬件提出极高要求。\r\n3. **边缘计算**\r\n云端、边缘设备协同训练\u002F推理，存在跨地域异构设备数据交互，兼顾通用网络与轻量化高性能通信需求。\r\n\r\n### 通用通信 vs AI\u002FHPC 高性能通信\r\n1. **通用互联网通信**：主体为 CPU 跨主机传输，追求远距离兼容，延迟、带宽优先级低\r\n2. **AI 高性能通信**：核心主体为 GPU 之间数据交互，分为单机内 GPU 通信、跨机集群通信，极致追求低延迟、高带宽、零拷贝，是训练\u002F推理性能核心瓶颈\r\n\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw05.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=xvnsxo9HnvLGjybUkwrtB307f90%3D)\r\n\r\n## PCIe 总线体系\r\n### PCIe 核心定义\r\nPCIe（Peripheral Component Interconnect Express）现代服务器标准 IO 点对点串行总线，替代传统共享式 PCI 总线，CPU、GPU、网卡等外设统一通过 PCIe 挂载。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw06.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=y8EL24DnURRjpr9YRqLik4KzBag%3D)\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw07.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=70wxlcQc3IJl3bstl8ue%2FYl0HlA%3D)\r\n\r\n\r\n### PCIe 四大核心特性\r\n1. **点对点独立通道**：各外设拥有专属总线，无总线资源抢占，避免多设备传输冲突\r\n2. **Full-duplex 全双工双向传输**：同一通道可同时收发数据，吞吐翻倍\r\n3. **串行总线**：规避并行总线高频电磁干扰，支持更高传输频率\r\n4. **多通道扩展（x1\u002Fx4\u002Fx8\u002Fx16）**：显卡、高速网卡标配 x16 通道，低速外设使用窄通道节省插槽\r\n\r\n### PCIe 速率换算逻辑\r\n- **GT\u002Fs**：物理层单通道原始传输速率\r\n- **编码损耗**：PCIe 3.0\u002F4.0 采用 128b\u002F130b 编码，存在固定带宽损耗\r\n- **实际有效带宽** = 通道数 × 单通道速率 × 编码系数 ÷ 8（bit 转 Byte）\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw08.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=BM27I0miR%2BkKHAJGEMRhOS5qHSk%3D)\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw09.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=WqBBiT5p3PImNCM08Ag2v1sU7Lk%3D)\r\n\r\n### 传统 GPU 通信痛点：CPU 内存中转\r\n原生 PCIe 架构下 GPU 直传数据流程：GPU0 → CPU 内存 → GPU1，存在两大损耗：\r\n- CPU 参与拷贝占用计算资源\r\n- 主机内存额外读写，增加延迟与带宽消耗\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw10.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=ZCBzKeq4gENExi0d2HNzmjm3dj8%3D)\r\n\r\n#### 解决方法：\r\n1. **DMA**（直接内存访问）\r\n专用硬件传输引擎，CPU 仅下发传输指令，数据搬运全程无需 CPU 持续参与，解放 CPU 算力。\r\n\r\n2. **P2P**（Peer-to-Peer）\r\n硬件支持时，GPU 可绕过主机内存，直接互相访问显存，消除主机内存中转开销。\r\n\r\n### PCIe Switch 交换芯片\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw11.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=yLjuIpIp3NRXgsJW50iVqg5hvAE%3D)\r\n\r\n解决主板 PCIe 通道数量不足问题，树状分层拓展外设挂载能力，不同 GPU 经过 Switch 的传输路径长短直接影响通信延迟。\r\n\r\n### 多 CPU 服务器内存架构\r\n1. **UMA（统一内存访问）**：多 CPU 共享内存池，跨 CPU 访问延迟低，拓展能力弱\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw12.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Cy6W2LOjM1vfEchZ7CJPpJwTI4c%3D)\r\n\r\n2. **NUMA（非统一内存访问）**：各 CPU 配套独立内存，跨 CPU 访问开销大；工程通过 GPU-CPU 亲和绑定优化延迟\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw13.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=zUV8P2p5CkWHjKe%2FSTVdfrEND%2BE%3D)\r\n\r\n### GPU 互联拓扑查看工具\r\n英伟达 `nvidia-smi topo -m`，输出 GPU 间链路标识：\r\n- **PIX**：同 PCIe Switch 短链路，延迟极低\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw14.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=JfdA6QCvftdD%2Bczfe1s7jw7pgrU%3D)\r\n\r\n## NVLink 高速互联\r\n### NVLink 定位\r\n英伟达专用 GPU 直连网状互联硬件，独立于 PCIe 总线，专为多卡高性能并行设计。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw15.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=jhkhDU%2BKFY4OW1rjCUHDe7nJXYo%3D)\r\n\r\n### 核心优势\r\n- **拓扑**：NVLink 提供 GPU 间高速点对点互联，具体连接方式取决于服务器与 GPU 型号；配合 NVSwitch 时，可构建高带宽的 GPU 全互联通信域\r\n- **带宽**：NVLink 4 带宽远超 PCIe 5.0 x16，大幅降低多卡同步、参数拷贝延迟\r\n- **配套 GPU P2P 增强**：支持跨卡显存直接读写，适配大规模张量并行、流水线并行\r\n\r\n带宽量级对比：\r\n- PCIe 5.0 x16：双向合计约 126 GB\u002Fs\r\n- NVLink 4.0：约 900 GB\u002Fs\r\n深度学习多卡通信优先使用 NVLink 链路，速度优势显著。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw16.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=LrsOhAw9vjQVibwTjYMdwaUDnU8%3D)\r\n\r\n## 跨机通信与网卡\r\n### NIC 网卡基础\r\nNIC（Network Interface Card）网络接口卡，职责是接入计算机网络，发送和接收数据；通过 PCIe 总线挂载到系统中。\r\n\r\n### 传统跨机 GPU 通信流程\r\nGPU 数据 → CPU 内存 → CPU 协议栈处理 → NIC → 网络 → 对端 NIC → 对端 CPU → 对端 GPU\r\n\r\n核心瓶颈：CPU 必须参与网络协议栈处理，即使支持 DMA\u002FP2P 也无法绕过 CPU 协议栈开销。\r\n\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw17.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=rzDjsRDlqiXu8WFYc7nIWnOVxbE%3D)\r\n\r\n\r\n## RDMA 远程直接内存访问\r\n### RDMA 核心定义\r\nRDMA（Remote Direct Memory Access）将 DMA 技术拓展到机器之间，在完成连接建立和内存注册后，数据传输关键路径可绕过传统内核网络协议栈，从而降低 CPU 开销和通信延迟。\r\n\r\n### RDMA 三大技术特点\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw18.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=esE%2BzWoE6Iupl1btt1yvtDOFisk%3D)\r\n\r\n1. **零拷贝（Zero Copy）**：数据可在本端和远端已注册的内存区域之间直接传输\r\n2. **内核旁路（Kernel Bypass）**：用户态驱动直接操作网卡，无需切换内核态\r\n3. **GPU Direct RDMA**：英伟达 GPU 跨机 P2P 技术拓展\r\n\r\n### RDMA 三大实现方式\r\n1. **InfiniBand（IB）**\r\n- 原生为 RDMA 设计的专用网络技术，可构建低丢包、低延迟的无损网络环境\r\n- 延迟最低，性能最优\r\n- 需要专用 HCA 网卡与 IB 交换机，成本高，无法复用以太网\r\n- 广泛应用于高端 HPC、AI 集群数据中心\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw19.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=0zogXzcZZzy2b9F8wYnRBP%2F3aE4%3D)\r\n\r\n2. **RoCE（RDMA over Converged Ethernet）**\r\n- 复用以太网基础设施，基于 UDP\u002FIP\r\n- RoCE v2 为当前主流，支持 DCQCN 拥塞控制\r\n- 延迟略高于 IB，造价远低于 IB\r\n- 广泛应用于 HPC 与 AI 数据中心\r\n3. **iWARP**\r\n- 基于 TCP\u002FIP，无需专用交换机\r\n- 完全复用以太网，造价低\r\n- TCP 协议机制导致延迟较高，AI\u002FHPC 领域应用较少\r\n## 数据中心与服务器\r\n### 三类数据中心\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw20.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=H0xURKe7ekDr735daZi%2Fu9J8XAA%3D)\r\n\r\n1. **通算**：以 CPU 为主，传统通用计算集群，注重灵活通用、高兼容\r\n2. **超算**：CPU + GPU 加速器联合构建，解决科学\u002F工程级复杂问题，注重高性能并行与高精度\r\n3. **智算**：以 GPU 和 ASIC 专用加速器为主，聚焦 AI\u002F机器学习任务，注重 AI 并行计算与高效数据处理，倾向低精度量化\r\n\r\n### 三类服务器形态\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw21.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=2TkoSQCqSjdZCLxZTU7Es9mD754%3D)\r\n\r\n1. **塔式服务器**：类似立式 PC，成本低部署简单，不适合大规模拓展\r\n2. **机架式服务器**：空间利用率高，易于拓展，集中管理维护，GPU 服务器主流形态\r\n3. **刀片服务器**：密度极高，共享基础设施，热密度极高，CPU 场景应用较多\r\n\r\n### 散热类型\r\n1. **风冷**：成本低维护方便，散热能力有限，噪音大，空间利用率低\r\n2. **液冷**\r\n   - 冷板式液冷：热源安装冷板，冷却液循环带走热量，当前主流商用方案\r\n   - 沉浸式液冷：整机浸入绝缘冷却液，散热效率极高但部署维护复杂成本高\r\n\r\n### 算力拓展方式\r\n1. **Scale Up（垂直扩展）**：增加单节点算力资源，受硬件物理上限约束\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw22.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=OjvrDGSEnOgfakPo1QVq4ZZFYBc%3D)\r\n\r\n2. **Scale Out（水平扩展）**：增加更多节点，核心挑战是节点间通信延迟，需搭配 IB 等高速网络\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw23.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=xnKCrbe6O%2FyFbjR%2FhDxjJ%2BLxWAw%3D)\r\n\r\n3. **Scale Across（跨域扩展）**：跨多数据中心地理扩展，延迟、一致性、异构兼容问题多，实际应用较少\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw24.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=AhyWyc4n0jSquCt1v%2BbwDjV1UYY%3D)\r\n\r\n\r\n4. **超节点**（Super Node）\r\n高度集成的高性能计算单元，通过高速互联技术形成 HPD（高速互联域），配备统一内存编址（UMA），解决通信瓶颈与算力协同效率问题，代表如英伟达 GB200 NVL72。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw25.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=37pJkOJkk9McupyXCLs2rXRmiqo%3D)\r\n\r\n\r\n## 网络拓扑结构\r\n### 传统三层树状结构\r\n- **接入层**：ToR 交换机连接服务器\r\n- **汇聚层**：汇聚接入流量，执行安全路由策略\r\n- **核心层**：高速转发，连接外部网络\r\n适合南北向流量为主的传统数据中心，东西向流量效率低，横向拓展性差。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw26.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=HuNhTtwwJHEph6BjCDsC9bSLvcU%3D)\r\n\r\n### Spine-Leaf 叶脊结构\r\n扁平化两层架构：上层 Spine、下层 Leaf，所有 Leaf 与 Spine 全互联，通过冗余路径消除带宽瓶颈。\r\n\r\n适配 AI\u002F云计算东西向流量为主的场景，是现代数据中心主流架构。\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw27.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=vH10RUIv7CdmysdN%2B68uTugL0sM%3D)\r\n\r\n### 其他专用拓扑\r\n- **Torus**：网络直径小、性价比高，依赖有效拥塞控制与自适应路由\r\n- **Fat-Tree**：胖树结构，高带宽冗余\r\n- **Torus 高维拓扑**：临近性强的科学计算应用友好\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw28.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=jWyv4tmKoSf3GHKGXzKbLkn5%2BAs%3D)\r\n\r\n## 通信发展前沿趋势\r\n### 算网协同\r\n网络感知计算需求，动态调整自身资源，以最优方式服务计算；在数据中心、云边端一体化、算力网络架构中至关重要。\r\n\r\n### 在网计算\r\n网络设备具备数据处理能力，将部分计算任务卸载到网络设备执行，类似智能网卡与普通网卡的区别，让网络本身参与计算。\r\n\r\n\r\n\r\n## 加入训练营\r\n📺**完整课程内容，请观看直播或查看课程回放：**\r\n**InfiniTensor 官网**： https:\u002F\u002Fwww.infinitensor.com\r\n\r\n**B站直播**： InfiniTensor 官方直播间\r\n\r\n**视频号直播**： InfiniTensor 视频号预约\r\n\r\n**答疑交流**： 训练营官方社群⬇️\r\n\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002F2026-xjq.png?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=j5LLQWJGl7lfBWs0J77BjrIj89Q%3D)\r\n\r\n## 关注与交流\r\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002Fnews_ewm02.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=5J3BUGj%2FbNiiRCskyxeUoMVLor4%3D)",{"publishTime":7,"createTime":109,"canonicalPath":114,"id":115,"title":116},"\u002Fstudy-material\u002Fstudy-62","study-62","2026 夏季 InfiniTensor 训练营 AI 编译器 1：《AI 编译器概述》",46,"\u002Fstudy-material\u002Fstudy-63","study-63","markdown",{"publishTime":7,"createTime":109,"canonicalPath":122,"id":123,"title":124},"\u002Fstudy-material\u002Fstudy-64","study-64","2026 夏季 InfiniTensor 训练营推理引擎 2：《大模型原理与结构》",{"htmlContent":126,"headings":127},"\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw01.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Sv1YsHeYuAJNTP0%2Bu0Nlt4ZUntI%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>\u003Cspan style=\"font-size:12px;color:#555;\">7 月 15 日，2026 夏季 InfiniTensor 训练营通信与并行方向第一课《互联、集群与通信》开讲。\u003Cbr>本节课程为分布式训练、分布式推理前置基础课，完整梳理 AI 算力集群硬件互联、单机\u002F多机通信底层硬件、协议、拓扑全套知识，搭建高性能并行通信底层认知框架。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Ch2 id=\"课程定位与前置依赖\">\u003Ca class=\"anchor\" href=\"#课程定位与前置依赖\" aria-label=\"跳转到标题：课程定位与前置依赖\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>课程定位与前置依赖\u003C\u002Fh2>\u003Ch3 id=\"系列课程整体规划\">\u003Ca class=\"anchor\" href=\"#系列课程整体规划\" aria-label=\"跳转到标题：系列课程整体规划\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>系列课程整体规划\u003C\u002Fh3>\u003Cp>通信与并行方向基础课程共 2 节，搭配 1 节行业合作实战课；本节课为系列开篇，聚焦硬件互联与底层通信原理，下一节讲解分布式训练\u002F推理通信算子与优化策略。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw02.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=USNkDaT3pzSvIntL4eTeVpBEVnU%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"课程核心目标\">\u003Ca class=\"anchor\" href=\"#课程核心目标\" aria-label=\"跳转到标题：课程核心目标\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>课程核心目标\u003C\u002Fh3>\u003Cp>区分通用互联网通信与 AI\u002FHPC 高性能通信差异，拆解单机 GPU 互联、跨机集群通信硬件链路，掌握 PCIe、NVLink、RDMA、IB\u002FRoCE 等核心通信技术，看懂算力集群网络拓扑。\u003C\u002Fp>\n\u003Ch2 id=\"ai-领域通信核心需求\">\u003Ca class=\"anchor\" href=\"#ai-领域通信核心需求\" aria-label=\"跳转到标题：AI 领域通信核心需求\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>AI 领域通信核心需求\u003C\u002Fh2>\u003Ch3 id=\"为什么必须分布式通信\">\u003Ca class=\"anchor\" href=\"#为什么必须分布式通信\" aria-label=\"跳转到标题：为什么必须分布式通信\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>为什么必须分布式通信\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>大模型规模带来硬件瓶颈\u003C\u002Fstrong>\u003Cbr>大模型参数量、训练数据规模持续膨胀，单台服务器内存、算力无法承载完整模型与数据集，必须采用多卡\u002F多机分布式拆分计算：\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cul>\n\u003Cli>单机多卡：同一服务器多张 GPU 分担计算与参数存储\u003C\u002Fli>\n\u003Cli>多机集群：多台服务器协同完成超大模型训练、批量推理\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw03.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=aMxms4zmbHJQDfQLT2Z4c6eB1jg%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw04.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=SM89ktcGNIrJ9Ug5tJZ2YKInaS8%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col start=\"2\">\n\u003Cli>\u003Cstrong>MoE 混合专家模型特殊通信负载\u003C\u002Fstrong>\u003Cbr>MoE 架构存在路由分发、专家结果聚合逻辑，会产生大量 All-to-All 类通信，通信带宽、延迟直接决定模型吞吐，对底层互联硬件提出极高要求。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>边缘计算\u003C\u002Fstrong>\u003Cbr>云端、边缘设备协同训练\u002F推理，存在跨地域异构设备数据交互，兼顾通用网络与轻量化高性能通信需求。\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"通用通信-vs-ai-hpc-高性能通信\">\u003Ca class=\"anchor\" href=\"#通用通信-vs-ai-hpc-高性能通信\" aria-label=\"跳转到标题：通用通信 vs AI\u002FHPC 高性能通信\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>通用通信 vs AI\u002FHPC 高性能通信\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>通用互联网通信\u003C\u002Fstrong>：主体为 CPU 跨主机传输，追求远距离兼容，延迟、带宽优先级低\u003C\u002Fli>\n\u003Cli>\u003Cstrong>AI 高性能通信\u003C\u002Fstrong>：核心主体为 GPU 之间数据交互，分为单机内 GPU 通信、跨机集群通信，极致追求低延迟、高带宽、零拷贝，是训练\u002F推理性能核心瓶颈\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw05.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=xvnsxo9HnvLGjybUkwrtB307f90%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"pcie-总线体系\">\u003Ca class=\"anchor\" href=\"#pcie-总线体系\" aria-label=\"跳转到标题：PCIe 总线体系\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>PCIe 总线体系\u003C\u002Fh2>\u003Ch3 id=\"pcie-核心定义\">\u003Ca class=\"anchor\" href=\"#pcie-核心定义\" aria-label=\"跳转到标题：PCIe 核心定义\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>PCIe 核心定义\u003C\u002Fh3>\u003Cp>PCIe（Peripheral Component Interconnect Express）现代服务器标准 IO 点对点串行总线，替代传统共享式 PCI 总线，CPU、GPU、网卡等外设统一通过 PCIe 挂载。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw06.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=y8EL24DnURRjpr9YRqLik4KzBag%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw07.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=70wxlcQc3IJl3bstl8ue%2FYl0HlA%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"pcie-四大核心特性\">\u003Ca class=\"anchor\" href=\"#pcie-四大核心特性\" aria-label=\"跳转到标题：PCIe 四大核心特性\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>PCIe 四大核心特性\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>点对点独立通道\u003C\u002Fstrong>：各外设拥有专属总线，无总线资源抢占，避免多设备传输冲突\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Full-duplex 全双工双向传输\u003C\u002Fstrong>：同一通道可同时收发数据，吞吐翻倍\u003C\u002Fli>\n\u003Cli>\u003Cstrong>串行总线\u003C\u002Fstrong>：规避并行总线高频电磁干扰，支持更高传输频率\u003C\u002Fli>\n\u003Cli>\u003Cstrong>多通道扩展（x1\u002Fx4\u002Fx8\u002Fx16）\u003C\u002Fstrong>：显卡、高速网卡标配 x16 通道，低速外设使用窄通道节省插槽\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"pcie-速率换算逻辑\">\u003Ca class=\"anchor\" href=\"#pcie-速率换算逻辑\" aria-label=\"跳转到标题：PCIe 速率换算逻辑\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>PCIe 速率换算逻辑\u003C\u002Fh3>\u003Cul>\n\u003Cli>\u003Cstrong>GT\u002Fs\u003C\u002Fstrong>：物理层单通道原始传输速率\u003C\u002Fli>\n\u003Cli>\u003Cstrong>编码损耗\u003C\u002Fstrong>：PCIe 3.0\u002F4.0 采用 128b\u002F130b 编码，存在固定带宽损耗\u003C\u002Fli>\n\u003Cli>\u003Cstrong>实际有效带宽\u003C\u002Fstrong> = 通道数 × 单通道速率 × 编码系数 ÷ 8（bit 转 Byte）\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw08.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=BM27I0miR%2BkKHAJGEMRhOS5qHSk%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw09.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=WqBBiT5p3PImNCM08Ag2v1sU7Lk%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"传统-gpu-通信痛点-cpu-内存中转\">\u003Ca class=\"anchor\" href=\"#传统-gpu-通信痛点-cpu-内存中转\" aria-label=\"跳转到标题：传统 GPU 通信痛点：CPU 内存中转\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>传统 GPU 通信痛点：CPU 内存中转\u003C\u002Fh3>\u003Cp>原生 PCIe 架构下 GPU 直传数据流程：GPU0 → CPU 内存 → GPU1，存在两大损耗：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>CPU 参与拷贝占用计算资源\u003C\u002Fli>\n\u003Cli>主机内存额外读写，增加延迟与带宽消耗\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw10.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=ZCBzKeq4gENExi0d2HNzmjm3dj8%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch4 id=\"解决方法\">\u003Ca class=\"anchor\" href=\"#解决方法\" aria-label=\"跳转到标题：解决方法：\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>解决方法：\u003C\u002Fh4>\u003Col>\n\u003Cli>\u003Cp>\u003Cstrong>DMA\u003C\u002Fstrong>（直接内存访问）\u003Cbr>专用硬件传输引擎，CPU 仅下发传输指令，数据搬运全程无需 CPU 持续参与，解放 CPU 算力。\u003C\u002Fp>\n\u003C\u002Fli>\n\u003Cli>\u003Cp>\u003Cstrong>P2P\u003C\u002Fstrong>（Peer-to-Peer）\u003Cbr>硬件支持时，GPU 可绕过主机内存，直接互相访问显存，消除主机内存中转开销。\u003C\u002Fp>\n\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"pcie-switch-交换芯片\">\u003Ca class=\"anchor\" href=\"#pcie-switch-交换芯片\" aria-label=\"跳转到标题：PCIe Switch 交换芯片\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>PCIe Switch 交换芯片\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw11.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=yLjuIpIp3NRXgsJW50iVqg5hvAE%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>解决主板 PCIe 通道数量不足问题，树状分层拓展外设挂载能力，不同 GPU 经过 Switch 的传输路径长短直接影响通信延迟。\u003C\u002Fp>\n\u003Ch3 id=\"多-cpu-服务器内存架构\">\u003Ca class=\"anchor\" href=\"#多-cpu-服务器内存架构\" aria-label=\"跳转到标题：多 CPU 服务器内存架构\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>多 CPU 服务器内存架构\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>UMA（统一内存访问）\u003C\u002Fstrong>：多 CPU 共享内存池，跨 CPU 访问延迟低，拓展能力弱\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw12.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=Cy6W2LOjM1vfEchZ7CJPpJwTI4c%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col start=\"2\">\n\u003Cli>\u003Cstrong>NUMA（非统一内存访问）\u003C\u002Fstrong>：各 CPU 配套独立内存，跨 CPU 访问开销大；工程通过 GPU-CPU 亲和绑定优化延迟\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw13.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=zUV8P2p5CkWHjKe%2FSTVdfrEND%2BE%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"gpu-互联拓扑查看工具\">\u003Ca class=\"anchor\" href=\"#gpu-互联拓扑查看工具\" aria-label=\"跳转到标题：GPU 互联拓扑查看工具\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>GPU 互联拓扑查看工具\u003C\u002Fh3>\u003Cp>英伟达 \u003Ccode>nvidia-smi topo -m\u003C\u002Fcode>，输出 GPU 间链路标识：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong>PIX\u003C\u002Fstrong>：同 PCIe Switch 短链路，延迟极低\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw14.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=JfdA6QCvftdD%2Bczfe1s7jw7pgrU%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"nvlink-高速互联\">\u003Ca class=\"anchor\" href=\"#nvlink-高速互联\" aria-label=\"跳转到标题：NVLink 高速互联\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>NVLink 高速互联\u003C\u002Fh2>\u003Ch3 id=\"nvlink-定位\">\u003Ca class=\"anchor\" href=\"#nvlink-定位\" aria-label=\"跳转到标题：NVLink 定位\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>NVLink 定位\u003C\u002Fh3>\u003Cp>英伟达专用 GPU 直连网状互联硬件，独立于 PCIe 总线，专为多卡高性能并行设计。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw15.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=jhkhDU%2BKFY4OW1rjCUHDe7nJXYo%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"核心优势\">\u003Ca class=\"anchor\" href=\"#核心优势\" aria-label=\"跳转到标题：核心优势\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>核心优势\u003C\u002Fh3>\u003Cul>\n\u003Cli>\u003Cstrong>拓扑\u003C\u002Fstrong>：NVLink 提供 GPU 间高速点对点互联，具体连接方式取决于服务器与 GPU 型号；配合 NVSwitch 时，可构建高带宽的 GPU 全互联通信域\u003C\u002Fli>\n\u003Cli>\u003Cstrong>带宽\u003C\u002Fstrong>：NVLink 4 带宽远超 PCIe 5.0 x16，大幅降低多卡同步、参数拷贝延迟\u003C\u002Fli>\n\u003Cli>\u003Cstrong>配套 GPU P2P 增强\u003C\u002Fstrong>：支持跨卡显存直接读写，适配大规模张量并行、流水线并行\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>带宽量级对比：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>PCIe 5.0 x16：双向合计约 126 GB\u002Fs\u003C\u002Fli>\n\u003Cli>NVLink 4.0：约 900 GB\u002Fs\u003Cbr>深度学习多卡通信优先使用 NVLink 链路，速度优势显著。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw16.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=LrsOhAw9vjQVibwTjYMdwaUDnU8%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"跨机通信与网卡\">\u003Ca class=\"anchor\" href=\"#跨机通信与网卡\" aria-label=\"跳转到标题：跨机通信与网卡\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>跨机通信与网卡\u003C\u002Fh2>\u003Ch3 id=\"nic-网卡基础\">\u003Ca class=\"anchor\" href=\"#nic-网卡基础\" aria-label=\"跳转到标题：NIC 网卡基础\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>NIC 网卡基础\u003C\u002Fh3>\u003Cp>NIC（Network Interface Card）网络接口卡，职责是接入计算机网络，发送和接收数据；通过 PCIe 总线挂载到系统中。\u003C\u002Fp>\n\u003Ch3 id=\"传统跨机-gpu-通信流程\">\u003Ca class=\"anchor\" href=\"#传统跨机-gpu-通信流程\" aria-label=\"跳转到标题：传统跨机 GPU 通信流程\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>传统跨机 GPU 通信流程\u003C\u002Fh3>\u003Cp>GPU 数据 → CPU 内存 → CPU 协议栈处理 → NIC → 网络 → 对端 NIC → 对端 CPU → 对端 GPU\u003C\u002Fp>\n\u003Cp>核心瓶颈：CPU 必须参与网络协议栈处理，即使支持 DMA\u002FP2P 也无法绕过 CPU 协议栈开销。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw17.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=rzDjsRDlqiXu8WFYc7nIWnOVxbE%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"rdma-远程直接内存访问\">\u003Ca class=\"anchor\" href=\"#rdma-远程直接内存访问\" aria-label=\"跳转到标题：RDMA 远程直接内存访问\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RDMA 远程直接内存访问\u003C\u002Fh2>\u003Ch3 id=\"rdma-核心定义\">\u003Ca class=\"anchor\" href=\"#rdma-核心定义\" aria-label=\"跳转到标题：RDMA 核心定义\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RDMA 核心定义\u003C\u002Fh3>\u003Cp>RDMA（Remote Direct Memory Access）将 DMA 技术拓展到机器之间，在完成连接建立和内存注册后，数据传输关键路径可绕过传统内核网络协议栈，从而降低 CPU 开销和通信延迟。\u003C\u002Fp>\n\u003Ch3 id=\"rdma-三大技术特点\">\u003Ca class=\"anchor\" href=\"#rdma-三大技术特点\" aria-label=\"跳转到标题：RDMA 三大技术特点\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RDMA 三大技术特点\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw18.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=esE%2BzWoE6Iupl1btt1yvtDOFisk%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col>\n\u003Cli>\u003Cstrong>零拷贝（Zero Copy）\u003C\u002Fstrong>：数据可在本端和远端已注册的内存区域之间直接传输\u003C\u002Fli>\n\u003Cli>\u003Cstrong>内核旁路（Kernel Bypass）\u003C\u002Fstrong>：用户态驱动直接操作网卡，无需切换内核态\u003C\u002Fli>\n\u003Cli>\u003Cstrong>GPU Direct RDMA\u003C\u002Fstrong>：英伟达 GPU 跨机 P2P 技术拓展\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"rdma-三大实现方式\">\u003Ca class=\"anchor\" href=\"#rdma-三大实现方式\" aria-label=\"跳转到标题：RDMA 三大实现方式\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>RDMA 三大实现方式\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>InfiniBand（IB）\u003C\u002Fstrong>\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cul>\n\u003Cli>原生为 RDMA 设计的专用网络技术，可构建低丢包、低延迟的无损网络环境\u003C\u002Fli>\n\u003Cli>延迟最低，性能最优\u003C\u002Fli>\n\u003Cli>需要专用 HCA 网卡与 IB 交换机，成本高，无法复用以太网\u003C\u002Fli>\n\u003Cli>广泛应用于高端 HPC、AI 集群数据中心\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw19.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=0zogXzcZZzy2b9F8wYnRBP%2F3aE4%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col start=\"2\">\n\u003Cli>\u003Cstrong>RoCE（RDMA over Converged Ethernet）\u003C\u002Fstrong>\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cul>\n\u003Cli>复用以太网基础设施，基于 UDP\u002FIP\u003C\u002Fli>\n\u003Cli>RoCE v2 为当前主流，支持 DCQCN 拥塞控制\u003C\u002Fli>\n\u003Cli>延迟略高于 IB，造价远低于 IB\u003C\u002Fli>\n\u003Cli>广泛应用于 HPC 与 AI 数据中心\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Col start=\"3\">\n\u003Cli>\u003Cstrong>iWARP\u003C\u002Fstrong>\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cul>\n\u003Cli>基于 TCP\u002FIP，无需专用交换机\u003C\u002Fli>\n\u003Cli>完全复用以太网，造价低\u003C\u002Fli>\n\u003Cli>TCP 协议机制导致延迟较高，AI\u002FHPC 领域应用较少\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2 id=\"数据中心与服务器\">\u003Ca class=\"anchor\" href=\"#数据中心与服务器\" aria-label=\"跳转到标题：数据中心与服务器\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>数据中心与服务器\u003C\u002Fh2>\u003Ch3 id=\"三类数据中心\">\u003Ca class=\"anchor\" href=\"#三类数据中心\" aria-label=\"跳转到标题：三类数据中心\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>三类数据中心\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw20.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=H0xURKe7ekDr735daZi%2Fu9J8XAA%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col>\n\u003Cli>\u003Cstrong>通算\u003C\u002Fstrong>：以 CPU 为主，传统通用计算集群，注重灵活通用、高兼容\u003C\u002Fli>\n\u003Cli>\u003Cstrong>超算\u003C\u002Fstrong>：CPU + GPU 加速器联合构建，解决科学\u002F工程级复杂问题，注重高性能并行与高精度\u003C\u002Fli>\n\u003Cli>\u003Cstrong>智算\u003C\u002Fstrong>：以 GPU 和 ASIC 专用加速器为主，聚焦 AI\u002F机器学习任务，注重 AI 并行计算与高效数据处理，倾向低精度量化\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"三类服务器形态\">\u003Ca class=\"anchor\" href=\"#三类服务器形态\" aria-label=\"跳转到标题：三类服务器形态\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>三类服务器形态\u003C\u002Fh3>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw21.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=2TkoSQCqSjdZCLxZTU7Es9mD754%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col>\n\u003Cli>\u003Cstrong>塔式服务器\u003C\u002Fstrong>：类似立式 PC，成本低部署简单，不适合大规模拓展\u003C\u002Fli>\n\u003Cli>\u003Cstrong>机架式服务器\u003C\u002Fstrong>：空间利用率高，易于拓展，集中管理维护，GPU 服务器主流形态\u003C\u002Fli>\n\u003Cli>\u003Cstrong>刀片服务器\u003C\u002Fstrong>：密度极高，共享基础设施，热密度极高，CPU 场景应用较多\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"散热类型\">\u003Ca class=\"anchor\" href=\"#散热类型\" aria-label=\"跳转到标题：散热类型\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>散热类型\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>风冷\u003C\u002Fstrong>：成本低维护方便，散热能力有限，噪音大，空间利用率低\u003C\u002Fli>\n\u003Cli>\u003Cstrong>液冷\u003C\u002Fstrong>\u003Cul>\n\u003Cli>冷板式液冷：热源安装冷板，冷却液循环带走热量，当前主流商用方案\u003C\u002Fli>\n\u003Cli>沉浸式液冷：整机浸入绝缘冷却液，散热效率极高但部署维护复杂成本高\u003C\u002Fli>\n\u003C\u002Ful>\n\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 id=\"算力拓展方式\">\u003Ca class=\"anchor\" href=\"#算力拓展方式\" aria-label=\"跳转到标题：算力拓展方式\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>算力拓展方式\u003C\u002Fh3>\u003Col>\n\u003Cli>\u003Cstrong>Scale Up（垂直扩展）\u003C\u002Fstrong>：增加单节点算力资源，受硬件物理上限约束\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw22.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=OjvrDGSEnOgfakPo1QVq4ZZFYBc%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col start=\"2\">\n\u003Cli>\u003Cstrong>Scale Out（水平扩展）\u003C\u002Fstrong>：增加更多节点，核心挑战是节点间通信延迟，需搭配 IB 等高速网络\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw23.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=xnKCrbe6O%2FyFbjR%2FhDxjJ%2BLxWAw%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col start=\"3\">\n\u003Cli>\u003Cstrong>Scale Across（跨域扩展）\u003C\u002Fstrong>：跨多数据中心地理扩展，延迟、一致性、异构兼容问题多，实际应用较少\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw24.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=AhyWyc4n0jSquCt1v%2BbwDjV1UYY%3D\" alt=\"\">\u003C\u002Fp>\n\u003Col start=\"4\">\n\u003Cli>\u003Cstrong>超节点\u003C\u002Fstrong>（Super Node）\u003Cbr>高度集成的高性能计算单元，通过高速互联技术形成 HPD（高速互联域），配备统一内存编址（UMA），解决通信瓶颈与算力协同效率问题，代表如英伟达 GB200 NVL72。\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw25.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=37pJkOJkk9McupyXCLs2rXRmiqo%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"网络拓扑结构\">\u003Ca class=\"anchor\" href=\"#网络拓扑结构\" aria-label=\"跳转到标题：网络拓扑结构\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>网络拓扑结构\u003C\u002Fh2>\u003Ch3 id=\"传统三层树状结构\">\u003Ca class=\"anchor\" href=\"#传统三层树状结构\" aria-label=\"跳转到标题：传统三层树状结构\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>传统三层树状结构\u003C\u002Fh3>\u003Cul>\n\u003Cli>\u003Cstrong>接入层\u003C\u002Fstrong>：ToR 交换机连接服务器\u003C\u002Fli>\n\u003Cli>\u003Cstrong>汇聚层\u003C\u002Fstrong>：汇聚接入流量，执行安全路由策略\u003C\u002Fli>\n\u003Cli>\u003Cstrong>核心层\u003C\u002Fstrong>：高速转发，连接外部网络\u003Cbr>适合南北向流量为主的传统数据中心，东西向流量效率低，横向拓展性差。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw26.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=HuNhTtwwJHEph6BjCDsC9bSLvcU%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"spine-leaf-叶脊结构\">\u003Ca class=\"anchor\" href=\"#spine-leaf-叶脊结构\" aria-label=\"跳转到标题：Spine-Leaf 叶脊结构\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>Spine-Leaf 叶脊结构\u003C\u002Fh3>\u003Cp>扁平化两层架构：上层 Spine、下层 Leaf，所有 Leaf 与 Spine 全互联，通过冗余路径消除带宽瓶颈。\u003C\u002Fp>\n\u003Cp>适配 AI\u002F云计算东西向流量为主的场景，是现代数据中心主流架构。\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw27.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=vH10RUIv7CdmysdN%2B68uTugL0sM%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch3 id=\"其他专用拓扑\">\u003Ca class=\"anchor\" href=\"#其他专用拓扑\" aria-label=\"跳转到标题：其他专用拓扑\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>其他专用拓扑\u003C\u002Fh3>\u003Cul>\n\u003Cli>\u003Cstrong>Torus\u003C\u002Fstrong>：网络直径小、性价比高，依赖有效拥塞控制与自适应路由\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Fat-Tree\u003C\u002Fstrong>：胖树结构，高带宽冗余\u003C\u002Fli>\n\u003Cli>\u003Cstrong>Torus 高维拓扑\u003C\u002Fstrong>：临近性强的科学计算应用友好\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002FKnowledge_Base\u002FKB_63_zw28.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=jWyv4tmKoSf3GHKGXzKbLkn5%2BAs%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"通信发展前沿趋势\">\u003Ca class=\"anchor\" href=\"#通信发展前沿趋势\" aria-label=\"跳转到标题：通信发展前沿趋势\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>通信发展前沿趋势\u003C\u002Fh2>\u003Ch3 id=\"算网协同\">\u003Ca class=\"anchor\" href=\"#算网协同\" aria-label=\"跳转到标题：算网协同\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>算网协同\u003C\u002Fh3>\u003Cp>网络感知计算需求，动态调整自身资源，以最优方式服务计算；在数据中心、云边端一体化、算力网络架构中至关重要。\u003C\u002Fp>\n\u003Ch3 id=\"在网计算\">\u003Ca class=\"anchor\" href=\"#在网计算\" aria-label=\"跳转到标题：在网计算\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>在网计算\u003C\u002Fh3>\u003Cp>网络设备具备数据处理能力，将部分计算任务卸载到网络设备执行，类似智能网卡与普通网卡的区别，让网络本身参与计算。\u003C\u002Fp>\n\u003Ch2 id=\"加入训练营\">\u003Ca class=\"anchor\" href=\"#加入训练营\" aria-label=\"跳转到标题：加入训练营\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>加入训练营\u003C\u002Fh2>\u003Cp>📺\u003Cstrong>完整课程内容，请观看直播或查看课程回放：\u003C\u002Fstrong>\u003Cbr>\u003Cstrong>InfiniTensor 官网\u003C\u002Fstrong>： \u003Ca href=\"https:\u002F\u002Fwww.infinitensor.com\">https:\u002F\u002Fwww.infinitensor.com\u003C\u002Fa>\u003C\u002Fp>\n\u003Cp>\u003Cstrong>B站直播\u003C\u002Fstrong>： InfiniTensor 官方直播间\u003C\u002Fp>\n\u003Cp>\u003Cstrong>视频号直播\u003C\u002Fstrong>： InfiniTensor 视频号预约\u003C\u002Fp>\n\u003Cp>\u003Cstrong>答疑交流\u003C\u002Fstrong>： 训练营官方社群⬇️\u003C\u002Fp>\n\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002F2026-xjq.png?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=j5LLQWJGl7lfBWs0J77BjrIj89Q%3D\" alt=\"\">\u003C\u002Fp>\n\u003Ch2 id=\"关注与交流\">\u003Ca class=\"anchor\" href=\"#关注与交流\" aria-label=\"跳转到标题：关注与交流\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>关注与交流\u003C\u002Fh2>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fimages\u002Fportal_news\u002Fnews_ewm02.jpg?Expires=1792752589&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=5J3BUGj%2FbNiiRCskyxeUoMVLor4%3D\" alt=\"\">\u003C\u002Fp>\n",[128,130,132,134,137,139,142,145,148,151,154,157,161,164,167,170,173,176,178,180,183,186,189,192,195,198,200,202,204,206,208,210,212,215,217,219,221,223,225],{"id":129,"text":129,"level":110},"课程定位与前置依赖",{"id":131,"text":131,"level":9},"系列课程整体规划",{"id":133,"text":133,"level":9},"课程核心目标",{"id":135,"text":136,"level":110},"ai-领域通信核心需求","AI 领域通信核心需求",{"id":138,"text":138,"level":9},"为什么必须分布式通信",{"id":140,"text":141,"level":9},"通用通信-vs-ai-hpc-高性能通信","通用通信 vs AI\u002FHPC 高性能通信",{"id":143,"text":144,"level":110},"pcie-总线体系","PCIe 总线体系",{"id":146,"text":147,"level":9},"pcie-核心定义","PCIe 核心定义",{"id":149,"text":150,"level":9},"pcie-四大核心特性","PCIe 四大核心特性",{"id":152,"text":153,"level":9},"pcie-速率换算逻辑","PCIe 速率换算逻辑",{"id":155,"text":156,"level":9},"传统-gpu-通信痛点-cpu-内存中转","传统 GPU 通信痛点：CPU 内存中转",{"id":158,"text":159,"level":160},"解决方法","解决方法：",4,{"id":162,"text":163,"level":9},"pcie-switch-交换芯片","PCIe Switch 交换芯片",{"id":165,"text":166,"level":9},"多-cpu-服务器内存架构","多 CPU 服务器内存架构",{"id":168,"text":169,"level":9},"gpu-互联拓扑查看工具","GPU 互联拓扑查看工具",{"id":171,"text":172,"level":110},"nvlink-高速互联","NVLink 高速互联",{"id":174,"text":175,"level":9},"nvlink-定位","NVLink 定位",{"id":177,"text":177,"level":9},"核心优势",{"id":179,"text":179,"level":110},"跨机通信与网卡",{"id":181,"text":182,"level":9},"nic-网卡基础","NIC 网卡基础",{"id":184,"text":185,"level":9},"传统跨机-gpu-通信流程","传统跨机 GPU 通信流程",{"id":187,"text":188,"level":110},"rdma-远程直接内存访问","RDMA 远程直接内存访问",{"id":190,"text":191,"level":9},"rdma-核心定义","RDMA 核心定义",{"id":193,"text":194,"level":9},"rdma-三大技术特点","RDMA 三大技术特点",{"id":196,"text":197,"level":9},"rdma-三大实现方式","RDMA 三大实现方式",{"id":199,"text":199,"level":110},"数据中心与服务器",{"id":201,"text":201,"level":9},"三类数据中心",{"id":203,"text":203,"level":9},"三类服务器形态",{"id":205,"text":205,"level":9},"散热类型",{"id":207,"text":207,"level":9},"算力拓展方式",{"id":209,"text":209,"level":110},"网络拓扑结构",{"id":211,"text":211,"level":9},"传统三层树状结构",{"id":213,"text":214,"level":9},"spine-leaf-叶脊结构","Spine-Leaf 叶脊结构",{"id":216,"text":216,"level":9},"其他专用拓扑",{"id":218,"text":218,"level":110},"通信发展前沿趋势",{"id":220,"text":220,"level":9},"算网协同",{"id":222,"text":222,"level":9},"在网计算",{"id":224,"text":224,"level":110},"加入训练营",{"id":226,"text":226,"level":110},"关注与交流"]