[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"site-home-live-entry-setting":3,"site-header-contests":8,"site-header-camps":49,"news-detail-89b054e7-08c6-4bb6-92df-cf6da268c540":104},{"enabled":4,"title":5,"statusText":5,"buttonText":5,"campSlug":5,"stage":6,"classroomId":7,"hasClassroom":4},false,"",0,null,{"total":9,"list":10,"pageNum":44,"pageSize":45,"size":9,"startRow":44,"endRow":9,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":48,"navigateFirstPage":44,"navigateLastPage":44},3,[11,25,35],{"slug":12,"title":13,"logo":7,"liveUrl":14,"prize":15,"sponsor":16,"description":17,"organizer":18,"startTime":19,"endTime":20,"registrationDeadline":21,"status":22,"dashboardVisibility":23,"createdAt":24},"spring2026","2026春季启元人工智能大赛","https:\u002F\u002Fwww.bilibili.com\u002Fblackboard\u002Flive\u002Flive-activity-player.html?cid=1822703816&quality=0","200,000","麒麟软件有限公司","“2026春季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。\n各参赛选手需在规定的比赛周期内，依据赛事规则选定赛题并完成相应挑战，优胜者将共同角逐总额20万元的赛事奖金池，并且还将有机会获得实习和知名企业优质岗位内推资格。","启元实验室","2026-04-19 16:00:00","2026-07-13 16:00:00","2026-06-16 16:00:00","ongoing","private","2026-04-16 08:00:00",{"slug":26,"title":27,"logo":7,"liveUrl":14,"prize":28,"sponsor":7,"description":29,"organizer":18,"startTime":30,"endTime":31,"registrationDeadline":32,"status":33,"dashboardVisibility":23,"createdAt":34},"autumn2025","2025秋季启元人工智能大赛","150,000","“2025秋季启元人工智能大赛”是由启元实验室主办的面向全国人工智能领域开发者、科研人员及高校学生的权威赛事。大赛旨在促进与培养具备工程实践能力和创新能力的优秀人工智能领域开发者、推广国产软硬件技术与生态、助力国家人工智能产业高质量发展。","2025-11-08 08:00:00","2026-01-13 08:00:00","2025-12-30 08:00:00","ended","2025-11-03 08:00:00",{"slug":36,"title":37,"logo":7,"liveUrl":14,"prize":38,"sponsor":7,"description":39,"organizer":18,"startTime":40,"endTime":41,"registrationDeadline":42,"status":33,"dashboardVisibility":23,"createdAt":43},"summer2025","启元人工智能大赛(系统方向)","80,000","启元人工智能大赛由启元实验室主办，其中系统赛道基于启元实验室九源软件栈的相关开源项目，通过拉动开源社区力量，一方面促进国产智能计算生态的发展，另一方面也为人工智能系统方向的学生及从业者提供一个实践平台。","2025-07-08 08:00:00","2025-08-25 08:00:00","2025-07-22 08:00:00","2025-06-22 08:00:00",1,5,true,8,[44],{"total":45,"list":50,"pageNum":44,"pageSize":45,"size":45,"startRow":44,"endRow":45,"pages":44,"prePage":6,"nextPage":6,"isFirstPage":46,"isLastPage":46,"hasPreviousPage":4,"hasNextPage":4,"navigatePages":47,"navigatepageNums":103,"navigateFirstPage":44,"navigateLastPage":44},[51,62,73,84,94],{"id":52,"slug":53,"title":54,"logo":55,"publicLiveEmbedUrl":14,"description":56,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":16,"startTime":58,"endTime":59,"status":22,"dashboardVisibility":60,"createdAt":58,"updatedAt":61},"019eeeff-6b00-7d55-a629-efafded3e232","summer2026","2026年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2026-06\u002F019eef7f-7816-7828-9309-79c2c61dd568.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=VEFksV93s86P76DFL4Or%2Fk%2FhsBE%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。","...","2026-06-22 08:00:00","2026-10-19 08:00:00","public","2026-10-12 08:00:00",{"id":63,"slug":64,"title":65,"logo":66,"publicLiveEmbedUrl":7,"description":67,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":68,"startTime":69,"endTime":70,"status":33,"dashboardVisibility":23,"createdAt":71,"updatedAt":72},"019af3f3-e06a-7245-aa8d-37dc99a69c73","winter2025","2025年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-12\u002F019afc69-b7ca-7805-91fb-605429671c01.png?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=huDcfdeQKIUIkZ38PFxK7vdefj4%3D","由启元实验室发起的InfiniTensor大模型与人工智能系统训练营，面向开源社区、高校及产业界伙伴开放。活动以「普及AI全栈知识技术、培养工程实践与创新型人才、推广国产软硬件技术生态」为核心目标，助力国家人工智能产业高质量发展。 \n","新华三技术有限公司","2025-12-25 08:00:00","2026-03-27 08:00:00","2025-12-06 08:00:00","2026-10-22 20:24:30",{"id":74,"slug":36,"title":75,"logo":76,"publicLiveEmbedUrl":7,"description":77,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":78,"startTime":79,"endTime":80,"status":81,"dashboardVisibility":23,"createdAt":82,"updatedAt":83},"01980342-208c-7803-b3f3-19e1d31960ba","2025年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fuploads\u002F2025-07\u002F0198045e-28fe-78f0-95fe-23835ce58395.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=DaKW9f9Mj5SxbYtzI%2F56sw9yISE%3D","InfiniTensor大模型与人工智能系统训练营由启元实验室及清华大学 AI 系统方向团队发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营联合开源项目开发者、学术界大牛、工业界资深工程师参与授课与项目指导。课程采用「线上直播授课 + 在线答疑 + 项目实践辅导 」的方式进行，确保每位同学都能获得充分成长。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","北京积算科技有限公司","2025-07-14 08:00:00","2025-09-30 08:00:00","upcoming","2025-07-13 08:00:00","2026-10-22 20:24:58",{"id":85,"slug":86,"title":87,"logo":88,"publicLiveEmbedUrl":7,"description":89,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":90,"endTime":91,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":93},"01980cf9-a7d8-7796-ae86-0bbe05334add","winter2024","2024年冬季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-ce23-7624-a287-9f07dd0d85f6.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区、高校和产业界，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过视频、直播课、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。报名学员请阅读“导学”课程页的训练营介绍。","2025-01-05 08:00:00","2025-03-22 08:00:00","2025-07-15 08:00:00","2026-10-22 20:24:39",{"id":95,"slug":96,"title":97,"logo":98,"publicLiveEmbedUrl":7,"description":99,"introduction":57,"organizer":18,"coOrganizer":5,"sponsor":5,"startTime":100,"endTime":101,"status":81,"dashboardVisibility":23,"createdAt":92,"updatedAt":102},"01980c20-363a-7dc3-8f5a-58a68e08dcc4","summer2024","2024年夏季InfiniTensor大模型与人工智能系统训练营","https:\u002F\u002Ftesting-cdn.infinitensor.com\u002Fuploads\u002F2025-07\u002F01981269-fbfa-788a-afcd-17fa9be74ff9.jpg","InfiniTensor大模型与人工智能系统训练营由清华大学发起，面向开源社区和高校，普及人工智能各方面知识和技术，培养相关人才。训练营全程免费，通过课程、习题和项目实践，在人工智能飞速发展的背景下，为学员提供一窥深层技术的机会。","2024-07-20 08:00:00","2024-09-29 08:00:00","2026-10-22 20:24:49",[44],{"newsDetail":105,"processedData":127},{"publishTime":106,"img":107,"keywords":108,"treeType":44,"description":109,"showStatus":44,"updateTime":110,"type":44,"title":111,"content":112,"nextArticle":113,"createTime":118,"sortOrder":6,"canonicalPath":119,"id":120,"contentType":121,"prevArticle":122},"2026-11-09 16:00:00","https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F31ea0388-3feb-4c5e-b264-0837b700f268.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=NGo0dVym3PpyW3SS65JRwHxIz0M%3D","InfiniTensor,九源,统一智能计算软件栈,九齿编译器,异构计算","介绍九源从推理框架演进为完整统一智能计算软件栈。解析 InfiniCore 底层组件、九齿编译器、训推框架与开发工具，实现模型与芯片解耦，支撑国产异构平台开源共建。","2026-11-09 14:26:50","九源开源技术周 07｜从一个推理框架，到一套统一智能计算软件栈","![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F7b296a6b-4591-4448-a48a-cebb46527b24.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=wDZginX2fgUPyHkoSZf3%2BQxH7fQ%3D)\n\n\n一个模型在一款卡上跑通了，换一款卡，算子调用、内存搬运和设备通信可能又要重新处理。模型继续更新，芯片继续增加，要维护的软件组合也越来越多。\n\n九源的开源工作，就是从这些具体问题出发，逐步扩展起来的。\n\n这次技术周，我们陆续介绍了模型加载、算子编程、异构通信、智能体运行和代码开发的新进展。最后一篇，我们把这些工作放在一起，看看九源怎样从早期的推理框架，发展出覆盖**底层计算、编译、训练推理和开发工具**的开源软件体系。\n\n###  让模型和芯片分别演进\n\n早期的 InfiniTensor 主要围绕模型推理展开。随着大模型推理和更多芯片的接入，很多工作开始反复出现：设备怎么管理，内存怎么申请和搬运，算子怎么调用，多张卡之间怎么交换数据。\n\n这些问题如果一直留在各个模型和框架里，就需要各自维护一遍。于是，我们把共性能力提取出来，逐步形成了**九源统一智能计算架构 InfiniCore**，由三个公共组件承担底层工作。\n\n| 组件 | 主要负责什么 |\n| :--- | :--- |\n| **统一算子库 InfiniOps** | 提供统一计算接口，接入厂商库、自研内核和九齿生成的算子 |\n| **统一硬件运行时 InfiniRT** | 统一设备管理、内存操作、图管理等运行时能力，对接不同芯片的原生实现 |\n| **统一通信库 InfiniCCL** | 组织多卡、多机之间的数据交换，连接同构与异构设备 |\n\n比如，同样是矩阵乘，上层模型沿用统一接口，底层可以调用厂商已有的高性能库，也可以使用针对目标平台优化的内核。新的算子实现进入公共库后，使用这一接口的模型就能继续复用。九齿编译生成的算子，也可以通过这一入口进入模型执行。\n\n这样，新模型能够复用已有硬件支持，新芯片也能复用已经接入的模型与算法。**对于基于统一接口开发的上层计算代码，换到已适配的平台，可以保持源码不变。** 目前，底层算子与运行时已接入昇腾、海光、沐曦、天数智芯、摩尔线程、寒武纪等各类国产平台，当然也支持 NVIDIA GPU。\n\n通信层则让设备之间进一步协同。InfiniCCL 可以在同构节点内利用厂商通信能力，在异构节点间结合 MPI、RDMA 等方式交换数据。打通这些路径后，上层框架就有了组织异构计算的基础，可以进一步按不同设备的计算、带宽和容量特点安排任务。\n\n这些组件也分别开源、独立演进。开发者可以按需要把其中的能力接入自己的框架和系统。\n\n\n### 算子写得简单，底层仍然可以做深\n\n统一接口解决了已有能力如何复用。遇到新算法、新算子，开发者还需要一种更容易写出高效实现的方式。\n\n九齿一直沿着这个方向发展：**按串行思路描述计算，把并行化和复杂访存交给编译器。** 这次编程接口的调整，进一步简化了矩阵乘等算子的数据排布表达，让代码更接近开发者想描述的计算过程。\n\n代码好写之后，还要把性能做好。在部分国产平台上，一些算子的性能会受到 Triton 后端的限制。为此，九齿在 Triton 之外增加了 **TileLang、CUDA C、Ascend C 和 BANG C** 后端，让编译器可以通过不同路径发挥硬件能力。\n\n这些后端共用前端和中端：\n- 前端理解用户的计算\n- 中端完成公共分析与优化\n- 后端再映射到具体语言和硬件。\n\n新增后端时，已有的程序分析和优化可以继续使用；中端改进了一项公共优化，多个后端也能沿用相应成果。开发者保留简洁的算子表达，编译器持续积累更好的实现方法。\n\n\n### 从底层组件，走到完整的训练和推理任务\n\n在大模型推理侧，**InfiniLM** 基于 InfiniCore 组织模型执行，复用公共算子、运行时和通信能力，并向应用提供模型服务。最近补充的工具调用支持，也让它能够通过兼容 OpenAI 风格的接口接入智能体框架。\n\n**InfiniTensor** 则围绕计算图的导入、变换与执行，支撑包括文本向量模型在内的推理任务。它的加速器执行复用 InfiniOps 和 InfiniRT；在文本向量场景中，还可以保留模型权重和计算图，适应不同批次、不同长度的输入，减少反复准备模型的工作。\n\n训练这边，**InfiniTrain** 采用原生 C++ 架构，从前向计算、自动微分到参数更新，构建完整的训练流程，并支持多维并行、混合精度和计算通信重叠。开发者可以在这套开源实现上开展模型训练与微调，也可以研究梯度同步、流水调度和显存管理等系统问题。\n\n把它们放进一个实际任务，分工会更直观。比如，让智能体查阅本地资料、排查服务问题：InfiniLM 提供大模型推理与工具调用接口，InfiniTensor 计算用于检索的文本向量，上层智能体负责执行工具、组织多轮任务。找到的资料再送回模型，帮助它继续判断下一步该做什么。\n\n从底层设备到模型服务，这些能力由不同项目承担，也能围绕同一个应用配合起来。\n\n\n### 开发时的成本，也要降下来\n\n改代码的时候，下一轮要用的模型就可以先准备好。\n\n**InfiniLoader** 把模型文件预先缓存到主机内存，并由独立进程保留。后续启动通过缓存路径读取，减少系统文件缓存被内存压力回收后重新读盘的等待。它既可以用于 InfiniLM，也可以配合 vLLM、SGLang 等推理引擎，把反复加载模型消耗的时间省下来。\n\n**InfiniCoder** 关注的是另一件事：怎样让模型更好地参与代码开发。\n\n它将程序分析、代码记忆、任务记忆和执行工具结合起来，帮助模型理解项目结构、保留有效进展，并完成实现与验证。项目支持通用编程任务，**重点增强十亿级、百亿级边端模型的代码能力**，并围绕算子开发与优化、训练推理框架开发继续强化。\n\n这些工具来自日常研发中的实际需求。一次启动少等一会儿，一段调用链更容易找到，长任务中少丢一些已经确认的信息，都会影响开发工作能不能顺畅地推进。\n\n### 让更多开发者能接着做\n\n开源让不同团队有机会在同一份实现上继续改进：芯片团队补充硬件支持，系统开发者优化执行和通信，模型开发者带来新的计算需求，使用者则反馈真实环境中的问题。\n\n九源智能计算系统生态联合体，也在围绕这些需求推进共同研发。此次大会上，九源与飞腾、TileLang、商汤分别发布了**国产 CPU 与软件栈协同、算子与编译协同、多模态大模型训推套件**等联合成果，合作覆盖了芯片、编译器、框架和模型。\n\n开发者的参与同样需要具体入口。九源的课程、训练营和技术竞赛持续围绕开源项目组织实践：从实现一个算子、在不同设备上检查正确性和性能开始，逐步进入编译器和训练推理框架开发。\n\n新一届秋季启元人工智能大赛也设置了**九齿算子、训练系统、推理引擎和智能体**四个赛道。学习者可以沿着自己感兴趣的方向，参与真实研发问题；经过测试和评审的改进，则继续成为开源项目的一部分。\n\n接下来，九源会继续完善模型与硬件支持，让跨平台开发、异构协同和云边端部署更方便。我们也会推进模型辅助开发，让大模型参与算法设计、代码实现与优化探索，再把经过验证的共性方法写进编译器和公共组件，供后续开发直接使用。\n\n> **九源希望积累的，是一套能够被持续使用、改进和扩展的智能计算软件。**\n> 如果你正在做算子、编译、训练推理或智能体开发，欢迎把九源用到自己的项目里，也欢迎把遇到的问题和做出的改进带回社区。\n\n\n## 🔗相关链接\n**开源项目：** https:\u002F\u002Fgithub.com\u002FInfiniTensor\n**社区、课程与活动：** https:\u002F\u002Fwww.infinitensor.com\u002F\n\n\n\n\n## 关注与交流\n\n![](https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002Ff7df8d26-0df3-4adf-a87f-5a4cd5505a3c.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=TYvbhnpg6VmqON9UTx3d8YGW%2FgU%3D)",{"publishTime":106,"createTime":114,"canonicalPath":115,"id":116,"title":117},"2026-11-09 14:06:43","\u002Fnews\u002Fba540788-5581-4b88-80fb-b435fcd9fa8c","ba540788-5581-4b88-80fb-b435fcd9fa8c","九源开源技术周 06｜InfiniCoder：用代码分析与任务记忆增强编程能力","2026-11-09 14:10:28","\u002Fnews\u002F89b054e7-08c6-4bb6-92df-cf6da268c540","89b054e7-08c6-4bb6-92df-cf6da268c540","markdown",{"publishTime":106,"createTime":123,"canonicalPath":124,"id":125,"title":126},"2026-11-09 14:16:17","\u002Fnews\u002F1755491e-b37e-4155-8e82-068fd583ecec","1755491e-b37e-4155-8e82-068fd583ecec","论数智融合新范式：数据与智能协同架构及实践",{"htmlContent":128,"headings":129},"\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002F7b296a6b-4591-4448-a48a-cebb46527b24.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=wDZginX2fgUPyHkoSZf3%2BQxH7fQ%3D\" alt=\"\">\u003C\u002Fp>\n\u003Cp>一个模型在一款卡上跑通了，换一款卡，算子调用、内存搬运和设备通信可能又要重新处理。模型继续更新，芯片继续增加，要维护的软件组合也越来越多。\u003C\u002Fp>\n\u003Cp>九源的开源工作，就是从这些具体问题出发，逐步扩展起来的。\u003C\u002Fp>\n\u003Cp>这次技术周，我们陆续介绍了模型加载、算子编程、异构通信、智能体运行和代码开发的新进展。最后一篇，我们把这些工作放在一起，看看九源怎样从早期的推理框架，发展出覆盖\u003Cstrong>底层计算、编译、训练推理和开发工具\u003C\u002Fstrong>的开源软件体系。\u003C\u002Fp>\n\u003Ch3 id=\"让模型和芯片分别演进\">\u003Ca class=\"anchor\" href=\"#让模型和芯片分别演进\" aria-label=\"跳转到标题：让模型和芯片分别演进\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>让模型和芯片分别演进\u003C\u002Fh3>\u003Cp>早期的 InfiniTensor 主要围绕模型推理展开。随着大模型推理和更多芯片的接入，很多工作开始反复出现：设备怎么管理，内存怎么申请和搬运，算子怎么调用，多张卡之间怎么交换数据。\u003C\u002Fp>\n\u003Cp>这些问题如果一直留在各个模型和框架里，就需要各自维护一遍。于是，我们把共性能力提取出来，逐步形成了\u003Cstrong>九源统一智能计算架构 InfiniCore\u003C\u002Fstrong>，由三个公共组件承担底层工作。\u003C\u002Fp>\n\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n\u003Cth align=\"left\">组件\u003C\u002Fth>\n\u003Cth align=\"left\">主要负责什么\u003C\u002Fth>\n\u003C\u002Ftr>\n\u003C\u002Fthead>\n\u003Ctbody>\u003Ctr>\n\u003Ctd align=\"left\">\u003Cstrong>统一算子库 InfiniOps\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd align=\"left\">提供统一计算接口，接入厂商库、自研内核和九齿生成的算子\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd align=\"left\">\u003Cstrong>统一硬件运行时 InfiniRT\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd align=\"left\">统一设备管理、内存操作、图管理等运行时能力，对接不同芯片的原生实现\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd align=\"left\">\u003Cstrong>统一通信库 InfiniCCL\u003C\u002Fstrong>\u003C\u002Ftd>\n\u003Ctd align=\"left\">组织多卡、多机之间的数据交换，连接同构与异构设备\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftbody>\u003C\u002Ftable>\n\u003Cp>比如，同样是矩阵乘，上层模型沿用统一接口，底层可以调用厂商已有的高性能库，也可以使用针对目标平台优化的内核。新的算子实现进入公共库后，使用这一接口的模型就能继续复用。九齿编译生成的算子，也可以通过这一入口进入模型执行。\u003C\u002Fp>\n\u003Cp>这样，新模型能够复用已有硬件支持，新芯片也能复用已经接入的模型与算法。\u003Cstrong>对于基于统一接口开发的上层计算代码，换到已适配的平台，可以保持源码不变。\u003C\u002Fstrong> 目前，底层算子与运行时已接入昇腾、海光、沐曦、天数智芯、摩尔线程、寒武纪等各类国产平台，当然也支持 NVIDIA GPU。\u003C\u002Fp>\n\u003Cp>通信层则让设备之间进一步协同。InfiniCCL 可以在同构节点内利用厂商通信能力，在异构节点间结合 MPI、RDMA 等方式交换数据。打通这些路径后，上层框架就有了组织异构计算的基础，可以进一步按不同设备的计算、带宽和容量特点安排任务。\u003C\u002Fp>\n\u003Cp>这些组件也分别开源、独立演进。开发者可以按需要把其中的能力接入自己的框架和系统。\u003C\u002Fp>\n\u003Ch3 id=\"算子写得简单-底层仍然可以做深\">\u003Ca class=\"anchor\" href=\"#算子写得简单-底层仍然可以做深\" aria-label=\"跳转到标题：算子写得简单，底层仍然可以做深\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>算子写得简单，底层仍然可以做深\u003C\u002Fh3>\u003Cp>统一接口解决了已有能力如何复用。遇到新算法、新算子，开发者还需要一种更容易写出高效实现的方式。\u003C\u002Fp>\n\u003Cp>九齿一直沿着这个方向发展：\u003Cstrong>按串行思路描述计算，把并行化和复杂访存交给编译器。\u003C\u002Fstrong> 这次编程接口的调整，进一步简化了矩阵乘等算子的数据排布表达，让代码更接近开发者想描述的计算过程。\u003C\u002Fp>\n\u003Cp>代码好写之后，还要把性能做好。在部分国产平台上，一些算子的性能会受到 Triton 后端的限制。为此，九齿在 Triton 之外增加了 \u003Cstrong>TileLang、CUDA C、Ascend C 和 BANG C\u003C\u002Fstrong> 后端，让编译器可以通过不同路径发挥硬件能力。\u003C\u002Fp>\n\u003Cp>这些后端共用前端和中端：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>前端理解用户的计算\u003C\u002Fli>\n\u003Cli>中端完成公共分析与优化\u003C\u002Fli>\n\u003Cli>后端再映射到具体语言和硬件。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>新增后端时，已有的程序分析和优化可以继续使用；中端改进了一项公共优化，多个后端也能沿用相应成果。开发者保留简洁的算子表达，编译器持续积累更好的实现方法。\u003C\u002Fp>\n\u003Ch3 id=\"从底层组件-走到完整的训练和推理任务\">\u003Ca class=\"anchor\" href=\"#从底层组件-走到完整的训练和推理任务\" aria-label=\"跳转到标题：从底层组件，走到完整的训练和推理任务\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>从底层组件，走到完整的训练和推理任务\u003C\u002Fh3>\u003Cp>在大模型推理侧，\u003Cstrong>InfiniLM\u003C\u002Fstrong> 基于 InfiniCore 组织模型执行，复用公共算子、运行时和通信能力，并向应用提供模型服务。最近补充的工具调用支持，也让它能够通过兼容 OpenAI 风格的接口接入智能体框架。\u003C\u002Fp>\n\u003Cp>\u003Cstrong>InfiniTensor\u003C\u002Fstrong> 则围绕计算图的导入、变换与执行，支撑包括文本向量模型在内的推理任务。它的加速器执行复用 InfiniOps 和 InfiniRT；在文本向量场景中，还可以保留模型权重和计算图，适应不同批次、不同长度的输入，减少反复准备模型的工作。\u003C\u002Fp>\n\u003Cp>训练这边，\u003Cstrong>InfiniTrain\u003C\u002Fstrong> 采用原生 C++ 架构，从前向计算、自动微分到参数更新，构建完整的训练流程，并支持多维并行、混合精度和计算通信重叠。开发者可以在这套开源实现上开展模型训练与微调，也可以研究梯度同步、流水调度和显存管理等系统问题。\u003C\u002Fp>\n\u003Cp>把它们放进一个实际任务，分工会更直观。比如，让智能体查阅本地资料、排查服务问题：InfiniLM 提供大模型推理与工具调用接口，InfiniTensor 计算用于检索的文本向量，上层智能体负责执行工具、组织多轮任务。找到的资料再送回模型，帮助它继续判断下一步该做什么。\u003C\u002Fp>\n\u003Cp>从底层设备到模型服务，这些能力由不同项目承担，也能围绕同一个应用配合起来。\u003C\u002Fp>\n\u003Ch3 id=\"开发时的成本-也要降下来\">\u003Ca class=\"anchor\" href=\"#开发时的成本-也要降下来\" aria-label=\"跳转到标题：开发时的成本，也要降下来\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>开发时的成本，也要降下来\u003C\u002Fh3>\u003Cp>改代码的时候，下一轮要用的模型就可以先准备好。\u003C\u002Fp>\n\u003Cp>\u003Cstrong>InfiniLoader\u003C\u002Fstrong> 把模型文件预先缓存到主机内存，并由独立进程保留。后续启动通过缓存路径读取，减少系统文件缓存被内存压力回收后重新读盘的等待。它既可以用于 InfiniLM，也可以配合 vLLM、SGLang 等推理引擎，把反复加载模型消耗的时间省下来。\u003C\u002Fp>\n\u003Cp>\u003Cstrong>InfiniCoder\u003C\u002Fstrong> 关注的是另一件事：怎样让模型更好地参与代码开发。\u003C\u002Fp>\n\u003Cp>它将程序分析、代码记忆、任务记忆和执行工具结合起来，帮助模型理解项目结构、保留有效进展，并完成实现与验证。项目支持通用编程任务，\u003Cstrong>重点增强十亿级、百亿级边端模型的代码能力\u003C\u002Fstrong>，并围绕算子开发与优化、训练推理框架开发继续强化。\u003C\u002Fp>\n\u003Cp>这些工具来自日常研发中的实际需求。一次启动少等一会儿，一段调用链更容易找到，长任务中少丢一些已经确认的信息，都会影响开发工作能不能顺畅地推进。\u003C\u002Fp>\n\u003Ch3 id=\"让更多开发者能接着做\">\u003Ca class=\"anchor\" href=\"#让更多开发者能接着做\" aria-label=\"跳转到标题：让更多开发者能接着做\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>让更多开发者能接着做\u003C\u002Fh3>\u003Cp>开源让不同团队有机会在同一份实现上继续改进：芯片团队补充硬件支持，系统开发者优化执行和通信，模型开发者带来新的计算需求，使用者则反馈真实环境中的问题。\u003C\u002Fp>\n\u003Cp>九源智能计算系统生态联合体，也在围绕这些需求推进共同研发。此次大会上，九源与飞腾、TileLang、商汤分别发布了\u003Cstrong>国产 CPU 与软件栈协同、算子与编译协同、多模态大模型训推套件\u003C\u002Fstrong>等联合成果，合作覆盖了芯片、编译器、框架和模型。\u003C\u002Fp>\n\u003Cp>开发者的参与同样需要具体入口。九源的课程、训练营和技术竞赛持续围绕开源项目组织实践：从实现一个算子、在不同设备上检查正确性和性能开始，逐步进入编译器和训练推理框架开发。\u003C\u002Fp>\n\u003Cp>新一届秋季启元人工智能大赛也设置了\u003Cstrong>九齿算子、训练系统、推理引擎和智能体\u003C\u002Fstrong>四个赛道。学习者可以沿着自己感兴趣的方向，参与真实研发问题；经过测试和评审的改进，则继续成为开源项目的一部分。\u003C\u002Fp>\n\u003Cp>接下来，九源会继续完善模型与硬件支持，让跨平台开发、异构协同和云边端部署更方便。我们也会推进模型辅助开发，让大模型参与算法设计、代码实现与优化探索，再把经过验证的共性方法写进编译器和公共组件，供后续开发直接使用。\u003C\u002Fp>\n\u003Cblockquote>\n\u003Cp>\u003Cstrong>九源希望积累的，是一套能够被持续使用、改进和扩展的智能计算软件。\u003C\u002Fstrong>\u003Cbr>如果你正在做算子、编译、训练推理或智能体开发，欢迎把九源用到自己的项目里，也欢迎把遇到的问题和做出的改进带回社区。\u003C\u002Fp>\n\u003C\u002Fblockquote>\n\u003Ch2 id=\"相关链接\">\u003Ca class=\"anchor\" href=\"#相关链接\" aria-label=\"跳转到标题：🔗相关链接\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>🔗相关链接\u003C\u002Fh2>\u003Cp>\u003Cstrong>开源项目：\u003C\u002Fstrong> \u003Ca href=\"https:\u002F\u002Fgithub.com\u002FInfiniTensor\">https:\u002F\u002Fgithub.com\u002FInfiniTensor\u003C\u002Fa>\u003Cbr>\u003Cstrong>社区、课程与活动：\u003C\u002Fstrong> \u003Ca href=\"https:\u002F\u002Fwww.infinitensor.com\u002F\">https:\u002F\u002Fwww.infinitensor.com\u002F\u003C\u002Fa>\u003C\u002Fp>\n\u003Ch2 id=\"关注与交流\">\u003Ca class=\"anchor\" href=\"#关注与交流\" aria-label=\"跳转到标题：关注与交流\">\u003Cspan class=\"octicon octicon-link\">\u003C\u002Fspan>\u003C\u002Fa>关注与交流\u003C\u002Fh2>\u003Cp>\u003Cimg src=\"https:\u002F\u002Foss.infinitensor.com\u002Fprod\u002Fdata\u002Fqy-test\u002Fuploads\u002F2026-11\u002Ff7df8d26-0df3-4adf-a87f-5a4cd5505a3c.jpg?Expires=1794244562&OSSAccessKeyId=LTAI5t9R6uzvTa69CT92cFvV&Signature=TYvbhnpg6VmqON9UTx3d8YGW%2FgU%3D\" alt=\"\">\u003C\u002Fp>\n",[130,132,135,138,141,143,147],{"id":131,"text":131,"level":9},"让模型和芯片分别演进",{"id":133,"text":134,"level":9},"算子写得简单-底层仍然可以做深","算子写得简单，底层仍然可以做深",{"id":136,"text":137,"level":9},"从底层组件-走到完整的训练和推理任务","从底层组件，走到完整的训练和推理任务",{"id":139,"text":140,"level":9},"开发时的成本-也要降下来","开发时的成本，也要降下来",{"id":142,"text":142,"level":9},"让更多开发者能接着做",{"id":144,"text":145,"level":146},"相关链接","🔗相关链接",2,{"id":148,"text":148,"level":146},"关注与交流"]