NineToothed 0.25.0 发布:让 AOT 编译更快、更聪明、更好用

在智能计算领域不断追求极致性能的今天,九齿正式推出 NineToothed 0.25.0 版本,将'ninetoothed.build' 从“能用”推进到了“好用”。从自动调优支持、到运行时重新调优、再到内核特化与启动路径提速,NineToothed 0.25.0 版本让 AOT 编译在真实工作负载下真正能打。

1. AOT 也能自动调优

在过去,自动调优(auto-tuning)通常意味着你要在运行时把算子跑一遍、选出最优配置。这与 AOT“先编译好、再部署上线”的理念天然有张力。

本次发布中,'ninetoothed.build' 生成的 AOT 产物开始原生支持自动调优:

  • 产物自带自动调优缓存(auto-tuning cache);
  • 底层由线程安全的 unordered map 模板支撑,多线程环境下也能稳定读写。

这使得 AOT 编译产物在编译阶段即可享受自动调优带来的性能收益,无需在部署前进行繁琐的“线下打表”操作。

2. 运行时重新调优:不再一次定终身

仅仅“带着调优结果出厂”还不够。真实世界里,shape、batch size、硬件环境都会变——一份在编译期选出的“最优配置”,过几周可能就不再最优了。

0.25.0 引入了运行时重新自动调优:编译出来的产物可以在运行时发现负载发生变化,并重新触发调优流程,把新的最优配置写回缓存。

换句话说,你的 AOT 产物现在会随着工作负载演化而自适应,而不是被编译时的一次性判断锁死。

3. Stride-1 特化:为连续张量解锁更紧凑的代码

对连续(contiguous)张量的特化是一项非常经典、但收益显著的优化。

在 AOT 路径上,我们现在会针对每个张量单独判断是否为 stride-1,并在代码生成时相应地特化。对于输入大多连续的常见场景,编译出的内核会更紧凑、访存模式更干净,性能自然也随之上去。

4. 启动路径提速:省下每一次调用的开销

即便内核本身很快,如果每次 launch 都要额外花几微秒做准备,累计起来在高频调用场景下仍然是一笔可观的开销。

九齿 0.25.0 版本对 AOT 的启动路径做了重构与精简,显著降低了每次调用的固定成本。对于调用频率高、单次耗时短的算子,这一改动的带来的收益最为明显。

5. 更顺手的 'ninetoothed.build' API

除了性能上的提升外,九齿 0.25.0 也在打磨使用体验,该版本对 'ninetoothed.build' 的 API 进行了一系列工效学改进——构建和调用 AOT 产物的流程更加顺畅,代码更加简洁易懂。

6. 全新教程:'ninetoothed.build' 从零上手

如果你是第一次接触 'ninetoothed.build',或者想系统了解 AOT 路径现在到底能做到什么程度,我们新增了一份完整的教程:

🔗地址:https://ninetoothed.org/build.html

教程覆盖了从编写算子、生成 AOT 产物、到集成调用的完整链路,是这个版本最值得一读的配套材料之一。

7. 社区与工程侧

  • 新增 'CONTRIBUTING.md':欢迎任何想参与 'ninetoothed' 的朋友先读它。
  • README 中加入了 AtomGit 徽章。
  • 修复了 PyPI 发布工作流中的产物上传问题,保证后续发版更顺畅。

8. NineToothed 0.25.0 更新总结

这一版的核心信号很明确:AOT 不应该以牺牲灵活性为代价。自动调优、运行时重调、针对性特化,这些过去被视作“JIT 专属”的能力,正在被我们一项项搬到 AOT 路径上。

如果你在做推理部署、端侧算子、或者对启动开销敏感的高频调用场景,0.25.0 非常值得一试。

欢迎在 Issue 区与我们交流使用体验,也欢迎通过 PR 一起把 'ninetoothed' 推得更远。

加入启元人工智能大赛,共筑智能计算未来

值得一提的是,九齿 0.25.0 版本的发布正值 2026 春季启元人工智能大赛启动之际,本届赛事设立 20 万元奖金池,诚挚邀请你将九齿 0.25.0 应用于实战:

  • 九齿开发赛道:基于新版本的调优机制与特化能力,挑战极致算子性能;
  • 九齿.skill 创新挑战赛道:利用大模型驱动九齿能力增强,探索编译优化的新范式。

大赛已于 2026 年 4 月 18 日启动报名,将于 5 月中旬正式开赛(具体日期请关注官方通知)。

👉 报名入口:https://www.infinitensor.com

👉 扫码入群:扫描下方二维码加入官方社群,获取算力申请指南与赛题预告。

点击 【阅读原文】 访问 InfiniTensor 官方网站,报名参加 2026 春季启元人工智能大赛!