# 天辰AI软件栈

**Repository Path**: ericsal/TianChen_Software_Stack

## Basic Information

- **Project Name**: 天辰AI软件栈
- **Description**: 天辰AI软件栈，赋能RISC-V及AI算力
- **Primary Language**: C++
- **License**: MIT
- **Default Branch**: main
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 126
- **Created**: 2026-07-26
- **Last Updated**: 2026-07-26

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

<p align="right">
  <a href="README.md">English</a> | <strong>简体中文</strong>
</p>

# TianChen AI Software Stack / 天辰 AI 软件栈

**面向 RISC-V 与可扩展计算的开放式 AI 编译与推理加速软件栈。**

天辰 AI 软件栈围绕“算子理解、能力驱动编译、推理优化”构建一条可扩展的 AI 软件链路。项目当前重点面向 **RISC-V、RVV、矩阵扩展及自定义指令扩展**，并为进一步支持异构 AI 加速器提供模块化基础。

我们的目标是降低新硬件运行真实 AI 工作负载的适配成本：保留高性能算子中的计算意图，根据目标硬件能力完成编译与代码生成，并利用实际测量结果持续优化推理性能。

## 项目背景与必要性

高性能 AI 推理并不只取决于模型和处理器。一个算子要在真实系统中高效运行，需要高性能内核、编译器映射、运行时接入和硬件相关调优共同配合。

在成熟的加速器生态中，大量优化知识被固化在特定平台的算子内核、调度模板和后端规则中。RISC-V 提供了更加开放、灵活的硬件空间：不同处理器可以具有不同的向量长度、微架构、工具链、矩阵扩展、自定义指令和运行时能力。这种可扩展性为面向 AI 负载定制硬件提供了机会，也使软件适配和性能优化面临新的复杂度。

其中有三个关键问题：

1. **算子语义与硬件调度紧密耦合。** 高度优化的算子往往同时包含“计算什么”和“如何在某种硬件上执行”，难以直接理解、验证和迁移。
2. **后端优化知识需要反复实现。** 每出现一种新扩展或新加速器，通常都需要重新编写合法性规则、映射策略和手工优化内核。
3. **算子性能需要转化为真实推理性能。** 编译策略、性能画像、运行时行为和部署方式必须形成可测量、可反馈的优化闭环。

天辰 AI 软件栈将这些分散在算子、编译器和推理系统中的知识组织起来，形成从优化算子到真实推理部署的开放技术路径。

## 天辰如何解决这些问题

天辰软件栈由三类相互协同的能力组成：

- **恢复算子意图。** 将算子的计算语义与源平台调度方式分离，形成经过验证、可以重新映射到其他硬件的结构化表示。
- **根据硬件能力进行编译。** 显式描述目标硬件特性，用这些能力驱动候选实现生成、合法性检查、方案选择、编译降级和目标代码生成。
- **利用反馈优化推理。** 结合编译器决策、性能测量和运行时信息，持续改进端到端推理部署。

```text
Triton / TileLang / CUDA / 厂商算子 / AI 工作负载
                           │
                           ▼
                   TianchenIR
          可验证、可跨硬件重映射的算子意图
                           │
                           ▼
                TianchenCompiler
          能力驱动的方案选择与目标代码生成
                           │
                           ▼
       RISC-V / RVV / 矩阵扩展 / 自定义指令扩展
                           │
                           ▼
                    AI 推理系统
                           ▲
                           │
             Tianchen Agent（规划中）
          性能画像、策略选择与部署反馈
```

## 核心项目

| 项目 | 主要方向 | 状态 | 项目入口 |
|---|---|---:|---|
| **TianchenIR** | 可验证的算子意图恢复与可移植执行结构 | 已开放 | [IntentIR](https://gitee.com/dongshan-community/IntentIR) |
| **TianchenCompiler** | 面向 RISC-V 与可扩展后端的能力驱动 AI 编译器 | 持续开发 | [源代码与文档](TianchenCompiler/) |
| **Tianchen Agent** | 由性能画像驱动的推理优化与部署协同 | 规划中 | 路线图 |

### TianchenIR

TianchenIR 从已经优化的算子内核中提取可复用的算子知识。它将算法意图、可移植执行结构和调度提示分层表达，并通过源程序一致性检查验证恢复结果，为编译器提供比直接翻译硬件专用内核更加清晰、可迁移的输入。

### TianchenCompiler：当前核心项目

[`TianchenCompiler/`](TianchenCompiler/) 是本仓库当前的核心代码项目，提供面向可扩展 AI 算子的能力驱动 RISC-V MLIR 编译路径。

主要能力包括：

- 将指令集扩展、向量长度、微架构、工具链和运行时能力显式建模；
- 使用统一流水线完成候选实现生成、合法性检查、方案选择、运行时调度、调优和编译降级；
- 通过插件式机制支持 RVV、IME 矩阵运算、运行时卸载及后续扩展家族；
- 从 MLIR 生成 EmitC/C/C++，并导出 RISC-V 目标产物；
- 提供编译器测试、数值验证和可复现的真实硬件证据工作流。

架构设计、构建要求、使用方法和项目进展详见 [TianchenCompiler 文档](TianchenCompiler/README.md)。

### Tianchen Agent

Tianchen Agent 将编译器和运行时信息连接成推理优化闭环。它面向模型工作负载、目标硬件画像、实测性能和部署约束，辅助选择编译策略与推理配置，推动新硬件能力进入真实模型服务。

## 快速开始

```bash
git clone git@gitee.com:dongshan-community/TianChen_Software_Stack.git
cd TianChen_Software_Stack/TianchenCompiler

cmake -S . -B build -G Ninja \
  -DLLVM_DIR=/usr/lib/llvm-20/lib/cmake/llvm \
  -DMLIR_DIR=/usr/lib/llvm-20/lib/cmake/mlir
cmake --build build
cmake --build build --target check-tianchenrv
```

编译器依赖 LLVM 与 MLIR 开发包，详细说明请参阅 [编译器 README](TianchenCompiler/README.md)。

## 路线图

- [x] TianchenIR：可验证的算子意图恢复
- [x] TianchenCompiler：能力驱动的 RISC-V 编译器基础
- [ ] 建立 TianchenIR 到 TianchenCompiler 的稳定算子接口
- [ ] 扩展 RVV、矩阵扩展与异构目标覆盖
- [ ] Tianchen Agent：由性能画像驱动的推理优化
- [ ] 提供可复现的端到端 AI 推理演示

## 参与贡献

欢迎围绕算子表示、MLIR 编译、RISC-V/RVV 优化、可扩展硬件支持、性能评测和推理系统集成参与项目建设。

## 许可证

本项目采用 [MIT 许可证](LICENSE)。