Xorbits Inference(Xinference)是一个性能强大且功能全面的分布式推理框架
MinerU是一款将PDF转化为机器可读格式的工具(如markdown、json),可以很方便地抽取为任意格式。
SDK for the development of custom actions for Rasa
SGLang 是一个针对大语言模型和视觉语言模型的快速服务框架