Snail AI 企业级 AI Agent 平台 - 让 AI 更智能,让开发更高效
llama.cpp Docker 本地模型服务栈 本项目使用 Docker Compose 在 NVIDIA GPU 上运行多个 llama.cpp 服务,并通过一个 Nginx 网关提供统一 HTTP 入口。聊天和 Embedding 接口采用 OpenAI 兼容格式,/v1/rerank...
🔥🔥🔥 从数据标注、模型训练到实时推理监控的全流程AI视觉系统