TEXT / REASONING大语言模型01Ollama在本地运行大型语言模型,支持 Llama、Mistral 等主流开源模型LLM推理OpenAI 兼容推荐 GPURTX 4090 或 A100默认端口11434一键部署查看详情
TEXT / REASONING大语言模型02vLLM高性能 LLM 推理引擎,支持 PagedAttention 和连续批处理LLM高性能推理OpenAI 兼容推荐 GPUA100 或 H100默认端口8000一键部署查看详情
TEXT / REASONING大语言模型03Open WebUI功能丰富的 LLM Web 界面,支持本地和远程模型LLMWeb UIRAG推荐 GPURTX 3090 或更高默认端口3000一键部署查看详情
TEXT / REASONING大语言模型04Text Generation InferenceHuggingFace 官方 LLM 推理服务器,优化生产部署LLMHuggingFace推理推荐 GPUA100 或 H100默认端口8080一键部署查看详情
TEXT / REASONING大语言模型05llama.cpp高效的 CPU/GPU LLM 推理引擎,支持量化模型LLM量化CPU/GPU推荐 GPURTX 4080 或更高(也支持 CPU)默认端口8080一键部署查看详情
IMAGE / CREATIVE图像生成06ComfyUI强大的 Stable Diffusion 节点式工作流界面图像生成Stable Diffusion工作流推荐 GPURTX 4090 或 A100默认端口8188一键部署查看详情
IMAGE / CREATIVE图像生成07Stable Diffusion WebUI最流行的 Stable Diffusion Web 界面,功能全面图像生成Stable DiffusionWeb UI推荐 GPURTX 4080 或更高默认端口7860一键部署查看详情
IMAGE / CREATIVE图像生成08Fooocus简化的 Stable Diffusion 界面,专注创作体验图像生成简化界面Stable Diffusion推荐 GPURTX 4070 Ti 或更高默认端口7865一键部署查看详情
VIDEO / MOTION视频生成10AnimateDiff将静态 Stable Diffusion 模型转为视频生成视频生成Stable Diffusion动画推荐 GPURTX 4090 或 A100默认端口8188一键部署查看详情