本地AI部署
AI对话软件 (19 个网站)
查看更多 LM Studio
支持本地模型运行与智能体任务的桌面工具
Pinokio
简化本地人工智能项目安装运行的启动器
GPT4All
支持离线聊天与本地文档问答的桌面软件
Open WebUI
连接本地模型的自托管聊天与知识库平台
KoboldCpp
集成本地模型推理与聊天界面的轻量工具
TextGen
支持多种推理后端的本地大模型运行平台
LocalAI
兼容常用模型接口的本地推理服务框架
Msty Studio
支持图形化管理本地模型的桌面AI工具
llama.cpp
支持多种硬件的轻量级本地模型推理引擎
llamafile
将模型与运行程序打包成单个文件的工具
Xinference
统一管理和部署多种AI模型的推理平台
vLLM
面向高并发调用的大模型推理服务引擎
FastGPT
可本地部署的知识库问答与工作流构建平台
Unsloth
集本地模型运行与微调训练于一体的AI工具
PocketPal AI
可在手机和平板上离线运行模型的AI助手
MLX LM
面向苹果芯片Mac的本地模型推理微调工具
SGLang
面向语言与多模态模型的高性能部署框架
Page Assist
将本地AI接入浏览器侧边栏的开源扩展
Krita AI Diffusion
把本地AI生图与局部重绘融入画布的插件
