Xinference
统一管理和部署多种AI模型的推理平台
提供网页管理界面、命令行和统一API,可在本机或服务器部署语言、语音与多模态模型,也支持多设备部署,适合集中管理模型并连接其他AI应用。
网站可用域名
1 个
相关推荐
Unsloth
集本地模型运行与微调训练于一体的AI工具
llamafile
将模型与运行程序打包成单个文件的工具
GPT4All
支持离线聊天与本地文档问答的桌面软件
TextGen
支持多种推理后端的本地大模型运行平台
KoboldCpp
集成本地模型推理与聊天界面的轻量工具
LM Studio
支持本地模型运行与智能体任务的桌面工具
Msty Studio
支持图形化管理本地模型的桌面AI工具
FastGPT
可本地部署的知识库问答与工作流构建平台
LocalAI
兼容常用模型接口的本地推理服务框架
评论 (0)
暂无评论,快来发表第一条评论吧
