Xinference
15 0
本网站收录于 2026-11-09
更新于 2026-11-17

统一管理和部署多种AI模型的推理平台

提供网页管理界面、命令行和统一API,可在本机或服务器部署语言、语音与多模态模型,也支持多设备部署,适合集中管理模型并连接其他AI应用。

网站可用域名
1 个
https://inference.readthedocs.io/en/latest/主域名正常访问全球范围均可访问

相关推荐

image

Unsloth

集本地模型运行与微调训练于一体的AI工具

image

llamafile

将模型与运行程序打包成单个文件的工具

image

GPT4All

支持离线聊天与本地文档问答的桌面软件

image

TextGen

支持多种推理后端的本地大模型运行平台

image

KoboldCpp

集成本地模型推理与聊天界面的轻量工具

image

LM Studio

支持本地模型运行与智能体任务的桌面工具

image

Msty Studio

支持图形化管理本地模型的桌面AI工具

image

FastGPT

可本地部署的知识库问答与工作流构建平台

image

LocalAI

兼容常用模型接口的本地推理服务框架

评论 (0)

image
empty暂无评论,快来发表第一条评论吧

收录与索引各类实用网站与工具站的导航站,涵盖 AI 工具、开发者工具、设计素材、效率办公、学习资料、在线服务等方向,每个站点均经人工筛选与可用性检测,帮你更快找到真正好用的那一个。

© 2026 GPT导航站 · 保留所有权利

友情链接

暂无