LocalAI
兼容常用模型接口的本地推理服务框架
在本地或服务器上部署文本、语音、图像等模型,并通过统一API供其他软件调用。支持多种推理后端,适合开发者搭建自己的模型服务和多模态应用。
网站可用域名
1 个
相关推荐
Pinokio
简化本地人工智能项目安装运行的启动器
GPT4All
支持离线聊天与本地文档问答的桌面软件
llama.cpp
支持多种硬件的轻量级本地模型推理引擎
KoboldCpp
集成本地模型推理与聊天界面的轻量工具
LM Studio
支持本地模型运行与智能体任务的桌面工具
Open WebUI
连接本地模型的自托管聊天与知识库平台
FastGPT
可本地部署的知识库问答与工作流构建平台
PocketPal AI
可在手机和平板上离线运行模型的AI助手
SGLang
面向语言与多模态模型的高性能部署框架
评论 (0)
暂无评论,快来发表第一条评论吧
