集成本地模型推理与聊天界面的轻量工具
采用便携式设计,可加载GGUF格式模型在电脑上运行,内置KoboldAI界面,适合希望简化安装步骤、使用量化模型进行本地聊天与文本生成的人。
网站可用域名
1 个
相关推荐
Pinokio
简化本地人工智能项目安装运行的启动器
Unsloth
集本地模型运行与微调训练于一体的AI工具
Page Assist
将本地AI接入浏览器侧边栏的开源扩展
GPT4All
支持离线聊天与本地文档问答的桌面软件
TextGen
支持多种推理后端的本地大模型运行平台
vLLM
面向高并发调用的大模型推理服务引擎
Msty Studio
支持图形化管理本地模型的桌面AI工具
FastGPT
可本地部署的知识库问答与工作流构建平台
SGLang
面向语言与多模态模型的高性能部署框架
评论 (0)
暂无评论,快来发表第一条评论吧
