面向苹果芯片Mac的本地模型推理微调工具
基于MLX的Python工具,支持文本生成、模型量化和LoRA微调,可通过命令行或代码调用,适合在M系列Mac上搭建本地模型实验环境。
网站可用域名
1 个
相关推荐
Page Assist
将本地AI接入浏览器侧边栏的开源扩展
GPT4All
支持离线聊天与本地文档问答的桌面软件
TextGen
支持多种推理后端的本地大模型运行平台
KoboldCpp
集成本地模型推理与聊天界面的轻量工具
vLLM
面向高并发调用的大模型推理服务引擎
LM Studio
支持本地模型运行与智能体任务的桌面工具
FastGPT
可本地部署的知识库问答与工作流构建平台
LocalAI
兼容常用模型接口的本地推理服务框架
PocketPal AI
可在手机和平板上离线运行模型的AI助手
评论 (0)
暂无评论,快来发表第一条评论吧
