软件详情

LLM Gateway综合评价:不错

mnfst · 接口管理

大模型网关工具,把多种模型接口整合为一个统一入口。

免费开源 · MIT
GitHub 收藏7.6K近 7 天 +15
代码最近更新2026 年 11 月 10 日
许可证开源 · MIT
要不要花钱免费
还没有人点评,来写第一条看口碑 ↓

能把各家大模型接口、账号订阅和本地模型汇总为一个接口,支持出错自动切换与费用统计。适合开发或使用 AI 应用的人。可使用官方云服务或在服务器部署。

用起来难吗要填自己的模型 Key在哪用网页官方云服务自己部署能用的模型OpenAI GPTClaudeGeminiDeepSeek通义千问智谱 GLMKimiGrok能用自己电脑上的模型能填中转站的地址和 Key

能做什么

  • 统一接入多家模型与订阅账号
  • 遇到请求出错时自动切换备用模型
  • 记录完整请求日志与报错信息
  • 追踪使用花费并设置限额提醒
  • 接入本地运行的各种开源大模型

怎么开始

  1. 访问官方云服务或通过镜像在服务器部署
  2. 绑定你的大模型接口密钥、订阅账号或本地模型
  3. 将生成的统一接口配置给你的 AI 应用调用

选它,如果你……

  • 你手头有多个大模型接口或订阅账号想统一管理
  • 你希望某个模型调用失败时能自动切到备用模型
  • 你需要统计不同模型的调用花费并设置限额报警

别选,如果你……

  • 你只想找个打开就能直接聊天的现成网页工具
  • 你没有现成的大模型接口密钥或对应的订阅账号

怎么用

代码开源,可以免费下载使用。

多少钱、在哪买

免费使用。

用户口碑

还没有人点评。用过的话,写下第一条真实体验,帮后来的人少踩坑。

发布软件评论

评分
选填
编辑器加载中…

数据来源:GitHub,每天更新,更新时间 2026 年 11 月 10 日。 信息有误?告诉我们。

LLM Gateway:是什么、要不要花钱、怎么用 | 模真真