
GitHub 收藏6.4K近 7 天 +52
代码最近更新2026 年 11 月 10 日
许可证开源 · Apache-2.0
要不要花钱免费
主要根据提问信号和策略,把请求分发到不同大模型上执行,兼顾成本与效果。适合需要管理多模型的开发者使用。可以通过演练场打开网页试用,也能写代码安装部署。
用起来难吗打开网页就能用在哪用网页命令行自己部署能用的模型说明里没点名
能做什么
- 自动把提问分发给最合适的模型
- 根据策略平衡推理成本与响应速度
- 跨边缘设备与云端调度计算资源
- 在推理过程中保护数据隐私与安全
- 提供在线演练场供用户试用体验
怎么开始
- 打开官方提供的演练场网页。
- 输入官方给出的测试账号与密码登录。
- 在网页中体验不同模型的请求分发效果。
选它,如果你……
- 你需要同时调度多个大模型并平衡成本与延迟。
- 你想把不同任务自动分派给最合适的模型处理。
- 你想在不同算力和设备间灵活分发推理请求。
别选,如果你……
- 你只需要单一模型且没有复杂的模型分发需求。
- 你不会写代码且不想在实际业务中配置部署。
怎么用
代码开源,可以免费下载使用。
多少钱、在哪买
免费使用。
看看它的样子
综合评价
不错还在更新,问题处理一般
- 更新很活跃近 90 天改代码 1,373 次;最近一次发版是 45 天前(v0.4.0)
- 问题处理一般近 90 天新开 1,383 个问题,解决了 1,222 个,一般 39 天解决;外部提交的修改合进 1,200 个,待处理 261 个
- 用的人一般GitHub 收藏 6,437,近 7 天新增 52;281 人参与开发
- 用户口碑暂不计用户评价满 5 条后才算进来
数字取自 GitHub 的公开记录(2026/11/10), 用户评价来自本页口碑。自己核对:项目主页、问题、外部提交的修改、发版记录。
怎么评的
只看公开、能核对的数据,不打分数,只给四档结论,每一项的依据都写在旁边。
- 更新:近 90 天改了多少次代码、最近一次发版是哪天。7 天内有改动并且改得多或常发版,算「很活跃」;30 天内有改动算「活跃」;半年内算「放缓」;半年以上没动或者已经归档,算「停更」。
- 问题处理:近 90 天新开的问题解决了几成、一般几天解决、外部提交的修改积压了多少。解决八成以上、一般一周内解决、积压不比合进去的多,算「好」;解决不到一半算「差」;其余算「一般」。新问题不到 10 个的不评。
- 用的人:GitHub 收藏 5 万以上算很多,1 万以上算多,1 千以上算一般。旁边写近 7 天新增多少、多少人参与开发。
- 用户口碑:用户评价满 5 条才算进来(注册不满 7 天的账号不算);平均分在 2.5 分及以下,总评降一档。
- 总评四档:还在更新、问题处理好、用的人多 → 推荐;还在更新 → 不错;更新放缓或问题处理差 → 一般;半年以上没更新 → 谨慎。许可证有附加条件、商用受限的,单独提醒,不影响总评。
- 收费软件(ChatGPT、Cursor 这类)没有公开的问题记录,就看 App Store:最近一次更新在 30 天内算「活跃」,半年内算「放缓」,半年以上算「停更」;打分人数 10 万以上算很多,1 万以上算多,1 千以上算一般;评分 4 分以上算好,2.5 分及以下算差,打分不到 100 人不评。再加上用户评价。
收藏数能刷,所以只占一项;更新和问题处理很难刷。数据每天更新,超过两周没更新的不评。
最近更新和热度
- v0.4.0
主要是内部改进和问题修复
- v0.3.0
清理错误响应防泄密,优化面板设置并修复路由等问题
- v0.2.0
命令行支持面板,适配 XPU 平台,重新支持 Gemma 嵌入
GitHub 收藏
6,437 次净增 +3392026/10/12—2026/11/102026/11/10 · 6,437 次
查看每日记录
| 日期 | GitHub 收藏(次) |
|---|---|
| 2026/10/12 | 6,098 |
| 2026/10/13 | 6,122 |
| 2026/10/14 | 6,140 |
| 2026/10/15 | 6,169 |
| 2026/10/16 | 6,188 |
| 2026/10/17 | 6,202 |
| 2026/10/18 | 6,206 |
| 2026/10/19 | 6,212 |
| 2026/10/20 | 6,222 |
| 2026/10/21 | 6,235 |
| 2026/10/22 | 6,244 |
| 2026/10/23 | 6,248 |
| 2026/10/24 | 6,252 |
| 2026/10/25 | 6,253 |
| 2026/10/26 | 6,256 |
| 2026/10/27 | 6,274 |
| 2026/10/28 | 6,282 |
| 2026/10/29 | 6,305 |
| 2026/10/30 | 6,330 |
| 2026/10/31 | 6,350 |
| 2026/11/01 | 6,357 |
| 2026/11/02 | 6,369 |
| 2026/11/03 | 6,385 |
| 2026/11/04 | 6,390 |
| 2026/11/05 | 6,396 |
| 2026/11/06 | 6,406 |
| 2026/11/07 | 6,413 |
| 2026/11/08 | 6,415 |
| 2026/11/09 | 6,425 |
| 2026/11/10 | 6,437 |
能替代它的
标出的是和 Semantic Router 不一样的地方
Gateway综合评价:一般侧重统一管理和调度多个大模型接口网关还没人评 · 302 天前更新
LLM Gateway综合评价:不错侧重把多种模型接口整合成单一的统一访问入口还没人评 · 1 天前更新
Bifrost综合评价:不错主打高性能分发,统合成一个标准接口供外部调用还没人评 · 3 天前更新
| 软件 | 起步价 | 难不难用 | 中文 | 开源 | 口碑 | 最近更新 |
|---|---|---|---|---|---|---|
| Semantic Router | 免费 | 打开网页就能用 | 没写明 | 开源 | 还没人评 | 44 天前 |
| Gateway | 免费 | 要写代码 | 没写明 | 开源 | 还没人评 | 302 天前 |
| LLM Gateway | 免费 | 要填自己的模型 Key | 没写明 | 开源 | 还没人评 | 1 天前 |
| Bifrost | 免费 | 要自己部署 | 没写明 | 开源 | 还没人评 | 3 天前 |
逐项对比Semantic Router 对
| Semantic Router | Gateway | |
|---|---|---|
| 起步价 | 免费 | 免费 |
| 难不难用 | 打开网页就能用 | 要写代码 |
| 中文 | 没写明 | 没写明 |
| 开源 | 开源 | 开源 |
| 口碑 | 还没人评 | 还没人评 |
| 最近更新 | 44 天前 | 302 天前 |
标黄的是两款不一样的地方
用户口碑
还没有人点评。用过的话,写下第一条真实体验,帮后来的人少踩坑。
数据来源:GitHub,每天更新,更新时间 2026 年 11 月 10 日。 信息有误?告诉我们。
发布软件评论