antirez/ds4
- 来源
- GitHub
- 首次上榜日期
- 领域
- 模型推理
- GitHub 星标数
- 22,472
- 主要语言
- C
本页介绍外部开源仓库,并非 HDATF 产品。
它做什么
DwarfStar是一个小型原生推理引擎,用于在消费级硬件上运行DeepSeek V4 Flash、GLM 5.x等少数大语言模型,支持Metal、CUDA和ROCm,只使用项目自己生成的GGUF文件。
对 ATF 的帮助
值得与需要在本地硬件上运行模型的AX consulting场景进行比较。由于它将tool call、HTTP服务器和coding agent一起构建和测试,也可作为Harness下本地executor的参考。
许可证
MIT 宽松许可。保留版权声明即可商用和修改。
同领域的其他仓库
- tashfeenahmed/freellmapi
FreeLLMAPI把众多LLM provider的免费额度汇集到一个兼容OpenAI的/v1 API之后。router会挑选可用模型,在某个provider触发速率限制时切换到其他provider,并按密钥记录用量,以免超出免费额度。 - decolua/9router
9Router是一个路由工具,可将Claude Code、Codex、Cursor、Cline等AI编程工具连接到40多个提供方。它会按订阅、低价、免费模型的顺序自动回退,并压缩工具结果以节省token。 - google-research/timesfm
TimesFM是Google Research开发的时间序列预测预训练foundation model。最新的3.0版本新增了多变量预测,并支持过去和未来的covariate。 - kyegomez/OpenMythos
一个基于公开研究和推测、重构Claude Mythos模型架构的社区项目,与Anthropic无关。它实现了带循环模块的recurrent-depth transformer,采用MLA或GQA attention以及MoE(mixture-of-experts)层。 - diegosouzapw/OmniRoute
OmniRoute是采用MIT许可的AI网关,把多家模型提供方集中到同一个endpoint之后,供Claude Code、Codex、Cursor、Cline等工具使用。它提供考虑配额的自动回退、token压缩,以及追踪各提供方免费额度的仪表盘。
只收录进入 Trendshift 排行榜的仓库,榜单仅用于寻找候选项目,不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目,上榜并不证明质量。