antirez/ds4

来源
GitHub
首次上榜日期
领域
模型推理
GitHub 星标数
22,472
主要语言
C

本页介绍外部开源仓库,并非 HDATF 产品。

antirez/ds4

它做什么

DwarfStar是一个小型原生推理引擎,用于在消费级硬件上运行DeepSeek V4 Flash、GLM 5.x等少数大语言模型,支持Metal、CUDA和ROCm,只使用项目自己生成的GGUF文件。

对 ATF 的帮助

值得与需要在本地硬件上运行模型的AX consulting场景进行比较。由于它将tool call、HTTP服务器和coding agent一起构建和测试,也可作为Harness下本地executor的参考。

许可证

MIT 宽松许可。保留版权声明即可商用和修改。

同领域的其他仓库

  • tashfeenahmed/freellmapi
    FreeLLMAPI把众多LLM provider的免费额度汇集到一个兼容OpenAI的/v1 API之后。router会挑选可用模型,在某个provider触发速率限制时切换到其他provider,并按密钥记录用量,以免超出免费额度。
  • decolua/9router
    9Router是一个路由工具,可将Claude Code、Codex、Cursor、Cline等AI编程工具连接到40多个提供方。它会按订阅、低价、免费模型的顺序自动回退,并压缩工具结果以节省token。
  • google-research/timesfm
    TimesFM是Google Research开发的时间序列预测预训练foundation model。最新的3.0版本新增了多变量预测,并支持过去和未来的covariate。
  • kyegomez/OpenMythos
    一个基于公开研究和推测、重构Claude Mythos模型架构的社区项目,与Anthropic无关。它实现了带循环模块的recurrent-depth transformer,采用MLA或GQA attention以及MoE(mixture-of-experts)层。
  • diegosouzapw/OmniRoute
    OmniRoute是采用MIT许可的AI网关,把多家模型提供方集中到同一个endpoint之后,供Claude Code、Codex、Cursor、Cline等工具使用。它提供考虑配额的自动回退、token压缩,以及追踪各提供方免费额度的仪表盘。

只收录进入 Trendshift 排行榜的仓库,榜单仅用于寻找候选项目,不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目,上榜并不证明质量。

在 GitHub 上查看 (在新标签页中打开)