tashfeenahmed/freellmapi

本页介绍外部开源仓库，并非 HDATF 产品。

它做什么

FreeLLMAPI把众多LLM provider的免费额度汇集到一个兼容OpenAI的/v1 API之后。router会挑选可用模型，在某个provider触发速率限制时切换到其他provider，并按密钥记录用量，以免超出免费额度。

触发速率限制时切换到其他provider的机制以及按密钥记录用量的做法，可作为Harness在多个executor之间处理工作的参考。不过项目方声明仅供个人实验使用。

google-research/timesfm
TimesFM是Google Research开发的时间序列预测预训练foundation model。最新的3.0版本新增了多变量预测，并支持过去和未来的covariate。
antirez/ds4
DwarfStar是一个小型原生推理引擎，用于在消费级硬件上运行DeepSeek V4 Flash、GLM 5.x等少数大语言模型，支持Metal、CUDA和ROCm，只使用项目自己生成的GGUF文件。
diegosouzapw/OmniRoute
OmniRoute是采用MIT许可的AI网关，把多家模型提供方集中到同一个endpoint之后，供Claude Code、Codex、Cursor、Cline等工具使用。它提供考虑配额的自动回退、token压缩，以及追踪各提供方免费额度的仪表盘。
decolua/9router
9Router是一个路由工具，可将Claude Code、Codex、Cursor、Cline等AI编程工具连接到40多个提供方。它会按订阅、低价、免费模型的顺序自动回退，并压缩工具结果以节省token。
deepseek-ai/DeepSpec
DeepSpec是用于训练和评估推测解码（speculative decoding）草稿模型的代码库。它包含数据准备、草稿模型实现、基于缓存目标模型输出的训练，以及在基准任务上测量接受率的评估。

只收录进入 Trendshift 排行榜的仓库，榜单仅用于寻找候选项目，不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目，上榜并不证明质量。