magnitudedev/magnitude

本页介绍外部开源仓库，并非 HDATF 产品。

它做什么

这是在用户硬件上编译和调优内核的智能体推理引擎。它在Apple Silicon、NVIDIA、AMD或CPU上运行开放模型，并通过桌面应用和CLI连接现有智能体。

可以将其本地推理和智能体连接方式作为Harness执行后端的候选方案进行比较。按硬件调优和会话间共享前缀缓存是可比较的要点。

Apache-2.0 宽松许可，含专利授权。可商用，需保留声明并注明修改。

ProjectDMX/DMI
这是用于查看LLM推理和训练内部状态的解耦异步观测后端。它处于研究预览阶段，提供HuggingFace、vLLM和Megatron-LM集成，API可能变化。
ninjahawk/livenerf
这是追踪模型发布后能力变化的长期基准，使用固定提示词、锁定的 CLI 版本、固定评分器和留存的原始日志。
deepopen-com/deepopen
这是基于 Laya 的多语言结构化决策引擎，不逐个生成词元，而是通过一次前向传播完成多维分类。
basetenlabs/baseten-switch
这是在原生供应商和 Baseten 模型之间切换受支持编程执行器请求的本地 macOS 应用及网关，提供全局路由开关和客户端模型映射，目前处于测试阶段。
firelex/jeff
这是对Qwen3.5和Gemma 4进行微调的分类模型。它接收自然语言描述的情境和选项，不生成文本，直接返回各选项的概率。

只收录进入 Trendshift 排行榜的仓库，榜单仅用于寻找候选项目，不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目，上榜并不证明质量。