ProjectDMX/DMI

来源
GitHub
首次上榜日期
领域
模型推理
GitHub 星标数
56
主要语言
Python

本页介绍外部开源仓库,并非 HDATF 产品。

ProjectDMX/DMI

它做什么

这是用于查看LLM推理和训练内部状态的解耦异步观测后端。它处于研究预览阶段,提供HuggingFace、vLLM和Megatron-LM集成,API可能变化。

对 ATF 的帮助

LabChin规划模型可解释性或幻觉分析实验时,可以参考其内部状态观测方式。采用前需要检查研究预览阶段API的稳定性。

许可证

Apache-2.0 宽松许可,含专利授权。可商用,需保留声明并注明修改。

同领域的其他仓库

  • magnitudedev/magnitude
    这是在用户硬件上编译和调优内核的智能体推理引擎。它在Apple Silicon、NVIDIA、AMD或CPU上运行开放模型,并通过桌面应用和CLI连接现有智能体。
  • ninjahawk/livenerf
    这是追踪模型发布后能力变化的长期基准,使用固定提示词、锁定的 CLI 版本、固定评分器和留存的原始日志。
  • deepopen-com/deepopen
    这是基于 Laya 的多语言结构化决策引擎,不逐个生成词元,而是通过一次前向传播完成多维分类。
  • basetenlabs/baseten-switch
    这是在原生供应商和 Baseten 模型之间切换受支持编程执行器请求的本地 macOS 应用及网关,提供全局路由开关和客户端模型映射,目前处于测试阶段。
  • firelex/jeff
    这是对Qwen3.5和Gemma 4进行微调的分类模型。它接收自然语言描述的情境和选项,不生成文本,直接返回各选项的概率。

只收录进入 Trendshift 排行榜的仓库,榜单仅用于寻找候选项目,不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目,上榜并不证明质量。

在 GitHub 上查看 (在新标签页中打开)