ProjectDMX/DMI

出典
GitHub
初登場日
分野
モデル推論
GitHubスター数
56
主な言語
Python

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

ProjectDMX/DMI

何をするか

LLMの推論と学習中の内部状態を確認する、分離型の非同期観測バックエンドです。HuggingFace、vLLM、Megatron-LMとの連携を提供する研究プレビュー段階で、APIは変更される可能性があります。

ATFへの役立ち方

LabChinでモデル解釈やハルシネーション分析の実験を計画する際、内部状態の観測方式を参考にできます。導入前には研究プレビュー段階のAPIの安定性を確認する必要があります。

ライセンス

Apache-2.0 寛容で特許許諾を含みます。商用利用できます。告知を残し、変更点を明記します。

同じ分野のリポジトリ

  • magnitudedev/magnitude
    ユーザーのハードウェア上でカーネルをコンパイルして調整するエージェント向け推論エンジンです。Apple Silicon、NVIDIA、AMDまたはCPUで公開モデルを実行し、デスクトップアプリとCLIから既存のエージェントに接続します。
  • ninjahawk/livenerf
    公開後のモデル能力の変化を追跡する長期ベンチマークです。固定したプロンプト、CLIバージョン、採点基準、保存した生ログを使います。
  • deepopen-com/deepopen
    Layaを基盤とする多言語の構造化意思決定エンジンです。トークンを順に生成せず、1回の順伝播で複数の次元を分類します。
  • basetenlabs/baseten-switch
    対応するコーディング実行器の要求を標準プロバイダーとBasetenモデルの間で切り替えるローカルmacOSアプリとゲートウェイです。全体の切り替えとクライアント別モデル設定を提供し、ベータ段階です。
  • firelex/jeff
    Qwen3.5とGemma 4を微調整した分類モデルです。自然言語で記述した状況と選択肢を受け取り、文章を生成せずに各選択肢の確率を返します。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。

GitHubで見る (新しいタブで開きます)