JustVugg/colibri

出典
GitHub
初登場日
分野
モデル推論
GitHubスター数
38,145
主な言語
C
ウェブサイト
justvugg.github.io/colibri (新しいタブで開きます)

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

JustVugg/colibri

何をするか

engine依存なしの純粋なCで書かれ、大規模なMoE(mixture-of-experts)モデルを一般向けハードウェアで動かす推論エンジンです。VRAM、RAM、ストレージを一つのメモリ階層として扱い、expertをディスクからストリーミングします。

ATFへの役立ち方

顧客がすでに持っているハードウェアでモデルを動かす必要があるAX consultingの事例で参考になります。プロジェクト自身が速度を保証しないと明記しているため、そのまま使うより研究の参考に近いです。

ライセンス

Apache-2.0 寛容で特許許諾を含みます。商用利用できます。告知を残し、変更点を明記します。

同じ分野のリポジトリ

  • router-for-me/CLIProxyAPI
    Codex、Claude Code、Antigravity、Grok BuildなどのCLIツールを、OpenAI、Gemini、Claude互換のAPIとして公開するGo製のプロキシサーバーです。互換クライアントやSDKからこれらのモデルを使え、複数のCLIアカウントにも対応します。
  • deepseek-ai/DeepSpec
    DeepSpecは、speculative decoding用のdraftモデルを学習、評価するためのコードベースです。データ準備、draftモデルの実装、キャッシュしたtargetモデル出力を使った学習、ベンチマーク課題でのacceptance測定を含みます。
  • Robbyant/lingbot-map
    ストリーミングで3D再構成を行うフィードフォワード型モデルです。Geometric Context Transformerがアンカーコンテキスト、姿勢参照ウィンドウ、軌跡メモリを使い、長いフレーム列で生じるドリフトを補正します。
  • diegosouzapw/OmniRoute
    OmniRouteは、複数のモデルプロバイダーを1つのendpointの背後にまとめ、Claude Code、Codex、Cursor、Clineなどのツールから使えるようにするMITライセンスのAI gatewayです。クォータを考慮した自動切り替え、トークン圧縮、プロバイダーの無料枠を示すダッシュボードを備えています。
  • lidge-jun/opencodex
    opencodexは、CodexのResponses APIを他のプロバイダーの形式に変換するローカルproxyで、streamingやtool callも変換します。これにより、Codex、Claude Code、Claude Desktop、Grok BuildでGemini、DeepSeek、Ollamaのモデルなどを使えます。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。

GitHubで見る (新しいタブで開きます)