tashfeenahmed/freellmapi

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

何をするか

FreeLLMAPIは、多くのLLM providerの無料枠をOpenAI互換の1つの/v1 APIにまとめます。routerが利用可能なモデルを選び、あるproviderがレート制限にかかると別のproviderに切り替え、無料枠の上限を超えないようキーごとの使用量を記録します。

ATFへの役立ち方

レート制限時に別のproviderへ切り替える仕組みとキーごとの使用量記録は、Harnessが複数のexecutorにまたがって作業を扱う方法の参考になり得ます。ただしプロジェクトは個人の実験用途に限るとしています。

ライセンス

MIT 寛容なライセンスです。著作権表示を残せば商用利用と改変ができます。

同じ分野のリポジトリ

• google-research/timesfm
  TimesFMは、Google Researchが開発した時系列予測用の事前学習済みfoundation modelです。最新の3.0では、多変量予測と、過去および未来のcovariateへの対応が加わりました。
• antirez/ds4
  DeepSeek V4 FlashやGLM 5.xなど少数の大規模言語モデルを一般向けハードウェアで動かす、小さなネイティブ推論エンジンDwarfStarです。Metal、CUDA、ROCmを対象としています。プロジェクト自身が作ったGGUFファイルだけを使います。
• diegosouzapw/OmniRoute
  OmniRouteは、複数のモデルプロバイダーを1つのendpointの背後にまとめ、Claude Code、Codex、Cursor、Clineなどのツールから使えるようにするMITライセンスのAI gatewayです。クォータを考慮した自動切り替え、トークン圧縮、プロバイダーの無料枠を示すダッシュボードを備えています。
• decolua/9router
  9Routerは、Claude Code、Codex、Cursor、ClineなどのAIコーディングツールを40以上のプロバイダーにつなぐルーターです。サブスクリプション、安価なモデル、無料モデルの順に自動で切り替え、tool結果を圧縮してトークンを節約します。
• deepseek-ai/DeepSpec
  DeepSpecは、speculative decoding用のdraftモデルを学習、評価するためのコードベースです。データ準備、draftモデルの実装、キャッシュしたtargetモデル出力を使った学習、ベンチマーク課題でのacceptance測定を含みます。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。