huggingface/transformers

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

何をするか

Transformersは、テキスト、画像、音声、動画、マルチモーダルのモデル定義を集めて推論と学習に使えるようにしたHugging FaceのPythonライブラリです。公開モデルをダウンロードして実行したりファインチューニングしたりしたい研究者、MLエンジニア、開発者が主な利用者で、Hubにはこの形式のチェックポイントが100万以上公開されています。同じモデル定義を、Axolotl、Unsloth、DeepSpeedなどの学習ツール、vLLM、SGLang、TGIなどの推論エンジン、llama.cppとmlxが共通して使う基準の役割を果たします。モデルごとに設定、モデル、前処理器の3つのクラスで構成され、Pipelineはテキスト生成、音声認識、画像分類、視覚的質問応答を数行のコードで実行します。Trainerは混合精度、torch.compile、FlashAttention、分散学習に対応し、generateはストリーミングと複数のデコード方式を提供します。始めるにはPython 3.10以上とPyTorch 2.6以上が必要で、ダウンロードしたモデルはHF_HUB_CACHEフォルダーに保存され、オフラインで使うにはsnapshot_downloadで事前に取得した後にHF_HUB_OFFLINE=1を設定します。serving追加インストールで使うtransformers serveは、localhost:8000にOpenAI SDK互換のサーバーを開き、chat completions、responses、音声の文字起こし、モデル一覧などのエンドポイントを提供します。ツール呼び出しはトークナイザーがツール呼び出し用のトークンを宣言したモデルで動作し、公式文書はこのサーバーを評価と実験、中程度の負荷の配備向けとして紹介し、大規模な運用にはvLLMやSGLangを勧めています。公式READMEはこのライブラリをモデル定義を中心とするツールとして紹介し、学習APIはTransformersが提供するPyTorchモデルに合わせてあるため、一般的な学習loopにはAccelerateを、サンプルスクリプトは状況に合わせて書き換えて使うことを勧めています。READMEにはPyTorch、JAX、TF2.0の間でモデルを移す記述が残っていますが、現在のsetup.py(5.19.0.dev0)とインストール文書はPyTorchだけを扱い、ライブラリはApache-2.0でも各チェックポイントは別のライセンスとアクセス条件を持つことがあります。

ライセンス

Apache-2.0 寛容で特許許諾を含みます。商用利用できます。告知を残し、変更点を明記します。

同じ分野のリポジトリ

• Tencent-Hunyuan/Hy-MT2
  Hy-MT2はTencent Hunyuanチームが公開した翻訳専用の言語モデル群で、1.8B、7B、混合エキスパート(MoE)構造の30B-A3Bの3サイズがあります。33言語間の翻訳に対応し、対応言語の表には韓国語と日本語が含まれています。原文と翻訳の指示をプロンプトとして入れると訳文を返し、READMEは用語指定、文体、パーソナライズ、区切り記号、構造化データ向けのプロンプトのひな形を示しています。最大context長は8192トークンで既定のシステムプロンプトがないため、長い文書は分割して入れる必要があります。モデルファイルを小さくしたFP8とGGUFの量子化版は2ビットと1.25ビットの形式まであり、READMEは1.8Bモデルを1.25ビットに量子化すると保存容量が約440MBになると紹介しています。実行には、モデルリポジトリのコードをそのまま実行する設定であるtrust_remote_codeを有効にしたtransformers 5.6.0以降か、ソースからビルドしたvLLM、SGLangが必要で、READMEはllama.cppで低ビット形式を使うにはプルリクエスト22836のSTQカーネルが必要だと案内しています。LLaMA-FactoryとDeepSpeedでLoRAまたはフルファインチューニングができ、学習ガイドは1.8Bに24GB以上のGPU 1枚、7BのLoRAに80GBのGPU 1枚、30Bに80GBのGPU 8枚を求めています。指示に従う翻訳を評価するIFMTBenchもCC-BY-4.0で公開され、6種類の制約をルールとLLMによる採点で評価します。モデルのライセンスはLICENSE.txtによるとApache 2.0で、READMEの性能比較の数値は今回独自に確認できていません。
• Ebony-Vinyl/dsh-our-free-model
  dshエージェントを外部のモデルサービスに接続するプラグインであり、モデルの重みをローカルで実行するものではありません。会話、ツールの結果、必要に応じて画像を外部ゲートウェイに送り、回答やツール呼び出しを受け取ります。アダプターはモデル一覧を更新し、利用可能性を確認して、複数の応答規格をホストのストリーミング形式に変換します。他のプログラム向けのOpenAI互換ローカル転送サービスと、ローカルの利用記録も備えています。開始には対応するdshホスト、対応するNode.js実行環境、ネットワーク接続が必要です。Kiloは無料モデルへの匿名アクセスを公式に認めていますが、IP単位の回数制限があります。OpenCode経路ではクライアントの識別情報も模倣するため、すべてを公式公開APIとみなさず、利用権限と規約を別途確認する必要があります。他のアカウント経路とデスクトップのEAC経路には別のログインや承認が必要であり、無料ゲートウェイを無制限、非公開、機密の本番データ向けと考えてはいけません。
• deepseek-ai/DeepGEMM
  行列積や融合MoEなど、言語モデルの計算向けのCUDAテンソルコアカーネルライブラリです。DeepJITで実行時にカーネルをコンパイルします。
• Edge0-AI/Edge0
  Edge0はSSDへのエキスパートのオフロード、Recover-LoRA、ルーティング予測を使うストリーミングMoE推論フレームワークです。READMEでは公開済みのプラットフォーム別エンジンと2026年第4四半期予定の統合フレームワークを区別しています。
• Vibra-Ingenn/Janus
  gguf modelを自分の計算機で動かす単一のGo実行ファイルです。llama.cppを使いAMD、Intel、NVIDIAのグラフィックスのVulkanで動かし、無い場合はCPUで動かし、OpenAIと同じ形のAPIでchat completionsとmodelsを公開します。再起動せずにmodelを入れ替え、推論部分を別の項目に分け、chat templateをgguf情報から読み取ります。PythonやDockerは必要ありません。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。