mlabonne/llm-course

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

何をするか

大規模言語モデル（LLM）を学び始める人向けの講座資料集で、GitHubのREADME一つにロードマップ図、概念説明と参考資料のリンクをまとめています。数学、Python、ニューラルネットワークを扱う任意のLLM Fundamentals、モデル構築を扱うThe LLM Scientist、LLMアプリの開発とデプロイを扱うThe LLM Engineerの三部構成です。Scientistではモデル構造、事前学習、事後学習データ、ファインチューニング、選好アライメント、評価、量子化とモデルマージを扱います。Engineerではモデルの実行、ベクトルストレージ、RAG（検索拡張生成）、エージェント、推論最適化、デプロイとセキュリティを扱います。ファインチューニング、量子化、マージの実習ノートブックはリポジトリ外のGoogle Colabへのリンクで提供され、一部の説明にはRunPod、Hugging Face Hub、ZeroGPUなどの外部サービスが出てきます。リポジトリはREADME、ライセンスと画像だけで構成された読む資料でインストール手順はなく、READMEは講座を今後も無料にすると述べています。ノートブックの内容、GPU要件とリンク先資料の利用条件は確認できていません。ノートブックの題名はLlama 2、Llama 3.1、Mistral-7bなど特定のモデルを前提とするため、実行前にライブラリのバージョンを確認する必要があります。

ライセンス

Apache-2.0 寛容で特許許諾を含みます。商用利用できます。告知を残し、変更点を明記します。

同じ分野のリポジトリ

• Gathin23/tv-vibehack
  Android TVとGoogle TVの所有者が、広告サービス、テレメトリー（利用情報の送信）アプリ、プリインストールアプリを無効にできるプロンプトとスクリプトのセットです。ネイティブのランチャーアプリも含まれます。READMEによると、最初の作業はClaude Codeが実機のTVでPROMPT.mdを使って行ったものです。TVでUSBデバッグを有効にし、画面でパソコンの接続を許可すると、シェル権限を持つコーディングアシスタントがプロンプトに従って進め、残すアプリを尋ねます。ADB（Androidのデバッグ接続）でパッケージと設定をバックアップし、pm disable-userでアプリを無効にし、手順ごとにTVの画面キャプチャで結果を確認します。tools/restore.shで対象パッケージと元のランチャーを再び有効にできます。Javaで作られたランチャーは、インストール済みアプリを表示し、4つのアプリをdockに固定し、HDMIやLive TVの入力を切り替えられ、インターネット権限を持ちません。ランチャーのビルドにはJDK 17とAndroid SDK 34、手動ツールにはPython 3とadb-shellが必要です。READMEで試験済みとされた5機種の一覧が含まれ、Samsung、LG、Fire TVは対象外です。多くの一覧は更新サービスも無効にするため、ファームウェア更新はそのサービスを再び有効にした後にのみ受け取れます。
• lucannez64/darling-lol
  macOS版League of Legendsクライアントをx86-64 Linuxで試す開発者向けのDarling実行環境パッチと連携ツール集です。完成したゲームランチャーではなく、描画、音声、入力、起動時の互換性を扱う実験的なプロジェクトです。固定されたDarlingソースと別途入手した公式ゲームを入力として、修正した実行環境でクライアントとゲームを動かすことを目指します。ソースパッチ、ビルド、導入、回帰確認用ツールを含みますが、ゲーム本体、アカウントデータベース、トークンは含みません。Linux 5.14以降、X11またはXwayland、Vulkan/OpenGL対応ハードウェアドライバー、ビルド依存関係、Python 3.12以降が必要です。実行環境のビルドとゲーム導入は別の作業であり、取得するだけでは利用できません。作者は保守に使える時間が限られ、別のPCで新規取得からの全工程を検証していないと説明しています。READMEは永久アカウント停止の危険を明記しており、互換性修正はRiotの承認を意味せず、掲載性能もここでは独立検証していません。
• darlinghq/darling
  仮想マシンを使わずにmacOSプログラムをLinuxで動かしたい開発者向けの互換実行環境です。macOS実行ファイルと必要な資料を受け取り、Linux上の環境で動作させることを目指します。公式READMEはMach-Oローダー、ユーザー空間のdarlingserver、DarwinインターフェースとAppleフレームワークの再実装を説明していますが、内部ソースをここで独立監査したものではありません。一部のコマンドラインツールは動作しますが、GUIアプリ対応は開発中でXcode本体もまだ対応していません。提供される公式パッケージ、または文書の依存関係を満たしたソースビルドから始め、対象アプリは別途用意します。ビルド案内はx86-64 Linux、ClangやCMake、サブモジュール、補助ライブラリを要求します。DPREFIXはmacOSに似たファイル構造を作りますが、overlayfsを利用するためNFSやeCryptfsなどの保存先には制限があります。実行環境の導入は特定アプリの動作保証ではなく、コミュニティパッケージはプロジェクトが検証していないと明記されています。
• chenglou/handwired
  Handwiredは、プログラムのロジックをニューラルネットの形で書くMITライセンスのTypeScriptプロジェクトです。プログラムは32-bit浮動小数点の固定された演算の列で、大半は加重和とReLUの積に0か1への丸めと表の読み出しが加わり、重みは学習なしで人が書きます。READMEは、通常のJavaScriptをニューラルネットに変えると紹介しています。docsは既存のJavaScriptソースを変換するツールはないと明記しており、プログラムはCircuitに演算を追加するbuilder codeで書きます。if-elseは両方の分岐を計算したうえで0か1の値が一方を選ぶ算術式になり、READMEはこれでプログラム全体が微分可能になるとし、docsは丸めと表の読み出しにgradientのオプションを別途求めています。プログラムはcellからなるFloat32Arrayを一つ読み、host側のJavaScriptが入力を書き込んで評価を実行し、次の状態を書き戻して結果をDOMに描きます。プログラムはCPU上のJavaScriptで実行され、JSON検索のデモだけがWebGPUのshaderに変換して、生成した100,000件のJSON文書をキー入力のたびに検索します。デモは、一つのプログラムが3つのウィンドウとdockを動かすHandwiredOS、配置用のネットワークをプログラムのgradientで学習した写真ギャラリー、JSON検索ページです。始めるにはBunが必要で(プロジェクトが検証したバージョンは1.4.3)、bun installとbun startでデモサイトを開き、新しいアプリはトグルスイッチのtemplateから始めます。labの状況文書は、コードの記述順でgradientが変わる問題などの既知の問題を挙げており、labフォルダーには以前の実験があります。
• nyacg/do-on-container
  do-poolは、リポジトリdo-on-containerにあるTypeScriptの実験です。同じCloudflareのDurable Objectクラスを本物のDurable Objectとして実行するか、Cloudflare Containersのworkerdの中にcontainer一つあたり数百個ずつまとめて実行します。ゲームのloop、在席表示、外部のfeed、モデルの応答を待つAIエージェントのように、起きているが仕事が少ないのに起きている時間の分だけ料金を払うオブジェクトが対象です。POST.mdでは、このようなオブジェクト1,000個の月額がpoolで約22ドル、本物のDurable Objectで約4,050ドルで、主にhibernateするオブジェクトは本物のDurable Objectが合うとしています。placementオブジェクトがオブジェクトをcontainerに割り当て、CPUと接続の統計でnodeの数を調整し、忙しいnodeのオブジェクトを複数ずつ移し、割り当てごとのepochで古い移動を防ぎます。nodeごとに30秒に1回、変わったオブジェクトすべてをR2のsegment一つとmanifestに書き、SIGTERMを受けると先にすべてを保存します。突然の障害では最大30秒分の書き込みを失うことがあり、文中のSIGKILLの試験では10件中5件、drainの試験では10件すべてが残りました。containerの場所は選べず、文中のブラウザーでの測定ではpoolの往復時間が約80ms、本物のDurable Objectが約20msでした。実行にはCloudflareのアカウントとAPI token、R2のbucket、linux/amd64イメージをビルドするDockerが必要で、状態のendpointは公開され、管理用の呼び出しだけがtokenを求めます。文章は草稿と記されており、リポジトリにはライセンスファイルがなく、デモはリアルタイムのカーソルとYjsの共同編集エディターの2つです。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。