RunanywhereAI/runanywhere-sdks

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

何をするか

一つのC++コアを共有するSDK群で、LLM、ビジョン、音声、voice agent、embedding、RAG、画像生成を、スマートフォン、ブラウザ、デスクトップ、サーバー上でローカルに実行します。capability registryが各呼び出しを端末上のエンジンに振り分けます。

ATFへの役立ち方

関連は限定的です。AX consultingの現場で、端末上でオフライン動作するAI機能が必要になった場合の参考になり得ます。

ライセンス

独自ライセンス 標準ではない独自ライセンスです。再利用の前にライセンスファイルを確認してください。

同じ分野のリポジトリ

• p-e-w/heretic
  directional ablationにより、transformer言語モデルからsafety alignmentによる拒否動作を取り除くCLIツールです。Optunaベースのoptimizerが、拒否を減らしつつ元のモデルから大きく離れないパラメータを探します。
• microsoft/BitNet
  bitnet.cppは1ビットLLM向けの公式推論フレームワークで、CPUとGPU向けに最適化されたカーネルを備えます。1ビットの埋め込みモデルと、その変換と実行のガイドも公開しています。
• AlexsJones/llmfit
  llmfitはマシンのCPU、RAM、GPU、VRAMを調べ、その環境で動かせるオープンソースLLMと量子化形式を推奨します。ターミナルUI、Webダッシュボード、REST APIを備え、ローカルで実際の毎秒トークン数を測るベンチマークもできます。
• Lordog/dive-into-llms
  上海交通大学の講義から生まれた無料の中国語LLM実践チュートリアルシリーズです。fine-tuningとデプロイ、promptとchain of thought、知識編集、数学推論、GUI agent、alignmentを、スライド、解説、notebookで扱います。
• maderix/ANE
  リバースエンジニアリングで得た非公開APIを使い、Apple Neural Engine上で直接ニューラルネットワークを学習させる研究用の概念実証です。CoreMLの学習API、Metal、GPUは使わず、作者は保守されるフレームワークではないと明言しています。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。