mizorewww/laya-coreml

出典
GitHub
初登場日
分野
モデル推論
GitHubスター数
1,287
主な言語
Python
ウェブサイト
github.com/mizorewww/laya-coreml#readme (新しいタブで開きます)

外部のオープンソース リポジトリを紹介するページです。HDATFの製品ではありません。

mizorewww/laya-coreml

何をするか

Layaの型付き判断モデルをApple Core MLとNeural Engineへ移植したものです。トークンを生成せず端末上で実行し、速度と消費電力の測定値、Snakeのデモを公開しています。

ATFへの役立ち方

Harnessでエージェント実行と分離したローカルの型付き判断部品を検討する際、AppleハードウェアでMLXランタイムと比較できます。

ライセンス

Apache-2.0 寛容で特許許諾を含みます。商用利用できます。告知を残し、変更点を明記します。

同じ分野のリポジトリ

  • Taichu-AI/ZDTaichu5.0-9B
    テキスト、画像、動画に対応し、視覚理解、空間推論、エージェントのツール使用、身体性AI研究を扱うマルチモーダルモデルです。Qwen3.5-9Bの言語基盤とC-RADIOv4-Hの視覚エンコーダを組み合わせています。
  • mizorewww/laya-mlx
    Apple SiliconでLayaの型付き判断モデルを実行するMLXランタイムです。テキスト生成、PyTorchランタイム、クラウドAPIを使わずローカル推論を行います。
  • NVIDIA/Model-Optimizer
    量子化、枝刈り、蒸留、投機的デコーディングを提供するモデル最適化ライブラリです。推論フレームワーク向けに最適化したチェックポイントを出力します。
  • jaredpalmer/kev
    事前学習済み重み、学習コード、評価データを提供するQwen3.5ベースの小型判断モデルです。APIは二択、選択式、評点の質問に対応し、TypeSafe System Oneの形式に合わせています。
  • Low-Zi-Hong/ESP32s3-LLM-Cluster
    ESP32-S3ノード7台と1.58ビット量子化を使う分散言語モデル推論プロジェクトです。親ノードがトークン化と埋め込みを担当し、SPI接続されたノードがモデル層を処理します。

Trendshiftのランキングに入ったリポジトリだけを載せ、リストは候補を探すためだけに使いました。順位の数字は転載していません。説明、ライセンス、スター数は各GitHubリポジトリで確認しました。解説は私たちの判断です。これらを試験したわけではなく、上昇リストに載ったことは品質の証明ではありません。

GitHubで見る (新しいタブで開きます)