mizorewww/laya-coreml

本页介绍外部开源仓库，并非 HDATF 产品。

它做什么

这是把Laya类型化决策模型移植到Apple Core ML与Neural Engine的项目，在设备端运行且不生成token，并公开了速度与能耗基准和一个贪吃蛇演示。

对 ATF 的帮助

Harness在考虑与智能体执行分离的本地类型化决策组件时，可以在Apple硬件上与MLX运行时进行比较。

许可证

Apache-2.0 宽松许可，含专利授权。可商用，需保留声明并注明修改。

同领域的其他仓库

• Taichu-AI/ZDTaichu5.0-9B
  支持文本、图像和视频的多模态模型，面向视觉理解、空间推理、代理工具使用和具身 AI 研究。它结合了 Qwen3.5-9B 语言骨干与 C-RADIOv4-H 视觉编码器。
• mizorewww/laya-mlx
  这是在Apple Silicon上运行Laya类型化决策模型的原生MLX运行时，无需文本生成、PyTorch运行时或云端API即可进行本地推理。
• NVIDIA/Model-Optimizer
  提供量化、剪枝、蒸馏和推测解码的模型优化库。可导出供下游推理框架使用的优化检查点。
• jaredpalmer/kev
  这是基于Qwen3.5的小型决策模型，提供预训练权重、训练代码和评估数据。API支持是非、选择及评分问题，并兼容TypeSafe System One格式。
• Low-Zi-Hong/ESP32s3-LLM-Cluster
  这是使用七个ESP32-S3节点和1.58位量化的分布式语言模型推理项目。主节点处理分词和嵌入，通过SPI连接的节点处理模型层。

只收录进入 Trendshift 排行榜的仓库，榜单仅用于寻找候选项目，不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目，上榜并不证明质量。