google-ai-edge/gallery

本页介绍外部开源仓库，并非 HDATF 产品。

它做什么

一个展示端侧生成式AI用例的应用，让人们在移动设备上离线试用开源模型。它包含带thinking mode的聊天功能，以及可添加Wikipedia等tool的agent skill。

从URL加载模块化agent skill的做法，可作为考虑Harness如何为任务打包和加载skill时的粗略参考。

Apache-2.0 宽松许可，含专利授权。可商用，需保留声明并注明修改。

shiyu-coder/Kronos
Kronos是一组在金融K线数据上预训练的decoder-only基础模型。tokenizer先把价格和成交量序列转换为离散token，再用这些token训练的Transformer完成预测等量化任务。
TheTom/turboquant_plus
TurboQuant+是TurboQuant的研究实现，使用PolarQuant和Walsh-Hadamard旋转压缩transformer的KV cache。仓库包含Python参考实现、验证论文和benchmark数据。
Alishahryar1/free-claude-code
一个把Claude Code、Codex、OpenCode、Hermes等coding agent连接到统一模型目录的工具，目录涵盖免费、付费、订阅和本地模型提供方。重试全部失败后，会切换到下一个已配置的模型。
jundot/omlx
面向Apple Silicon Mac的本地LLM推理服务器，可从macOS菜单栏管理。它采用continuous batching，并把KV cache分层保存在内存和SSD中，使以往的context可在多个请求间复用。
kyegomez/OpenMythos
一个基于公开研究和推测、重构Claude Mythos模型架构的社区项目，与Anthropic无关。它实现了带循环模块的recurrent-depth transformer，采用MLA或GQA attention以及MoE（mixture-of-experts）层。

只收录进入 Trendshift 排行榜的仓库，榜单仅用于寻找候选项目，不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目，上榜并不证明质量。