PrismML-Eng/Bonsai-demo

本页介绍外部开源仓库，并非 HDATF 产品。

它做什么

这是在GPU或CPU上本地运行Bonsai语言模型的演示。其Bonsai 2演示包括视觉输入、工具调用和MCP服务器支持。

对 ATF 的帮助

Harness在考虑执行后端时，可以比较其本地推理和工具调用配置。

许可证

Apache-2.0 宽松许可，含专利授权。可商用，需保留声明并注明修改。

同领域的其他仓库

• TheoLeeCJ/openjev
  这是一个直接读取类型化选项概率、而非生成回答文本的开放模型实验。它探索Jev的接口模式，并不复现其未公开的模型或训练。
• vinnylarouge/jevlike
  Jevlike是一个独立的入门模型，接收一段文本和一组会变化的文本选项，一次计算即为每个选项返回一个概率。演示中用同样的方法选择Doom手柄按键和国际象棋走法。
• anthropics/uplifting-biomolecular-modeling
  这是一组面向固定上游版本的蛋白质和基因组机器学习工具的推理优化套件。它是参考发布，不再维护，也不接受贡献。
• modelscope/ms-cookbook
  ModelScope Cookbook是一份用开源模型构建实际应用的开源指南，涵盖模型选型、推理、微调、评测、RAG和agent，并提供企业知识问答、客服质检分析等可运行示例。
• hr98w/jev-visual
  这是一个面向Apple Silicon的教学实验，使用Qwen3.5和MLX对候选输出评分，回答关于同一图像的多个问题。它包含本地浏览器界面、CLI和HTTP API。

只收录进入 Trendshift 排行榜的仓库，榜单仅用于寻找候选项目，不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目，上榜并不证明质量。