basetenlabs/baseten-switch

来源
GitHub
首次上榜日期
领域
模型推理
GitHub 星标数
60
主要语言
Go

本页介绍外部开源仓库,并非 HDATF 产品。

basetenlabs/baseten-switch

它做什么

这是在原生供应商和 Baseten 模型之间切换受支持编程执行器请求的本地 macOS 应用及网关,提供全局路由开关和客户端模型映射,目前处于测试阶段。

对 ATF 的帮助

考虑 Harness 连接外部编程执行器时,可以比较基于网关的模型切换方式,同时考虑其 macOS 支持范围和测试状态。

许可证

MIT 宽松许可。保留版权声明即可商用和修改。

同领域的其他仓库

  • deepopen-com/deepopen
    这是基于 Laya 的多语言结构化决策引擎,不逐个生成词元,而是通过一次前向传播完成多维分类。
  • firelex/jeff
    这是对Qwen3.5和Gemma 4进行微调的分类模型。它接收自然语言描述的情境和选项,不生成文本,直接返回各选项的概率。
  • ninjahawk/livenerf
    这是追踪模型发布后能力变化的长期基准,使用固定提示词、锁定的 CLI 版本、固定评分器和留存的原始日志。
  • Niko1221/Strata
    这是在配备NVIDIA GPU的Windows和Linux电脑上运行Qwen3.8-Flash-Next的本地推理引擎。仓库介绍了兼容OpenAI和Anthropic的本地API以及可选图像输入。
  • Low-Zi-Hong/ESP32s3-LLM-Cluster
    这是使用七个ESP32-S3节点和1.58位量化的分布式语言模型推理项目。主节点处理分词和嵌入,通过SPI连接的节点处理模型层。

只收录进入 Trendshift 排行榜的仓库,榜单仅用于寻找候选项目,不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目,上榜并不证明质量。

在 GitHub 上查看 (在新标签页中打开)