Niko1221/Strata

本页介绍外部开源仓库，并非 HDATF 产品。

它做什么

这是在配备NVIDIA GPU的Windows和Linux电脑上运行Qwen3.8-Flash-Next的本地推理引擎。仓库介绍了兼容OpenAI和Anthropic的本地API以及可选图像输入。

许可证

MIT 宽松许可。保留版权声明即可商用和修改。

同领域的其他仓库

• firelex/jeff
  这是对Qwen3.5和Gemma 4进行微调的分类模型。它接收自然语言描述的情境和选项，不生成文本，直接返回各选项的概率。
• Low-Zi-Hong/ESP32s3-LLM-Cluster
  这是使用七个ESP32-S3节点和1.58位量化的分布式语言模型推理项目。主节点处理分词和嵌入，通过SPI连接的节点处理模型层。
• basetenlabs/baseten-switch
  这是在原生供应商和 Baseten 模型之间切换受支持编程执行器请求的本地 macOS 应用及网关，提供全局路由开关和客户端模型映射，目前处于测试阶段。
• NVIDIA/Model-Optimizer
  提供量化、剪枝、蒸馏和推测解码的模型优化库。可导出供下游推理框架使用的优化检查点。
• deepopen-com/deepopen
  这是基于 Laya 的多语言结构化决策引擎，不逐个生成词元，而是通过一次前向传播完成多维分类。

只收录进入 Trendshift 排行榜的仓库，榜单仅用于寻找候选项目，不转载名次。说明、许可证和星标数来自各 GitHub 仓库。解读是我们自己的判断。我们尚未测试这些项目，上榜并不证明质量。