JustVugg/colibri

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

무엇을 하나

외부 engine 의존성 없이 순수 C로 작성해, 큰 MoE(mixture-of-experts) 모델을 일반 소비자용 하드웨어에서 돌리는 추론 엔진입니다. VRAM, RAM, 저장장치를 하나의 메모리 계층으로 다루고 expert를 디스크에서 스트리밍합니다.

ATF에 주는 도움

고객이 이미 가진 하드웨어에서 모델을 돌려야 하는 AX consulting 사례에 참고할 수 있습니다. 프로젝트 스스로 속도를 보장하지 않는다고 밝히므로, 그대로 쓰기보다 연구 참고용에 가깝습니다.

라이선스

Apache-2.0 허용 범위가 넓고 특허 사용 허락이 포함됩니다. 상업적 이용이 가능하며 고지 문구를 유지하고 변경 사실을 밝혀야 합니다.

같은 분야 저장소

• router-for-me/CLIProxyAPI
  Codex, Claude Code, Antigravity, Grok Build 같은 CLI 도구를 OpenAI, Gemini, Claude 호환 API로 감싸는 Go 프록시 서버입니다. 호환되는 client나 SDK에서 이 모델들을 쓸 수 있고, 여러 CLI 계정도 함께 연결할 수 있습니다.
• deepseek-ai/DeepSpec
  DeepSpec은 speculative decoding용 draft 모델을 학습하고 평가하는 코드베이스입니다. 데이터 준비, draft 모델 구현, 캐시해 둔 target 모델 출력으로 하는 학습, 벤치마크 과제에서의 acceptance 측정을 담고 있습니다.
• Robbyant/lingbot-map
  스트리밍 방식으로 3D 복원을 하는 feed-forward 모델입니다. Geometric Context Transformer가 anchor context, 자세 기준 창, 궤적 memory를 써서 긴 프레임 시퀀스에서 생기는 드리프트를 바로잡습니다.
• diegosouzapw/OmniRoute
  OmniRoute는 여러 모델 제공자를 하나의 endpoint 뒤에 묶어 Claude Code, Codex, Cursor, Cline 같은 도구에서 쓰게 하는 MIT 라이선스 AI gateway입니다. 할당량을 고려한 자동 전환, 토큰 압축, 제공자 무료 등급을 보여 주는 대시보드를 제공합니다.
• lidge-jun/opencodex
  opencodex는 Codex의 Responses API를 다른 공급자의 형식으로 바꿔 주는 로컬 proxy로, streaming과 tool call도 함께 변환합니다. 이를 통해 Codex, Claude Code, Claude Desktop, Grok Build에서 Gemini, DeepSeek, Ollama 모델 같은 모델을 쓸 수 있습니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.