tashfeenahmed/freellmapi

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

무엇을 하나

FreeLLMAPI는 여러 LLM provider의 무료 사용량을 OpenAI 호환 /v1 API 하나로 묶습니다. router가 쓸 수 있는 모델을 고릅니다. 한 provider가 rate limit에 걸리면 다른 곳으로 넘기고, 무료 한도를 넘지 않도록 키별 사용량을 기록합니다.

ATF에 주는 도움

rate limit에 걸리면 다른 provider로 넘기는 방식과 키별 사용량 기록은 Harness가 여러 executor에 걸쳐 일을 다루는 방식에 참고할 수 있습니다. 다만 프로젝트는 개인 실험 용도로만 쓰라고 밝힙니다.

라이선스

MIT 허용 범위가 넓습니다. 저작권 표시를 유지하면 상업적 이용과 수정이 가능합니다.

같은 분야 저장소

• google-research/timesfm
  TimesFM은 Google Research가 만든 시계열 예측용 사전학습 foundation model입니다. 최신 3.0 버전은 다변량 예측과 과거 및 미래 covariate 지원을 더했습니다.
• antirez/ds4
  DeepSeek V4 Flash, GLM 5.x 같은 몇몇 대형 언어 모델을 일반 소비자용 하드웨어에서 돌리는 작은 native 추론 엔진 DwarfStar입니다. Metal, CUDA, ROCm을 대상으로 합니다. 프로젝트가 직접 만든 GGUF 파일만 씁니다.
• diegosouzapw/OmniRoute
  OmniRoute는 여러 모델 제공자를 하나의 endpoint 뒤에 묶어 Claude Code, Codex, Cursor, Cline 같은 도구에서 쓰게 하는 MIT 라이선스 AI gateway입니다. 할당량을 고려한 자동 전환, 토큰 압축, 제공자 무료 등급을 보여 주는 대시보드를 제공합니다.
• decolua/9router
  9Router는 Claude Code, Codex, Cursor, Cline 같은 AI 코딩 도구를 40곳이 넘는 제공자에 연결하는 라우터입니다. 구독 모델에서 저렴한 모델, 무료 모델 순으로 자동 전환하고 tool 결과를 압축해 토큰을 줄입니다.
• deepseek-ai/DeepSpec
  DeepSpec은 speculative decoding용 draft 모델을 학습하고 평가하는 코드베이스입니다. 데이터 준비, draft 모델 구현, 캐시해 둔 target 모델 출력으로 하는 학습, 벤치마크 과제에서의 acceptance 측정을 담고 있습니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.