TheTom/turboquant_plus

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

무엇을 하나

TurboQuant+는 PolarQuant와 Walsh-Hadamard 회전으로 transformer의 KV cache를 압축하는 TurboQuant 연구 구현입니다. Python 참조 구현, 검증 논문, benchmark 데이터를 담고 있습니다.

ATF에 주는 도움

우리 제품과는 관련이 없습니다. 순위 목록에 올라 함께 적었습니다.

라이선스

Apache-2.0 허용 범위가 넓고 특허 사용 허락이 포함됩니다. 상업적 이용이 가능하며 고지 문구를 유지하고 변경 사실을 밝혀야 합니다.

같은 분야 저장소

• google-ai-edge/gallery
  기기 안에서 도는 생성형 AI 사례를 보여 주는 앱입니다. 모바일 기기에서 오픈소스 모델을 오프라인으로 직접 써 볼 수 있습니다. thinking mode가 있는 채팅과 Wikipedia 같은 tool을 더하는 agent skill이 들어 있습니다.
• jundot/omlx
  Apple Silicon Mac용 로컬 LLM 추론 서버로, macOS 메뉴 막대에서 관리합니다. continuous batching을 쓰고 KV cache를 메모리와 SSD에 나눠 두어 지난 context를 여러 요청에서 다시 씁니다.
• shiyu-coder/Kronos
  Kronos는 금융 캔들 차트(K-line) 데이터로 사전학습한 decoder-only foundation model 모음입니다. tokenizer가 가격과 거래량 시퀀스를 이산 token으로 바꿉니다. 이 token으로 학습한 Transformer를 예측과 여러 정량 분석 작업에 씁니다.
• karpathy/nanochat
  GPU 노드 한 대에서 자신만의 chat LLM을 학습하고 대화해 볼 수 있는 작은 코드베이스로, tokenization, pretraining, finetuning, 평가, 추론을 모두 다룹니다. depth 설정 하나로 나머지 하이퍼파라미터가 정해집니다.
• Alishahryar1/free-claude-code
  Claude Code, Codex, OpenCode, Hermes 같은 coding agent를 하나의 모델 목록에 연결하는 도구입니다. 목록에는 무료, 유료, 구독, 로컬 모델 제공자가 들어 있습니다. 재시도가 모두 실패하면 설정된 다음 모델로 넘어갑니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.