Vibra-Ingenn/Janus

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

무엇을 하나

gguf model을 자기 컴퓨터에서 돌리는 Go 실행 파일 하나입니다. llama.cpp를 써서 AMD와 Intel, NVIDIA 그래픽의 Vulkan으로 돌리고 없으면 CPU로 돌리며, OpenAI와 같은 모양의 API로 chat completions와 models를 엽니다. 다시 켜지 않고 model을 바꾸고, 추론 부분을 따로 떼어 내고, chat template을 gguf 정보에서 읽습니다. Python과 Docker가 필요하지 않습니다.

ATF에 주는 도움

Harness는 AI 작업을 하도록 외부 실행기를 연결하는데, 자료가 밖으로 나갈 수 없어 공장 안 컴퓨터에서 끝내야 하는 작업도 있습니다. 실행 파일 하나로 자기 하드웨어에서 OpenAI 모양 API에 답하는 방식은 그런 경우를 볼 때 비교해 볼 만합니다.

라이선스

MIT 허용 범위가 넓습니다. 저작권 표시를 유지하면 상업적 이용과 수정이 가능합니다.

같은 분야 저장소

• magnitudedev/magnitude
  사용자 하드웨어에서 커널을 컴파일하고 조정하는 에이전트용 추론 엔진입니다. Apple Silicon, NVIDIA, AMD 또는 CPU에서 공개 모델을 실행하며 데스크톱 앱과 CLI로 기존 에이전트에 연결합니다.
• ProjectDMX/DMI
  LLM 추론과 학습 중 내부 상태를 살펴보는 분리형 비동기 관측 백엔드입니다. HuggingFace, vLLM, Megatron-LM 연동을 제공하는 연구 미리보기 단계이며 API는 바뀔 수 있습니다.
• ninjahawk/livenerf
  출시 후 모델 능력의 변화를 추적하는 장기 벤치마크입니다. 고정한 프롬프트, CLI 버전, 채점 기준과 보관한 원시 로그를 사용합니다.
• deepopen-com/deepopen
  Laya 기반의 다국어 구조화 의사결정 엔진입니다. 토큰을 차례로 생성하지 않고 한 번의 순전파로 여러 차원을 분류합니다.
• basetenlabs/baseten-switch
  지원하는 코딩 실행기의 요청을 기본 제공자와 Baseten 모델 사이에서 전환하는 로컬 macOS 앱과 게이트웨이입니다. 전체 전환 스위치와 클라이언트별 모델 설정을 제공하며 베타 단계입니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.