mizorewww/laya-mlx

출처
GitHub
처음 오른 날
분야
모델 추론
GitHub 별 수
6,486
주 언어
Python
웹사이트
pypi.org/project/laya-mlx (새 탭에서 열림)

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

mizorewww/laya-mlx

무엇을 하나

Apple Silicon에서 Laya의 구조화된 판단 모델을 실행하는 MLX 런타임입니다. 텍스트 생성이나 PyTorch 런타임, 클라우드 API 없이 로컬 추론을 수행합니다.

ATF에 주는 도움

Harness에서 에이전트 실행과 분리된 로컬 구조화 판단 구성요소를 검토할 때 비교해 볼 만합니다.

라이선스

Apache-2.0 허용 범위가 넓고 특허 사용 허락이 포함됩니다. 상업적 이용이 가능하며 고지 문구를 유지하고 변경 사실을 밝혀야 합니다.

같은 분야 저장소

  • mizorewww/laya-coreml
    Laya의 구조화된 판단 모델을 Apple Core ML과 Neural Engine으로 옮긴 저장소입니다. 토큰을 만들지 않고 기기에서 실행하며, 속도와 에너지 측정값과 Snake 데모를 함께 공개했습니다.
  • jaredpalmer/kev
    사전학습 가중치와 학습 코드, 평가 데이터를 제공하는 Qwen3.5 기반 소형 판단 모델입니다. API는 예 또는 아니오, 객관식, 점수 질문을 지원하며 TypeSafe System One 형식에 맞춥니다.
  • Taichu-AI/ZDTaichu5.0-9B
    텍스트, 이미지, 영상을 지원하며 시각 이해, 공간 추론, 에이전트 도구 사용, 체화 AI 연구를 다루는 멀티모달 모델입니다. Qwen3.5-9B 언어 모델과 C-RADIOv4-H 시각 인코더를 결합합니다.
  • whitecircle/halo
    언어 모델과 멀티모달 모델의 사전학습, 지도 미세조정, 선호도 최적화, 비동기 다중 턴 강화학습을 지원하는 학습 프레임워크입니다. Hugging Face 모델을 단일 GPU나 여러 노드에서 학습합니다.
  • NVIDIA/Model-Optimizer
    양자화, 가지치기, 증류와 추측 디코딩을 제공하는 모델 최적화 라이브러리입니다. 추론 프레임워크용 최적화 체크포인트를 내보냅니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.

GitHub에서 보기 (새 탭에서 열림)