Tencent-Hunyuan/Hy-MT2

출처
GitHub
처음 오른 날
분야
모델 추론
GitHub 별 수
814
주 언어
Python

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

Tencent-Hunyuan/Hy-MT2

무엇을 하나

Hy-MT2는 Tencent Hunyuan 팀이 공개한 번역 전용 언어 모델 묶음으로, 1.8B, 7B, 전문가 혼합(MoE) 구조의 30B-A3B 세 크기가 있습니다. 33개 언어 사이의 번역을 지원하며, 지원 언어 표에 한국어와 일본어가 들어 있습니다. 원문과 번역 지시를 prompt로 넣으면 번역문을 내고, README는 용어 지정, 문체, 개인화, 구분 기호 처리, 구조화 자료 번역용 prompt 양식을 제공합니다. 최대 context 길이는 8192 token이고 기본 system prompt가 없어서, 긴 문서는 나눠 넣는 처리가 필요합니다. 모델 파일을 줄인 FP8과 GGUF 양자화 모델은 2비트와 1.25비트 형식까지 있고, README는 1.8B 모델을 1.25비트로 양자화하면 저장 공간이 약 440MB라고 소개합니다. 실행에는 trust_remote_code(모델 저장소의 코드를 그대로 실행하는 설정)를 켠 transformers 5.6.0 이상이나 소스에서 빌드한 vLLM, SGLang이 필요하고, README는 llama.cpp에서 저비트 형식을 쓰려면 pull request 22836의 STQ kernel이 필요하다고 안내합니다. LLaMA-Factory와 DeepSpeed로 LoRA나 전체 미세 조정을 할 수 있으며, 학습 안내 문서는 1.8B에 24GB 이상 GPU 1장, 7B LoRA에 80GB GPU 1장, 30B에 80GB GPU 8장을 요구합니다. 지시를 따르는 번역을 평가하는 IFMTBench 자료도 CC-BY-4.0으로 공개했으며, 6가지 제약 유형을 규칙과 LLM 채점으로 평가합니다. 모델 라이선스는 LICENSE.txt 기준 Apache 2.0이며, README의 성능 비교 수치는 이번에 따로 확인하지 못했습니다.

라이선스

자체 라이선스 표준이 아닌 자체 라이선스입니다. 재사용 전에 라이선스 파일을 직접 읽어야 합니다.

같은 분야 저장소

  • Ebony-Vinyl/dsh-our-free-model
    dsh 에이전트를 외부 모델 서비스에 연결하는 플러그인이며 모델을 로컬에서 실행하지는 않습니다. 대화와 도구 결과, 선택적으로 이미지를 외부 게이트웨이에 보내고 답변이나 도구 호출을 받습니다. 어댑터는 모델 목록을 갱신하고 사용 가능 여부를 확인하며 여러 응답 규격을 호스트의 실시간 출력 형식으로 바꿉니다. 다른 프로그램이 호출할 수 있는 OpenAI 호환 로컬 전달 서비스와 로컬 사용 기록도 제공합니다. 시작하려면 호환되는 dsh 호스트와 지원되는 Node.js 실행 환경, 네트워크가 필요합니다. Kilo는 무료 모델의 비로그인 호출을 공식 지원하지만 IP 기준 호출 제한을 둡니다. OpenCode 경로는 클라이언트 식별 정보도 흉내 내므로 모든 경로를 공식 공개 API로 보기보다 이용 권한과 약관을 별도로 확인해야 합니다. 다른 계정 채널과 데스크톱 EAC 경로에는 별도 로그인이나 승인이 필요하며 무료 게이트웨이를 무제한 서비스나 민감한 운영 자료용 비공개 서비스로 보아서는 안 됩니다.
  • deepseek-ai/DeepGEMM
    행렬 곱셈과 융합 MoE 등 언어 모델 연산을 위한 CUDA 텐서 코어 커널 라이브러리입니다. DeepJIT으로 실행 시점에 커널을 컴파일합니다.
  • Edge0-AI/Edge0
    Edge0는 SSD 전문가 오프로딩, Recover-LoRA와 라우팅 예측을 사용하는 스트리밍 MoE 추론 프레임워크입니다. README는 공개된 플랫폼별 엔진과 2026년 4분기 예정인 통합 프레임워크를 구분합니다.
  • Vibra-Ingenn/Janus
    gguf model을 자기 컴퓨터에서 돌리는 Go 실행 파일 하나입니다. llama.cpp를 써서 AMD와 Intel, NVIDIA 그래픽의 Vulkan으로 돌리고 없으면 CPU로 돌리며, OpenAI와 같은 모양의 API로 chat completions와 models를 엽니다. 다시 켜지 않고 model을 바꾸고, 추론 부분을 따로 떼어 내고, chat template을 gguf 정보에서 읽습니다. Python과 Docker가 필요하지 않습니다.
  • magnitudedev/magnitude
    사용자 하드웨어에서 커널을 컴파일하고 조정하는 에이전트용 추론 엔진입니다. Apple Silicon, NVIDIA, AMD 또는 CPU에서 공개 모델을 실행하며 데스크톱 앱과 CLI로 기존 에이전트에 연결합니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.

GitHub에서 보기 (새 탭에서 열림)