mlabonne/llm-course

외부 오픈소스 저장소를 소개하는 글입니다. HDATF 제품이 아닙니다.

무엇을 하나

LLM(대규모 언어 모델)에 입문하려는 학습자를 위한 강좌 자료 모음이며, GitHub README 한 문서에 roadmap 그림, 개념 설명과 참고 자료 링크를 모았습니다. 수학, Python, 신경망을 다루는 선택 과정 LLM Fundamentals, 모델 구축을 다루는 The LLM Scientist, LLM 앱 개발과 배포를 다루는 The LLM Engineer 세 부분으로 나뉩니다. Scientist 과정은 모델 구조, 사전 학습, post-training 데이터, 미세조정, 선호도 정렬, 평가, 양자화와 모델 병합을 다룹니다. Engineer 과정은 모델 실행, vector storage, RAG(검색 증강 생성), agent, 추론 최적화, 배포와 보안을 다룹니다. 미세조정, 양자화, 병합 실습 notebook은 저장소 밖 Google Colab 링크로 제공되며, 일부 설명에는 RunPod, Hugging Face Hub, ZeroGPU 같은 외부 서비스가 나옵니다. 저장소는 README, 라이선스와 그림 파일로 구성된 읽기 자료여서 설치 과정이 없으며, README는 강좌를 계속 무료로 둔다고 밝힙니다. notebook 내용, GPU 요구 사항과 링크된 자료의 이용 조건은 확인하지 못했습니다. notebook 제목은 Llama 2, Llama 3.1, Mistral-7b 같은 특정 모델을 기준으로 하므로 실행 전에 라이브러리 버전을 확인해야 합니다.

라이선스

Apache-2.0 허용 범위가 넓고 특허 사용 허락이 포함됩니다. 상업적 이용이 가능하며 고지 문구를 유지하고 변경 사실을 밝혀야 합니다.

같은 분야 저장소

• Gathin23/tv-vibehack
  TV 소유자가 Android TV와 Google TV에서 광고 서비스, 텔레메트리(사용 정보 전송) 앱, 기본 설치 앱을 끌 수 있게 하는 프롬프트와 스크립트 모음입니다. 네이티브 런처 앱도 함께 들어 있습니다. README는 처음 작업을 Claude Code가 실제 TV에서 PROMPT.md로 진행했다고 적습니다. TV에서 USB 디버깅을 켜고 화면에서 컴퓨터 연결을 허용하면, 셸 권한이 있는 코딩 어시스턴트가 프롬프트를 따라 진행하며 남길 앱을 묻습니다. ADB(Android 디버그 연결)로 패키지와 설정을 백업하고, pm disable-user로 앱을 끈 뒤 단계마다 TV 화면 캡처로 결과를 확인합니다. tools/restore.sh로 해당 패키지와 기존 런처를 다시 켤 수 있습니다. Java로 만든 런처는 설치된 앱을 보여 주고 앱 네 개를 dock에 고정하며 HDMI와 Live TV 입력을 바꿀 수 있고, 인터넷 권한이 없습니다. 런처 빌드에는 JDK 17과 Android SDK 34가, 수동 도구에는 Python 3과 adb-shell이 필요합니다. README에 시험한 기종으로 적힌 다섯 모델의 목록이 들어 있고, Samsung, LG, Fire TV는 지원 대상에서 제외됩니다. 대부분의 목록은 업데이트 서비스도 끄므로 펌웨어 업데이트는 그 서비스를 다시 켠 뒤에만 받을 수 있습니다.
• lucannez64/darling-lol
  macOS용 League of Legends 클라이언트를 x86-64 Linux에서 시험하려는 개발자를 위한 Darling 실행 환경 패치와 연결 도구 모음입니다. 완성된 게임 실행기가 아니라 그래픽, 오디오, 입력과 시작 오류의 호환성을 다루는 실험 프로젝트입니다. 고정된 Darling 소스와 별도로 받은 공식 게임 설치본을 준비해 패치된 실행 환경에서 클라이언트와 게임을 실행하는 것이 목적입니다. 저장소에는 소스 패치와 빌드, 설치, 회귀 검사 도구가 있으며 게임 파일이나 계정 데이터베이스, 토큰은 포함하지 않습니다. Linux 5.14 이상, X11 또는 Xwayland, Vulkan/OpenGL 하드웨어 드라이버, 빌드 의존성과 Python 3.12 이상이 필요합니다. 실행 환경 빌드와 게임 설치는 별도 작업이므로 저장소를 받는 것만으로 게임이 작동하지 않습니다. 작성자는 유지보수에 쓸 시간이 제한적이며 다른 PC의 새 체크아웃을 처음부터 끝까지 검증하지 못했다고 밝힙니다. README는 영구 계정 정지 위험을 명시하며, 호환성 수정은 Riot의 승인을 뜻하지 않고 소개된 성능도 여기서 독립 검증하지 않았습니다.
• darlinghq/darling
  가상머신 없이 macOS 프로그램을 Linux에서 실행하려는 개발자를 위한 호환 실행 환경입니다. macOS 실행 파일과 필요한 자료를 받아 Linux 위의 실행 환경에서 작동하도록 하는 것이 목적입니다. 공식 README는 Mach-O 로더, 사용자 공간의 darlingserver와 Darwin 인터페이스 및 Apple 프레임워크 재구현을 설명하며 내부 소스를 여기서 독립 감사한 것은 아닙니다. 일부 명령줄 도구는 작동하지만 화면이 있는 앱 지원은 개발 중이고 Xcode 자체도 아직 지원하지 않습니다. 제공되는 공식 패키지나 문서의 의존성을 갖춘 소스 빌드로 시작한 뒤 실행할 앱은 별도로 준비해야 합니다. 빌드 안내는 x86-64 Linux와 Clang, CMake 등의 도구, 하위 모듈과 보조 라이브러리를 요구합니다. DPREFIX는 macOS와 비슷한 파일 구조를 만들지만 overlayfs를 사용하므로 NFS나 eCryptfs 같은 저장 위치에는 제한이 있습니다. 실행 환경 설치가 특정 앱의 동작을 보장하지 않으며 커뮤니티 패키지는 프로젝트가 검증하지 않는다고 명시합니다.
• chenglou/handwired
  Handwired는 프로그램 논리를 신경망 형태로 쓰는 MIT 라이선스 TypeScript 프로젝트입니다. 프로그램은 32-bit 부동소수점 위의 고정된 연산 목록이며, 대부분 가중합과 ReLU 곱이고 0 또는 1로 맞추는 반올림과 표 읽기가 더해지며, 가중치는 학습 없이 사람이 적습니다. README는 일반 JavaScript를 신경망으로 바꾼다고 소개합니다. docs는 기존 JavaScript 소스를 바꾸는 도구는 없다고 밝히며, 프로그램은 Circuit에 연산을 덧붙이는 builder code로 씁니다. if-else는 두 분기를 모두 계산한 뒤 0이나 1인 값이 하나를 고르는 산술식이 되며, README는 이로써 프로그램 전체가 미분 가능하다고 하고 docs는 반올림과 표 읽기에 gradient 옵션을 따로 요구합니다. 프로그램은 cell로 된 Float32Array 하나를 읽고, host JavaScript가 입력을 써 넣어 평가를 실행한 뒤 다음 상태를 되돌려 쓰고 결과를 DOM에 그립니다. 프로그램은 CPU의 JavaScript에서 실행되며, JSON 검색 데모만 WebGPU shader로 바꿔 생성된 JSON 문서 100,000개를 키 입력마다 검색합니다. 데모는 프로그램 하나가 창 3개와 dock을 움직이는 HandwiredOS, 배치 신경망을 프로그램의 gradient로 학습한 사진 갤러리, JSON 검색 페이지입니다. 시작하려면 Bun이 필요하고(프로젝트가 시험한 버전은 1.4.3), bun install과 bun start로 데모 사이트를 열며 새 앱은 토글 스위치 template에서 시작합니다. lab 상태 문서는 코드 작성 순서에 따라 gradient가 달라지는 문제 같은 알려진 문제를 적고 있고, lab 폴더에는 예전 실험이 있습니다.
• nyacg/do-on-container
  do-pool은 저장소 do-on-container에 있는 TypeScript 실험입니다. 같은 Cloudflare Durable Object 클래스를 진짜 Durable Object로 실행하거나, Cloudflare Containers 안의 workerd에 container당 수백 개씩 모아 실행합니다. 게임 loop, 접속 상태 표시, 외부 feed, 모델 응답을 기다리는 AI 에이전트처럼 깨어 있지만 하는 일이 적은데도 깨어 있는 시간만큼 요금을 내는 객체가 대상입니다. POST.md에서 이런 객체 1,000개의 한 달 비용은 pool 약 22달러, 진짜 Durable Object 약 4,050달러였고, 주로 hibernate하는 객체는 진짜 Durable Object가 맞다고 적습니다. placement 객체가 객체를 container에 배정하고 CPU와 연결 통계로 node 수를 조절하며, 바쁜 node의 객체를 여러 개씩 옮기고 배정마다 epoch로 낡은 이동을 막습니다. node마다 30초에 한 번 바뀐 객체 전부를 R2 segment 하나와 manifest로 쓰고, SIGTERM을 받으면 먼저 모두 저장합니다. 갑작스러운 장애에서는 최대 30초 분량의 쓰기를 잃을 수 있고, 글의 SIGKILL 시험에서는 10건 중 5건이, drain 시험에서는 10건 모두 남았습니다. container 위치는 고를 수 없으며, 글의 브라우저 측정에서 pool 왕복 시간은 약 80ms, 진짜 Durable Object는 약 20ms였습니다. 실행하려면 Cloudflare 계정과 API token, R2 bucket, linux/amd64 이미지를 빌드할 Docker가 필요하며, 상태 endpoint는 공개이고 관리 호출만 token을 요구합니다. 글은 초안으로 표시되어 있고, 저장소에는 라이선스 파일이 없으며, 데모는 실시간 커서와 Yjs 공동 편집기 두 가지입니다.

Trendshift 순위 목록에 오른 저장소만 담았고, 목록은 후보를 찾는 데만 썼습니다. 순위 숫자는 옮기지 않았습니다. 설명과 라이선스, 별 수는 각 GitHub 저장소에서 확인했습니다. 해설은 우리의 판단입니다. 이 프로젝트들을 직접 시험한 것은 아니며, 상승 목록에 올랐다고 품질이 증명되지는 않습니다.