BLUEPRINT
기술 스택
| 컴포넌트 | 기술 선정 | 이유 |
|---|---|---|
| 프로그래밍 언어 | Python | AI/ML 생태계가 가장 성숙 |
| 훈련 프레임워크 | Unsloth / PEFT / MLX | 멀티 백엔드 자동 적응, NVIDIA GPU·Apple Silicon·CPU 커버 |
| 훈련 방법 | QLoRA (PEFT) | 4-bit 양자화, 단일 GPU로 훈련 가능, 소비자급 하드웨어 친화적 |
| 모델 형식 | SafeTensors | 안전 (pickle 위험 없음), 빠른 로딩, HuggingFace 표준 |
| 추론 런타임 | llama.cpp / Ollama | 크로스 플랫폼, 경량, 양자화 모델 지원 |
| 설정 형식 | YAML | 사람이 읽기 쉽고, 편집하기 쉬움 |
| 패키지 관리 | pip / conda | Python 표준 생태계 |