BLUEPRINT
技术栈
| 组件 | 技术选型 | 理由 |
|---|---|---|
| 编程语言 | Python | AI/ML 生态最成熟 |
| 训练框架 | Unsloth / PEFT / MLX | 多后端自动适配,覆盖 NVIDIA GPU、Apple Silicon、CPU |
| 训练方法 | QLoRA (PEFT) | 4-bit 量化,单卡即可训练,消费级硬件友好 |
| 模型格式 | SafeTensors | 安全(无 pickle 风险)、快速加载、HuggingFace 标准 |
| 推理运行时 | llama.cpp / Ollama | 跨平台、轻量、支持量化模型 |
| 配置格式 | YAML | 人类可读,易于编辑 |
| 包管理 | pip / conda | Python 标准生态 |
