技术栈

组件技术选型理由
编程语言PythonAI/ML 生态最成熟
训练框架Unsloth / PEFT / MLX多后端自动适配,覆盖 NVIDIA GPU、Apple Silicon、CPU
训练方法QLoRA (PEFT)4-bit 量化,单卡即可训练,消费级硬件友好
模型格式SafeTensors安全(无 pickle 风险)、快速加载、HuggingFace 标准
推理运行时llama.cpp / Ollama跨平台、轻量、支持量化模型
配置格式YAML人类可读,易于编辑
包管理pip / condaPython 标准生态