技術棧

元件技術選型理由
程式語言PythonAI/ML 生態最成熟
訓練框架Unsloth / PEFT / MLX多後端自動適配,涵蓋 NVIDIA GPU、Apple Silicon、CPU
訓練方法QLoRA (PEFT)4-bit 量化,單卡即可訓練,消費級硬體友善
模型格式SafeTensors安全(無 pickle 風險)、快速載入、HuggingFace 標準
推論執行環境llama.cpp / Ollama跨平台、輕量、支援量化模型
設定格式YAML人類可讀,易於編輯
套件管理pip / condaPython 標準生態