Технологический стек

КомпонентТехнологияОбоснование
Язык программированияPythonНаиболее зрелая экосистема AI/ML
Фреймворк обученияUnsloth / PEFT / MLXМульти-бэкенд автоадаптация, покрывающая NVIDIA GPU, Apple Silicon, CPU
Метод обученияQLoRA (PEFT)4-битная квантизация, обучение на одном GPU, дружественно к потребительскому оборудованию
Формат моделиSafeTensorsБезопасный (без риска pickle), быстрая загрузка, стандарт HuggingFace
Среда выполнения инференсаllama.cpp / OllamaКроссплатформенность, лёгкость, поддержка квантизированных моделей
Формат конфигурацииYAMLЧеловекочитаемый, легко редактируемый
Управление пакетамиpip / condaСтандартная экосистема Python